김선근(金善根)은 경상북도 안동에서 1823년 김정순(金鼎淳)과 파평윤씨(坡平尹氏) 사이에서 둘째 아들로 태어났다. 뒤에 예조참판(禮曹叅判)을 지낸 김매순(金邁淳)에게 입양되었다.자(字) 인회(仁會)이다.
1855년(철종 6) 생원시에 급제하여 1857년(철종 8) 숭참(崇參) 1861년(철종 12) 공조 정랑을 지냈다. 1863년(철종 14)부터 영유 현령 덕천 군수 평양 서윤 김제 군수 무주 부사 황주 목사 나주 목사 등을 역임하고 1878년(고종 15) 홍주 목사로 재직할 때는 사핵관이 되어 전 충청 감사 조병식(趙秉式)의 비리를 조사하였다.
1880년(고종 17) 동래 부사로 부임하여서는 선정을 베풀어 병사와 백성들로부터 칭송을 들었다. 하지만 1883년(고종 20) 5월 유민 수백 명이 관아에 몰려와 행패를 부리고 옥문(獄門)을 부수고 죄수들을 풀어 주는 사건이 일어나자 그 책임을 물어 파직당했다.
그해 9월 공조 참판에 임명되었다가 한 달 뒤 주진대원(駐津大員)으로 중국 텐진[天津]에 파견되었다. 1885년(고종 22) 강원도 독련어사(督鍊御使)에 이어 원주 안핵사 해방총관을 지내고 이듬해 개성 유수로 옮겼다. 1892년(고종 29) 공조 판서에 올랐다.
