부(父) 김호순(金顥淳)과 모(母) 해주정씨(海州鄭氏) 사이에서 1766년 태어났다. 김태순(金泰淳)에게 입양되었다. 자는 맹여(猛汝)이다. 생원시(生員試)에 합격하고 1805년 대과(大科)에 합격하였다.
1809년 통정대부(通政大夫)를 가자받고 1812년 이조참의(吏曹叅議)가 되고 1814년에 가선대부(嘉善大夫)를 가자받고 1815년에는 전라도관찰사(全羅道觀察使)가 되었다.1822년에는 개성부유수(開城府留守) 1823년에는 평안도관찰사(平安道觀察使)가 되었다.
1825년 이조참판(吏曹叅判) 1827년 공조판서(工曹判書)에 올랐다. 다시 이조판서(吏曹判書)가 되고 형조판서(刑曹判書)가 되었다. 1828년 의정부우참찬(議政府右叅贊)에 오르고 사헌부대사헌(司憲府大司憲)이 되었다.1829년 병조판서(兵曹判書) 호조판서(戶曹判書) 형조판서(刑曹判書)를 거쳐 항해수사(黃海水使)로 좌천되었다. 그뒤 옹진부(甕津府)로 유배되었다가 한달만에 석방되었다.
1829년 9월 9일 왕이 하교하기를
[이 중신(重臣)을 투비하기에 이른 것은 이것을 어찌 내가 좋아서 하였겠는가? 근일(近日) 그를 중용(重用)하였기 때문에 저 무리들이 날조하여 무함하는 욕(辱)을 보게 되었다. 내 마음에 놀라고 한탄함이 이미 이와 같으니 중신(重臣)의 슬픔과 억울함이 응당 어떠하겠는가? 만약 또 이 중신으로 하여금 외방에서 오랫동안 체류하게 한다면 다만 나의 본심이 아닐 뿐만이 아니라 또한 저 무리들이 원하는 것에 꼭 들어 맞을 것이다. 전 판서 김교근을 특별히 분간(分揀)하여 풀어주도록 하라.] 하였다.
1839년 헌종5년 예조판서(禮曹判書)에 제수되고 1840년 공조판서(工曹判書)에 제수되었다.
