자는 계근(季謹). 김창집(金昌集)의 증손으로 할아버지는 승지 김제겸(金濟謙)이고 아버지는 김탄행(金坦行)이며 어머니는 한백증(韓百增)의 딸이다. 김이소(金履素)가 형이다.1800년(정조 24) 전령(前令)으로서 별시 문과에 병과로 급제하고 바로 부수찬(副修撰)에 제수되었으며 이어 정언(正言)·승지 등을 역임하였다. 그러나 그 해 정조가 죽고 순조가 즉위한 뒤 정순왕후의 수렴청정이 시작되고 벽파(僻派)가 득세하자 시파(時派)로 몰려 영암에 유배되었다가 이듬해 풀려났다.
1804년 대사성(大司成)을 비롯하여 이듬해 대사간(大司諫)이 되었으며 우주서사관(虞主書寫官)으로 가자되었다.
1806년 홍문관부제학(弘文館副提學)·경기도관찰사·예조판서·형조판서·한성부판윤 1810년 병조판서·공조판서 등을 거쳐 좌참찬을 역임하였다.
또 그 해 대사헌으로 액례군(掖隷軍) 증액을 상소하고 무예별기군을 선발하여 훈련도감에 되돌려 소속되게 하였으며 1812년 수원부유수가 되었다. 지조가 굳었으며 친하고 먼 것을 가리지 않았기 때문에 다른 사람들의 신임이 두터웠다.