자는 사의(士猗) 호는 벽곡(碧谷). 김제겸(金濟謙)의 증손으로 할아버지는 김원행(金垣行)이고 아버지는 군수 김이유(金履裕)이며 어머니는 유광석(柳光錫)의 딸이다. 김조순(金祖淳)의 육촌아우다.1804년(순조 4)에 진사가 되고 1813년 증광 문과에 장원급제하여 검열·어사등을 거친뒤 1823년 성균관대사성(成均館大司成)이 되고 1826년 이조참의(吏曹叅議)에 오르고 1827년 가선 대부(嘉善大夫)를 가자받고 홍문관부제학(弘文館副提學) 1828년 이조참판(吏曹叅判)이 되었다.
1830년 황해도관찰사(黃海道觀察使) 1833년 이조참판(吏曹叅判) 1834년 형조판서(刑曹判書) 예조판서(禮曹判書) 1935년 헌종1년에 다시 형조판서(刑曹判書)가 되고 1836년 병조판서(兵曹判書)가 된뒤 1938년 다시 형조판서(刑曹判書)가 되었다.
1839년 헌종5년에 평안도관찰사(平安道觀察使)가 되고 1841년 사헌부대사헌(司憲府大司憲)이 된후 의정부우참찬(議政府右叅贊)을 거쳐 1843년 형조판서(刑曹判書) 한성부판윤(漢城府判尹)이 되었다.
1846년 예조판서(禮曹判書)된뒤 1848년 판돈녕으로 기로사(耆老社)에 들어갔고 1849년 철종즉위년에 수원부유수(水原府留守)로 나갔다가 1851년 다시 형조판서(刑曹判書)가 되었다.
과거에 장원급제할 정도로 실력이 뛰어났으며 문장과 글씨가 뛰어나 효현왕후(孝顯王后)의 지문(誌文)·존호옥책문(尊號玉冊文)·시책문(諡冊文)·제문·행장 및 음기(陰記)를 짓고 썼다. 시호는 효문(孝文)이다.