자는 극양(克讓) 호는 진재(眞宰) 산초(山樵) 묵초(默樵). 척화대신 김상헌(金尙憲)의 현손이며 김수항(金壽恒)의 넷째 아들 김창업(金昌業)의 서자로 태어났다. 진주 동쪽의 소촌역(召村驛) 찰방을 지냈다.서얼로서 찰방에 등용될 수 있었던 것은 조선 후기 서얼소통(庶孼疏通)과 세력 있는 명문 집안 출신이라는 후광을 입었던 때문이었을 것으로 생각된다. 그의 구체적인 행적에 관한 기록은 아직 발견되지 않았다.
그러나 둘째 아들 김용행(金龍行)의 친구인 박제가(朴齊家)의 「봉별금장진재북유시사수(奉別金丈眞宰北遊詩四首)」에 의하면 영조 말년에 중국 북방을 여행한 것으로 보인다.
정선(鄭敾)이 이룬 진경산수화풍(眞景山水畵風)을 이어받아 강희언(姜熙彦) 김응환(金應煥) 등과 함께 정선파(鄭敾派)를 형성하였다.
그러나 정선이나 정선파 화가들의 경향에서 벗어나 자신의 화풍을 갖춘 화가로 평가된다. 그는 금강산 한양 근교 단양 영남 지방 등 명승을 여행하면서 진경산수 제작에 몰두하였다.
주로 바다 바위와 물이 흐르는 계곡을 소재로 선택하였다. 실경을 대담하게 생략한 근대적 화면을 구성하였다. 또한 수묵과 담채의 가벼운 표현과 바위의 붓질을 중복하여 입체감을 가미시킨 표현은 서구적인 수채화를 연상하게 한다.
그러나 그의 작품은 당대의 대가인 정선이나 강세황(姜世晃)의 화격(畵格)에는 이르지 못하였다.
대표작으로는 「동산계정도(東山溪亭圖)」(간송미술관 소장) 『금강산화첩(金剛山畵帖)』(국립중앙박물관 소장) 『진경산수화첩(眞景山水畵帖)』(국립중앙박물관 소장) 「총수산도(蔥秀山圖)」(국립중앙박물관 소장) 『영남명승기행사경첩(嶺南名勝紀行寫景帖)』(동아대학교박물관 소장) 등이 전해 온다.