자는 필형(必亨) 호는 죽취(竹醉). 동지중추부사 김광찬(金光燦)의 증손으로 할아버지는 영의정 김수항(金壽恒)이고 아버지는 영의정 김창집(金昌集)이며 어머니는 박세남(朴世楠)의 딸이다. 작은아버지 김창흡(金昌翕)에게 수학하였다.1705년 진사가 되고 1710년 세마(洗馬)로 기용되었으며 고양군수를 거쳐 사복시첨정(司僕寺僉正)으로 재직 중 1719년 증광 문과에 병과로 급제 정언(正言)이 되었다.그 뒤 헌납(獻納)·집의(執義)·응교(應敎)·교리(校理)·사간·예조참의·승지 등을 역임하였다.
1722년 아버지가 노론4대신의 한 사람으로서 소론의 김일경(金一鏡)·목호룡(睦虎龍) 등에 의해 사사되자 울산에 유배 뒤에 부령(富寧)으로 이배되었다가 사형당하였다.
조성복(趙聖復)·김민택(金民澤)과 함께 신임사화 때 죽은 삼학사(三學士)의 한 사람으로 꼽힌다.
1725년(영조 1) 관작이 복구되고 좌찬성에 추증되었다.
저서로 『죽취고(竹醉藁)』 편서로는 『증보삼운통고(增補三韻通考)』가 있다.
시호는 충민(忠愍)이다.
숙종(肅宗) 31년(1705) 을유(乙酉) 증광시(增廣試) [진사] 1등(一等) 1[壯元]위
[문과] 숙종(肅宗) 45년(1719) 기해(己亥) 증광시(增廣試) 병과(丙科) 1위
불천위 : 충민공(忠愍公) 김제겸(金濟謙)에게 부조(不祧)의 전(典)을 베풀게 하니, 묘당(廟堂)에서 유소(儒疏)로 인하여 품복(稟復)한 데 따른 것이었다.
불천위일자 : 1861.01.13
