자는 명여(明汝) 호는 백야(白冶). 충청남도 홍성 출신. 아버지는 김형규(金衡奎)이다. 3세에 아버지를 여의고 편모 슬하에서 성장하였다.어려서부터 천성이 영민하고 공부보다는 전쟁놀이와 말타기를 좋아하였다. 15세 때인 1904년에는 대대로 내려오던 노복 30여 명을 모아놓고 그들 앞에서 종문서를 불에 태우고 농사를 지어먹고 살 만한 논밭을 골고루 나누어 주었다.
1905년 서울로 올라와 육군무관학교에 입학하였다. 1907년 향리로 돌아와서 호명학교(湖明學校)를 세우고 가산을 정리해 학교 운영에 충당하게 하고 90여 칸의 자기 집을 학교 교사로 제공하였다.그리고 홍성에 대한협회와 기호흥학회의 지부를 조직해 애국계몽운동에 앞장섰다.
1909년 『한성신보』 이사를 역임하였다. 안창호(安昌浩)·이갑(李甲) 등과 서북학회를 세우고 산하교육기관으로 오성학교(五星學校)를 설립해 교감을 역임하였다. 청년학우회 설립에도 협력하였다.
1911년에 북간도에 독립군사관학교를 설립하기 위해 자금조달 차 돈의동(敦義洞)에 사는 족질 김종근(金鍾根)을 찾아간 것이 원인이 되어 2년 6개월간 서대문 형무소에 투옥되었다.
1916년 노백린(盧伯麟)·신현대(申鉉大) 등과 함께 박상진(朴尙鎭)·채기중(蔡基中) 등이 결성한 광복단에 가담해 격렬한 항일투쟁을 전개하였다. 1918년 일본의 감시를 피해 만주로 건너가서 대종교(大倧敎)에 입교하고 3·1독립선언에 전주곡이 되는 무오독립선언서에 39명 민족지도자의 한 사람으로 서명하였다.
그리고 서일(徐一)을 중심으로 한 대한정의단(大韓正義團)에 가담해 군사 책임을 맡고 정의단을 군정부(軍政府)로 개편한 다음 사령관으로 추천되었다.
1919년 대한민국임시정부의 권고를 받아들여 북로군정서(北路軍政署)로 개칭하고 소속 무장독립군의 총사령관이 되어 독립군 편성에 주력하였다.우선 독립군 양성을 위해 왕청현 십리평(汪淸縣十里坪) 산곡에 사관연성소를 설치하였다. 스스로 소장이 되어 엄격한 훈련을 시키면서 무기 입수에 전력하였다.
1920년 9월 제1회 사관연성소 졸업생 298명을 배출시켰다.10월 일본군 대부대가 독립군 토벌을 목적으로 만주로 출병하자 소속 독립군을 백두산으로 이동시키던 도중 청산리(靑山里)에서 일본군과 만나 전투가 시작되었다. 10월 21일 청산리 백운평전투를 시작으로 같은 달 26일 고동하전투를 끝으로 청산리전투가 전개되었으며 김좌진 장군의 북로군정서와 홍범도 장군 휘하 부대가 서로 합동작전을 벌인 끝에 일본군 3 000여 명을 살상하는 대전과를 올렸다.
특히 김좌진 장군 휘하의 북로군정서군은 백운평전투 천수평전투 어랑촌전투 등에서 큰 전승을 거두어 청산리대첩을 승리로 이끄는 데 커다란 공헌을 하였다. 전술전략이 기적과도 같은 승리를 거두어 독립전투상 금자탑을 세운 것이다.
그 뒤 북진을 강행하며 그 해 말에 러시아와 인접한 북만주 밀산(密山)에 도착하였다. 집결한 10여 개의 독립군단체가 통합 대한독립군단이 결성되자 부총재로 취임하였다. 약소민족의 독립을 원조한다는 레닌정부의 선전에 한가닥 희망을 걸고 많은 사람이 북쪽 러시아로 넘어갈 때 김좌진도 우수리강을 건넜다.그러나 생각한 바 있어 만주로 되돌아와 흩어진 동지들을 재결합해 대기하다가 1925년 3월 신민부(新民府)를 창설하고 군사부위원장 및 총사령관이 되었다. 또한 성동사관학교(城東士官學校)를 세워 부교장으로서 정예사관 양성에 심혈을 기울였다.
이 때 대한민국임시정부가 국무위원으로 임명했으나 취임하지 않고 독립군 양성에만 전념하였다.1927년 많은 간부가 일제에 붙잡히자 신민부를 재정비해 중앙집행위원장으로서 신민부를 통솔하였다. 1929년 신민부의 후신으로 한국총연합회(韓國總聯合會)가 결성되자 주석으로 선임되었다. 1930년 1월 24일 중동철도선 산시역(山市驛) 앞 자택에서 200m 거리에 있는 정미소에서 공산주의자 박상실(朴尙實)의 흉탄에 맞아 순국하였다.
1962년 건국훈장 대한민국장이 추서되었다.
