1899년 평안북도 의주에서 태어났다. 1907년 평양 대성학교 사범과를 졸업하고 고향으로 돌아와 일신학교를 세워 교육활동을 전개했다.
1919년 3·1운동이 일어나자 만세운동에 적극적으로 참여했다. 이 때문에 일본 경찰의 체포령이 내려지자 3월 18일 중국 관전현 안자구로 망명했다. 이곳에서 운하진, 장덕진, 박태열 등과 함께 비밀결사단체인 광제청년단을 조직하고 의용대를 편성하는 한편, 군자금 모금활동을 전개했다. 같은 해 5월에는 중국 안동에 위치한 이륭양행 2층에 대한민국임시정부 연통기관을 설치하고 안동교통사무국을 두어 평안남북도와 황해도를 담당했다. 1919년 12월 광복군사령부를 조직하고 군영을 설치해 군사훈련을 실시했다. 이듬해 6월 임시정부에서 파견된 이탁을 중심으로 광복군총영이 조직되자 총영장에 선임되었다. 1920년 7월 광복군총영은 결사대원을 평양과 신의주, 선천, 서울로 보내 미국의회 시찰단이 그 지역을 통과할 때 일제 관청을 파괴하고 일제요인들을 암살하는 활동을 전개했다.
1922년 6월 통군부를 조직하는데 참여했다. 그 해 8월 통군부가 대한통의부로 확대, 발족되었을 때, 군사위원장에 선임되었다. 1923년 6월 신팔균 사령장이 전사하자 사령장을 겸직하며 항일전을 이어나갔다.
1925년 1월 통의부를 중심으로 정의부가 조직되자 사령장에 임명되었다. 이에 소속 독립군을 지휘해 평앙ㄴ북도 초산경찰서의 추목주재소와 외연주재소, 벽동경찰서 여해주재소 등을 습격, 파괴하였다. 1926년 고려혁명당이 조직되자 이에 참여했다. 그 해 12월 옛 동지 김종원의 밀고로 장춘에서 일본 경찰에 체포되었다.
국내로 압송된 후 일제의 재판을 거부하고 1929년에는 33일간 단식투쟁을 했다. 1932년 3월 일제에 의해 강제로 재판정에 나온 후 무기징역을 선고받았다. 그 해 6월 평양에서도 무기징역을 받은 후 일본인의 재판이 필요 없음을 깨닫고 상고를 포기했다. 1934년부터 48일간의 제2차 단식을 통해 옥중투쟁을 이어나갔다. 1944년 공주형무소로 이감되어 그 해 12월 옥중에서 순국했다. 정부에서는 고인의 공훈을 기리기 위하여 건국훈장 대한민국장(1962년)을 추서하였다.
일화ㆍ어록
"나는 세계평화(世界平和)를 완성하기 위하여 '조선독립군(朝鮮獨立軍)' 사령(司令)이 되었다." /1932년 3월 5일 재판정에서 오동진 선생의 발언