1897年9月23日生於江西興國壩南區竹壩村，客家人。
1909年就讀於興國北匯小學。
1912年入贛州中學。
1916年在家鄉創辦“憂道小學”，免費招收工農子弟。
1919年考入雲南講武堂韶關分校，次年轉入廣州護國第2軍講武堂。畢業後加入贛軍，任排長、連長、代營長。
1924年因不滿軍閥混戰而脫離贛軍，投奔廣東革命政府，被任命為廣州警衛軍講武堂區隊長，參加過孫中山領導的北伐和鎮壓廣州商團叛亂。
1925年，陳奇涵率黃埔學生隊兩次東征，討伐軍閥陳炯明。
1925年初進入黃埔軍校任教，2月加入中國***產黨。在黃埔軍校，陳奇涵歷任學生隊長、連長、政治大隊長，少校軍銜。黃埔軍校是國***合作的學校，有不少的***產黨員和***青團員。
1926年6月率壹批中***黨員到贛南等地發動群眾，建立中***組織，開辦工農運動訓練班，並創辦曙光印刷公司和《貫徹日報》，宣傳革命思想。 1928年春任贛南特委軍事部部長兼省軍事部辦事處主任。
1929年春任興國縣委常委、革命委員會黨團書記兼興（國縣）橋（頭區）寧（都縣）行動委員會書記。
1930年春任贛西南紅軍學校第3分校教育長、贛西南特委軍委參謀長兼南路縱隊政委。
1930年10月任中國工農紅軍第3軍教導團團長，紅3軍、紅4軍參謀長，參加中央蘇區第壹至第三次反“圍剿”。
1932年3月任紅1軍團參謀長，協助林彪等率部參加漳州、水口和樂安宜黃戰役。
1933年春調任江西軍區兼東北戰區指揮部參謀長，協助陳毅等指揮部隊參加中央蘇區第四、第五次反“圍剿”。後因所謂“貪汙”問題被撤職，在軍委武裝動員部做科員。長征途中曾任紅1軍團司令部教育科科長、陜甘支隊第1縱隊教導隊隊長等職。到陜北後，先後任紅壹方面軍司令部作戰科副科長，紅15軍團副參謀長、參謀長等職，協助徐海東等率部參加東征戰役和西征戰役。
1934年10月，陳奇涵隨中央紅軍長征。
1935年11月任紅十五軍團參謀長。參加了長征。 1937年春入抗日軍政大學第2期學習。任軍委教育局（第4局）局長。
1937年8月任中央軍委總參謀部教育局局長。同年冬調任綏德警備區司令員，執行保衛陜甘寧邊區、鞏固黃河防務、清剿土匪、穩定社會秩序等任務。他積極貫徹執行黨的統壹戰線政策，同綏德地區以何紹南為首的國民黨頑固派進行堅決鬥爭；同時堅持積極防禦的戰略方針，以“半渡而擊”的戰術，多次配合主力部隊粉碎日軍對黃河防線的進攻。
1937年10月任陜甘寧邊區綏德警備司令部司令員。
1939年冬起任中央軍委參謀部部長兼延安衛戍司令、抗日軍政大學第3分校校長，重視對特種兵、參謀人員和俄文人才的培養。
1941年2月任中國人民抗日軍政大學第3分校校長。
1942年春調任中央軍委情報部第三室副主任。在延安整風期間，中央軍委對其1933年所受處分予以正式撤銷。
1943年年1月任抗日軍政大學教育長，後入延安中***中央黨校學習。 1945年10月任冀熱遼軍區、冀察熱遼軍區副司令員。
1947年冬起任東滿（吉林）軍區副司令員、遼寧軍區司令員、東北軍區參謀長，曾參加東北1947年冬季攻勢。
1948年攻占吉林、圍困長春和遼沈戰役。
1948年5月任遼南軍區、遼寧軍分區司令員，遼寧省委常委。
1948年12月任東北軍區參謀長。
1949年3月隨軍南下，6月任江西軍區司令員，組織指揮剿匪作戰，殲匪特4萬余人。 1949年12月－1953年1月任中南軍政委員會委員。
1951年被選為中***中南局委員。
1952年當選為江西省政協主席。
1952年12月任代主席。
1953年調任中國人民解放軍軍事審判庭庭長、軍事法院院長。
1954年出任解放軍軍事法院院長，直屬中央軍委，後又擔任最高人民法院副院長。
1954年02月任中國人民解放軍軍事法院軍事法庭庭長。
1954年11月軍事法院任院長。
1955年09月任解放軍監委委員。
1955年09月被授予上將軍銜。
1957年02月任中華人民***和國最高人民法院副院長、黨組委員、審判委員會委員。
1958年任最高人民法院副院長，1969年黨的“九大”召開前夕，
1981年06月19日在北京逝世，終年84歲。