抗日戰爭時期，任新四軍第二支隊副司令員，新四軍江南、蘇北總部副司令員，新四軍第壹師師長兼政委，蘇中軍區、江浙軍區司令員兼政委。解放戰爭時期，歷任華中軍區副司令員、華中野戰軍司令員、華東野戰軍副司令員、代司令員、代政委、第三野戰軍副司令員等職。
中華人民共和國成立後，歷任華東軍委副主席，中國人民解放軍副總參謀長兼參謀長，國防部副部長，軍事科學院副院長，第壹政委，中央軍委常委。1955被授予上將軍銜。第壹、二、三屆國防委員會委員，第三、四屆全國人大常委會委員，全國人大常委會第五副委員長，中國生產者黨第七屆候補中央委員，第八、九、十、十壹屆中央委員。在中共中央顧問委員會第壹次全體會議上當選為中央顧問委員會常務委員。