湖南省寧鄉縣人，1903年出生於一個富裕的農民家庭。先後就讀於寧鄉雲山學校、長沙長郡中學、湖南法政專門學校。在雲山學校讀書時，作文《天下興亡匹夫有責》，受到班主任老師謝覺哉的稱讚。1925年加入中國共產主義青年團，1926年加入中國共產黨。1927年春，受黨組織派遣，赴莫斯科中山大學學習。1930年回國後在上海黨中央秘書處工作。1931年5月前往湘贛蘇區，曆任紅軍獨立一師黨代表、中共湘贛省委宣傳部部長、湘贛省軍區政委、省蘇維埃政府財政部長、國民經濟部部長等職。1933年受“左”傾路線迫害，被撤銷領導職務。1934年任弼時到湘贛工作後，才得以重返部隊，先後擔任紅六軍團第十八師政委兼政治部主任、紅六軍團政治部主任、代政委、紅二軍團政治部主任、紅二方麵軍政治部主任等職，是中國工農紅軍著名高級將領。

長征到達甘孜時，張國燾采取分化、拉攏、威逼等卑劣手段，企圖壓服紅二方麵軍。他對張國燾的反黨分裂活動進行了堅決的鬥爭，找幹部談話，教育大家提高警覺，站穩革命立場，還組織收繳張國燾散發的反黨反中央的小冊子。長征途中，不僅自己吃苦耐勞、衝鋒陷陣、處處做表率，而且注重部隊的政治工作，采取各種形式開展宣傳鼓動工作，同時注意培養和發展新黨員，使黨員人數在紅軍不斷減員的情況下保持占全軍人數30％的比例。

抗日戰爭時期，曆任八路軍一二O師政治部副主任、主任、晉綏軍區政治部副主任等職。在實踐中靈活地運用毛澤東的建軍思想，在師部開辦教導團，各旅、團及支隊開辦教學營，有計劃有步驟地培訓骨幹，使不少新參軍的工農戰士和青年學生很快成長起來。抗戰勝利後，曆任晉綏野戰軍政治部主任、西北野戰軍政治部主任、第一野戰軍政治部主任等職。轉戰於華北、西北各地。1947年8月第二次榆林戰役失利，不少幹部怨聲載道，他及時發現第一縱隊三五八旅創造的“訴苦三查”群眾性整軍經驗，在前委及彭德懷的支持下，迅速推廣到全軍各縱隊，掀起群眾性的政治整軍熱潮。大大提高了全軍官兵的政治素質和戰鬥力，在宜川瓦子街戰役中，一舉殲滅國民黨胡宗南部3萬人，受到毛澤東的高度讚許。

中華人民共和國成立後，任西南軍區副政委兼政治部主任。1950年朝鮮戰爭爆發後，任中國人民誌願軍副政委兼政治部主任。明確提出政治工作的中心任務，應放在克服官僚主義、提高部隊的生活、千方百計的保證部隊物質和文化生活的提高等方麵，特別要關心那些冒著槍林彈雨晝夜同敵人戰鬥的前沿部隊。所主持的部隊政治工作，對保證抗美援朝戰爭的勝利起了很大作用。從朝鮮回國後，任中國人民解放軍總政治部副主任，認真總結抗美援朝戰爭的政治工作經驗，提出政治工作是領導又是保證，政治工作必須和軍事業務相結合，政治工作者必須從群眾中來、到群眾中去等一些帶根本性的原則，對全軍政治工作的健康發展起了重要指導作用。

他是中共八屆候補中央委員、第一屆全國人大代表。1955年被授予上將軍銜。1964年2月5日在北京病逝，終年61歲