湖南省永兴县人，1902年10月1日出生于永兴县下青村一贫苦农民家庭。1922年考入湖南省立第三师范。1925年加入中国共产党。1926年春由中共湖南区委选派赴广州政治讲习班、国民革命军总政治部训练班学习。结业后参加北伐战争，任国民革命军营、团指挥员。蒋介石叛变革命后，由湖南省委介绍，潜回家乡恢复革命工作。1928年1月，率农民武装响应湘南起义，跟随朱德、陈毅部队上井冈山。红军时期，历任红四军团长、红五军政治部主任、红三军团代理政治部主任、总政治部组织部长等职，参加了中央革命根据地的历次反“围剿”斗争和长征。

抗日战争期间，历任八路军三四四旅政委、纵队政委、司令员，新四军三师师长兼政委、苏北军区司令员、政委，领导创建冀鲁豫、苏北根据地，是八路军、新四军名将。1945年在中共七大上当选为中央候补委员。

解放战争之初，他向中央建议多派部队去东北以创造大的战略根据地，并率部3万人挺进东北，创建西满根据地。历任军区司令员、东北民主联军副司令员、东北野战军二兵团政委。入关后，任中共天津市委书记、湖南省委书记。参加了辽沈战役、平津战役、渡江战役等，为全国解放和接管大城市作出了杰出贡献。

湖南和平解放以后，他奉党中央之命，出任中共湖南省委第一书记，兼任湖南军区政委和湖南人民军政委员会副主席，按照中共七届二中全会精神和毛泽东主席对湖南工作指示，创造性地开展既是革命老区又是新解放区的湖南省工作，很快打开了新局面。在三湘初定、百废待兴的情况下，他特别强调工作重心的转移，树立“为生产而斗争”的意识，大力争取城乡财政经济状况的好转，发展工农业生产和各项事业。他注重调查研究，善于从实际出发制定决策和方针，强调“理论要与实践一致，思想要与行动一致”。他坚持党要管党的原则，重视抓党风、抓干部作风，严肃党的纪律，维护党的团结统一，并模范开展统一战线工作。任湖南省委书记3年，成绩斐然。叶剑英曾评价说：“无论党的工作、政权工作、财经工作、军事工作都具有很大的成绩。”1952年11月，他奉中央命令进京任人民解放军副总参谋长兼总后勤部部长、政委。离湘之际，他以“由衷地恋旧，奋起以迎新”两句话表达对湖南的热爱和对党的事业的忠诚。