湖南省寧鄉縣人，1876年5月27日出生於一個貧苦農家。少時讀過私塾。1902年中過秀才，在鄉村教私塾。1906年，與謝覺哉、薑夢周、王淩波結為盟兄弟，稱為“寧鄉四髯”。1909年到寧鄉雲山學校任教，主張教學改革，以適應“民國”需要，受到非議。1913年辭職考入湖南公立第四師範學校，一年後並入湖南第一師範講習科，結識了毛澤東，從此共同探索救國救民的真理。1918年4月加入進步團體新民學會，參與反帝反封建鬥爭。在反對軍閥張敬堯的驅張運動中，他率驅張代表團赴衡陽，聯絡湘南學聯、女子救國會、國貨維持會等各界團體，發動工人、店員、學校師生和市民召開萬人大會揭露軍閥禍湘罪行，號召一致驅張。他還派人前往郴州與吳佩孚交涉，利用軍閥之間的矛盾，以武力脅迫張敬堯離湘。1920年8月，與毛澤東等一道創辦長沙文化書社和俄羅斯研究會，宣傳新文化，傳播新思想，主張用俄國十月革命的方法來改造中國。1920年冬他與毛澤東建立了長沙共產主義小組。1921年夏，又與毛澤東一道赴上海參加了中國共產黨的第一次全國代表大會。中共一大後，他與毛澤東創建湖南第一個黨組織——中共湖南支部，隨後在此基礎上建立中共湘區委員會，任區委組織委員。為了加強黨的思想建設，培養革命幹部，又與毛澤東一道創辦了湖南自修大學及附設補習學校，主持校務工作，親自給學員上課。1923年11月，自修大學被軍閥封閉，他又任由黨創辦的湘江學校的校長，繼續為革命培養人才。大革命高潮中，參與領導湖南工農運動，努力推進國共合作和國民革命，先後任國民黨省黨部監察委員、省法院陪審員、懲治土豪劣紳特別法庭成員、水口山礦務局監理、《湖南民報》館館長、中山圖書館館長、湖南濟難會執委兼財務委員等職。毛澤東對他的工作很讚賞，說：“叔衡辦事，可當大局”、“何胡子是一頭牛”。

大革命失敗後，他潛往上海，籌辦聚成印刷公司並任經理，專門印刷黨的文件和刊物，同時任上海互濟會黨團書記。1928年夏，入莫斯科中山大學特別班學習，出席了在莫斯科召開的中共第六次全國代表大會。1930年7月從莫斯科回國到達上海，11月前往中央革命根據地中心瑞金，出席第一次全國工農兵代表大會，當選為中華蘇維埃共和國臨時中央政府執行委員、工農檢查人民委員，隨後又任內務部代理部長、最高法院院長、教育委員會委員兼蘇維埃政府幹部訓練班主任等職務，主管檢察、民政、司法、幹部訓練等多方麵的工作，嚴肅認真，一絲不苟。

1933年初，王明“左”傾路線統治下的臨時中央遷往瑞金後，毛澤東在中央根據地和紅軍中的領導權被剝奪，何叔衡也被扣上“機會主義”、“富農路線”等帽子，遭到殘酷鬥爭和無情打擊。他不僅沒有屈服，而且更加堅定地同“左”傾機會主義作鬥爭，堅持實事求是。在政治上受打擊受迫害、行政職務被撤銷後，仍嚴肅認真地從事黨分配給他的工作。紅軍開始長征後，他留在根據地堅持遊擊戰爭。與戰友一起在敵人搜、燒、剿的惡劣環境下，拄著拐杖四處奔波，晝伏夜行，風餐露宿，依靠群眾的掩護與支持，開展遊擊戰爭。1935年2月24日在福建上杭縣水口鎮小徑村被敵包圍，突圍時身負重傷，仍奮力與敵搏鬥，最後壯烈犧牲，實踐了他生前“我要為蘇維埃流盡最後一滴血”的誓言。犧牲時59歲。1937年，毛澤東在紀念中國共產黨成立16周年大會上提議為包括何叔衡在內的犧牲同誌致哀，以表達黨和人民對他的深切懷念。