清湖南湘鄉人。原名子誠，字伯涵，號滌生。清嘉慶十六年十月一日（1811年11月26日）生於湘鄉縣荷葉塘（今屬雙峰縣）。父麟書，有田產，不事 耕種，醉心功名，然童試17次皆不第，父設館授徒。曾國藩幼從父學。道光十三年（1833）入縣學為秀才。翌年就讀於長沙嶽麓書院，同年中舉人。此後赴京 會試，一再落榜。十八年，始中第三十八名貢士，旋赴殿試，中三甲第四十二名，賜同甘共苦進士出身。朝考選翰林院蔗吉士。自此供職京師，結交穆彰阿、倭仁及 唐鑒等。二十七年任四川鄉試正考官，明年升侍讀。後年升侍講學士。二十七年授內閣學士，兼禮部侍郎銜。二十九年任禮部右侍郎，旋兼兵部右侍郎。三十年兼署 工部右侍郎。鹹豐二年（1852）兼署吏部左侍郎。是年四月出任江西正考官，行至安徽太和縣境，以母喪回籍。

其時，太平軍由廣西進入湖南，在永州、道州等地與湖南會黨勢力結合，吸收煤礦工人參加，人數大增，軍威遠揚，清廷大震。曾國藩奉詔幫辦湖南團 練，於鹹豐三年春赴長沙。在上鹹豐帝奏章中提出：“治亂世用重典，以鋤強暴”，“即臣身得殘忍嚴酷之名，亦不敢辭”。但鑒於對抗大股太平軍“斷非舊時團練 所能奏功”，遂改變方法，將辦團與練分開，重點放在練勇。

曾國藩到長沙辦團練不久，與提督鮑起豹發生矛盾，標兵尋釁威脅，即移駐衡州練勇。在衡州造船辦水師，物色褚汝航、楊載福、彭玉麟等人為營官，組 成湘軍水師，計分10營，共5000人；陸軍13營，以塔齊布、周鳳山等為營官統領。水陸軍合計1.7萬餘人，此即曾國藩所練湘軍。鹹豐四年 （1854），親率一支湘軍到湘潭、嶽州，與太平軍作戰。在出兵時發布《討粵匪檄》，號召“抱道君子”，“赫然憤怒，以衛吾道”。並糾集地主士紳， 禮之幕府，待以賓師。並奏請清廷發給空白執照4000張，內捐虛銜執照、捐監生執照各一半，派專人在湖南、江西、四川等省募捐，又通過鹽漕、關稅、雜捐直 接榨取，使得湘軍糧餉較綠營高出1倍有餘。

曾國藩督率水陸湘軍在長沙、湘潭、嶽州一線作戰時，遭到太平軍迎頭痛擊。鹹豐四年（1854）三月靖港一戰，損失慘重。羞愧交集，投水自盡，獲 救。旋得塔齊布等在湘潭獲勝仗，才得以重整湘軍，再占嶽州。六月，從長沙遣湘軍三路出境作戰，八月陷武昌、漢陽，十月敗太平軍秦日綱部於田家鎮，加兵部侍 郎銜。