字頌雲，湖南省醴陵縣（今醴陵市）人，1882年3月31日出生於醴陵縣官莊鄉長連衝一戶耕讀之家。16歲考取秀才。1899年入長沙城南書院，次年考取嶽麓書院正課生。因憤於國事日弱，內憂外患，萌發救國救民思想，於1903年棄文習武，考入湖南武備學堂。1904年8月保送赴日，先後就讀日本振武學校、陸軍士官學校炮兵科第六期。在民族危機日重情形下，追隨孫中山進行民族民主革命，於1905年8月在東京加人中國同盟會。1908年12月受同盟會東京本部委派回國，任同盟會長江上遊聯絡員並赴四川訓練新軍。1910年冬任四川陸軍第十七鎮正參謀官。

1911年武昌起義爆發後，立即奔赴武昌，參加了漢陽戰役，任漢陽龜山炮兵陣地指揮。1913年任湖南都督府參謀部長、湖南軍事廳長，負責訓練軍隊，積極籌劃討伐袁世凱。二次革命失敗後，被北京政府褫職通緝，亡命日本，繼續從事反袁鬥爭。1915年12月，袁世凱稱帝。他奉孫中山之命歸國，擔任護法軍湖南招撫使，率軍一營回湘召集舊部，策動湖南反袁起義。1916年3月攻克靖縣後，逐走袁世凱在湘鷹犬湯薌銘，率部進駐長沙。因討袁驅湯有功，一時頗負盛名，被授予中將軍銜。1917年8月，孫中山在廣州組織護法軍政府，他任護法軍湘南總司令，率部與北洋軍閥激戰於衡陽、嶽陽等地。從1920年起，相繼任廣東大元帥府陸軍次長、非常大總統府陸軍總長、廣東大本營軍政部長兼陸軍講武學校校長，成為孫中山的一名得力助手。此期間，曾任討逆軍總司令、攻鄂軍總司令、國民革命軍第三縱隊隊長，參與指揮了討伐軍閥陳炯明的東征與平定楊希閔、劉震寰叛亂的戰鬥，為統一兩廣、鞏固廣東革命根據地立下重要戰功。1926年初，當選為國民黨第二屆中央執行委員、國民政府委員、軍事委員會委員，任國民革命軍第六軍軍長，繼續執行孫中山確定的聯俄、聯共、扶助農工三大政策，與擔任該軍黨代表的共產黨人林伯渠通力合作，於7月率部北伐，轉戰湖南、湖北、江西，攻下九江、南昌。1927年1月任國民革命軍江右軍總指揮，率部進攻安徽、江蘇，3月首克南京。同年當選為國民黨中央執行委員會委員和國民政府軍事委員會七人主席團成員，並被武漢國民政府任命為第二方麵軍總司令，指揮4個軍沿津浦路繼續北伐。

他在蔣介石發動的四一二反革命政變時保護了一批共產黨員。1927年10月，任由湘桂聯軍組成的西征軍第四路軍總指揮，參與討伐唐生智的西征行動。1月占領漢口後，兼任湘鄂臨時政務委員會主席，主持湖北政務。1928年1月率部進軍湖南，任湖南省政府主席。同年5月，因蔣介石、李宗仁之間的矛盾加深，被軟禁武漢數月，軍政實權皆被剝奪，恢複自由後長期寓居上海，借寫詩消磨歲月。1935年12月，出任國民政府參謀總長，重新成為國民黨軍界要人。1936年兩廣事變發生後，他為蔣、桂和解親往廣西調停，化解了一場內戰危機，達成協議，推動團結抗日。