湖南省長沙縣人，1885年6月1日生於長沙縣一個教師家庭。自幼受到良好的家庭教育。1898年入長沙時務學堂，1900年入長沙求實書院，學習數學、地理、英語等新知識，並比較紮實地掌握了中國古文基礎，受到梁啟超、譚嗣同“革政救亡”思想的影響。1905年東渡日本留學，就讀於京都第三高等學校，研究外國語言學。1911年回國，在湖南省教育司任職，曆任湖南圖書館編譯兼楚怡工業學校英語教員。1913年起，任湖南省立第四師範、第一師範、第一女子師範國文法教員。1919年發起健學會。1920年參加驅逐軍閥張敬堯的鬥爭。1920年起，任教育部國語統一籌備會辭典編輯兼北京法政專門學校教授、北京高等師範學校（今北京師範大學）國文係教授、教育部主編審員、清華大學國文係和曆史係教授。他執教多年，講授的課程有英文、國文法、文字學、修辭學、金文、甲骨文、《史記》、《漢書》等，享有盛名。

1937年任湖南大學中文係主任、文學院院長，在教學中把教學、研究、著作三者緊密聯係，每教一門課都有自編講義，講述多年研究所得，最後形成著作，內容十分精要。

1945年，參與發起組織九三學社，積極參加愛國民主運動，反對國民黨當局的獨裁和內戰政策。1947年被國民政府聘為中央研究院院士。他關心國事時局，支持親屬參加革命工作，教育學生愛國救國。1949年北平解放後，與吳玉章等組織中國文字改革協會，任理事會副主席。1953年後，任湖南師範學院教授、湖南文史研究館館長。他受到黨和政府的尊重，1954年11月毛澤東到長沙視察工作時，還特邀會見，聽取他對工作的意見。1955年當選為中國科學院哲學社會科學部委員，還是蘇聯科學院通訊院士。他的淵博學識和語言文字學造詣得到科學界、教育界公認，是中國科學院語言研究所學術委員，第二屆全國政協委員。

他是中國著名的漢語言文字學家，畢生從事漢語語法和文字學研究與教學，尤長於金石、甲骨和古文字訓話、音韻及漢語語法、修辭等，有很好的古文修養和精深的學術造詣。1942年獲國民政府教育部二等學術獎。1947年獲教育部古文字學研究二等獎。著有《漢書補注補正》、《詞詮》、《馬氏文通刊誤》、《中國修辭學》、《積微居小學金石論叢》、《積微居金文論》等20餘種著作；發表了《形聲字聲中有義略證》、《說中國語文之分化》等上百篇論文。《漢語文言修辭學》是一部有民族性、科學性、創造性的文言修辭學名著。不少舊著在新中國得以修改出版。

1956年2月14日逝世，終年81歲。毛澤東致唁電，周恩來送了花圈。