湖南省长沙县人，1885年6月1日生于长沙县一个教师家庭。自幼受到良好的家庭教育。1898年入长沙时务学堂，1900年入长沙求实书院，学习数学、地理、英语等新知识，并比较扎实地掌握了中国古文基础，受到梁启超、谭嗣同“革政救亡”思想的影响。1905年东渡日本留学，就读于京都第三高等学校，研究外国语言学。1911年回国，在湖南省教育司任职，历任湖南图书馆编译兼楚怡工业学校英语教员。1913年起，任湖南省立第四师范、第一师范、第一女子师范国文法教员。1919年发起健学会。1920年参加驱逐军阀张敬尧的斗争。1920年起，任教育部国语统一筹备会辞典编辑兼北京法政专门学校教授、北京高等师范学校（今北京师范大学）国文系教授、教育部主编审员、清华大学国文系和历史系教授。他执教多年，讲授的课程有英文、国文法、文字学、修辞学、金文、甲骨文、《史记》、《汉书》等，享有盛名。

1937年任湖南大学中文系主任、文学院院长，在教学中把教学、研究、著作三者紧密联系，每教一门课都有自编讲义，讲述多年研究所得，最后形成著作，内容十分精要。

1945年，参与发起组织九三学社，积极参加爱国民主运动，反对国民党当局的独裁和内战政策。1947年被国民政府聘为中央研究院院士。他关心国事时局，支持亲属参加革命工作，教育学生爱国救国。1949年北平解放后，与吴玉章等组织中国文字改革协会，任理事会副主席。1953年后，任湖南师范学院教授、湖南文史研究馆馆长。他受到党和政府的尊重，1954年11月毛泽东到长沙视察工作时，还特邀会见，听取他对工作的意见。1955年当选为中国科学院哲学社会科学部委员，还是苏联科学院通讯院士。他的渊博学识和语言文字学造诣得到科学界、教育界公认，是中国科学院语言研究所学术委员，第二届全国政协委员。

他是中国著名的汉语言文字学家，毕生从事汉语语法和文字学研究与教学，尤长于金石、甲骨和古文字训话、音韵及汉语语法、修辞等，有很好的古文修养和精深的学术造诣。1942年获国民政府教育部二等学术奖。1947年获教育部古文字学研究二等奖。著有《汉书补注补正》、《词诠》、《马氏文通刊误》、《中国修辞学》、《积微居小学金石论丛》、《积微居金文论》等20余种著作；发表了《形声字声中有义略证》、《说中国语文之分化》等上百篇论文。《汉语文言修辞学》是一部有民族性、科学性、创造性的文言修辞学名著。不少旧著在新中国得以修改出版。

1956年2月14日逝世，终年81岁。毛泽东致唁电，周恩来送了花圈。