湖南省益陽縣(今資陽區)人，1894年4月出生於益陽縣迎風橋鄉一個偏僻的山村。1915年考入湖南省立第一師範。1919年加入毛澤東等創立的新民學會。1920年，為了提高海外華僑的文化水平和社會地位，宣傳國內的新文化運動，受新民學會派遣，遠渡重洋，前往新加坡道南學校教書，並兼任華僑中學及南洋女中的教學工作。從此開始了他的海外教學生涯。1922年離開新加坡到印度尼西亞的爪哇，任北加浪岸中華學校校長5年。

1927年1月回國，受毛澤東之邀，到武昌中央農民運動講習所講課，並由毛澤東、周以栗介紹加入中國共產黨。8月1日參加了南昌起義，任中央獨立第一師師長。起義失敗後，1929年再度出洋任教，先後在印度雅加達的廣仁學校和八華學校任校長。1939年7月，他與5位同事創辦雅加達中華中學，帶領全校師生披荊斬棘建校，以優異的師資和純樸的校風馳名。

1958年10月回國定居，仍致力於華僑教育事業。1959年至1974年任北京華僑補習學校校長。1985年以後任北京燕京華僑大學董事長。在半個多世紀的教學生涯中，學生達數萬人，其中，國外的學生遍布世界幾十個國家和地區，真可謂“桃李滿天下”。

他是著名的僑聯領導人。曆任第七屆北京市僑聯副主席，第八、九屆北京市僑聯名譽主席，第三屆全國僑聯主席，第四屆全國僑聯名譽主席，第六、七屆全國人大代表。為推動中外文化交流，促進海外僑胞的愛國熱情作出了重要貢獻。

“視富貴如浮雲，看事業如泰山。”這是海內外學子對老師風範的共同評價，也是他數十年華僑工作的精神動力。盡管隨著職務的升遷，聲望越來越高，客人越來越多，他一如既往地生活，堅持居住在30平方米的普通居民樓宿舍裏。組織上多次要為他調整住房，他總是說：“等到全市困難戶都住上新房，我再搬家。”任全國僑聯主席以後，組織上按規定配給一名秘書、一名服務員、一台專車，並把舊房子修一下，他又婉言謝絕。1983年4月90大壽時，海外學生寄來10萬元祝壽金，他立即全部轉交故鄉興辦福利事業，使迎風橋鄉民主村400多戶村民用上了電燈。1989年95歲大壽時，海外學生贈送25萬元港幣的壽禮，他又全部捐給“張國基文化教育基金會”，用於獎勵華僑僑眷中品學兼優的學生和為教育事業作出重大貢獻的教師。1992年4月，應海外學生的邀請，赴香港接受百齡華誕慶賀。被譽為“華僑教育家的典範”、“弘揚中華文化的傑出人物”。

1992年8月30日在北京病逝，終年99歲。