原名林祖涵，湖南省安福县（今临澧县）人，1886年3月20日出生于安福县一个书香家庭。1902年，考入湖南公立西路师范学堂，1903年冬，西路师范举行选拔留日学生考试，以第一名被录取。1904年入日本东京弘文学校留学。1905年加入孙中山在东京创立的中国同盟会，11月因陈天华忧时感事在日本东京愤而蹈海自杀，毅然罢学，此后成为职业革命家。1906年在长沙任教和从事革命活动。1907年，被派到东三省工作，从事秘密反清活动。1911年回湘，参加倒清反袁独立活动，失败后，于1913年5月逃亡日本。1914年7月加人中华革命党，后奉命回国到汉口、长沙等地组织反衰活动，参加护国、护法运动。

1921年1月，经李大钊、陈独秀介绍，加入上海共产主义小组，继续留在国民党内工作，在帮助孙中山确定联俄、联共、扶助农工三大政策和改组国民党的工作中发挥了重要作用。他是国民党第一、二次全国代表大会的代表，先后当选中央执行委员会候补委员、委员、常委，担任农民部长。在发动和领导农运工作中，认真执行孙中山扶助农工的政策，吸收中共从事农运和对农民问题有深刻见解的同志参加，尽力争取国民党左派的支持与合作，为推动当时农民运动的发展，建立了功勋。1926年5月，蒋介石提出“整理党务案”，他被排挤出国民党中央，后到国民革命军第六军任副党代表兼政治部主任，把一支内部矛盾重重、战斗力很弱的杂牌军，改造成为北伐劲旅之一。1927年3月，在武汉出席国民党二届三中全会，任武汉国民政府军事委员会秘书长。

1927年7月15日宁汉合流后，即去江西参加八一南昌起义，担任革命委员会财经委员会主席，起义失败后辗转去苏联。1928年秋到达莫斯科，先后在莫斯科、海参葳学习和任教。在此期间，同瞿秋白、吴玉章及苏联语言学家一起制定了中国北方话拉丁化方案，为中国文字改革事业做了有益工作。1932年下半年起程回国，经上海于1933年3月到中央苏区，先后任中华苏维埃政府国民经济部部长、财政部部长，注重发展农业生产，广泛开展节约储粮，保障红军和苏区人民的供给。为解决苏区的财经困难，一面成立没收征收局，向地主富农筹款借款；一面适当增发货币，帮助各机关建立健全财政制度，开展节约运动，保证革命战争的财政需要。红军长征开始后，任没收征发委员会主任和总供给部部长。他有一匹马，但很少骑，而是拄着拐棍，手提小马灯，为红军筹粮筹款。黄镇当时为他画了一幅《长征中的英雄》。1935年长征到达陕北后，继续任财政部长。1937年冬至1948年任陕甘宁边区政府主席，领导边区军民，在极其艰苦的条件下，积极贯彻中央的十大政策，建立三三制政权，实行精兵简政，开展大生产运动，进行经济、文化建设，把边区建设成为模范抗日根据地。洛川会议通过《抗日救国十大纲领》后，任八路军驻陕办事处代表，驻西安进行统一战线和对外联络工作，利用自己社会联系广、资深望重的社会影响，广泛团结各阶层人士一致抗日，对推动第二次国共合作作出了重大贡献。在党的七届一中全会上，当选为中央政治局委员。