湖南省常德县(今常德市鼎城区)人，1897年生于常德芦荻山。少时入德山求实小学、清真高小读书，后因家庭贫困而辍学，到商号当学徒。1913年秋考入湖南甲种工业学校机械科，毕业后到湖南电灯公司当技工。他有志于工业救国，又考入天津直隶专门工业学校。五四运动爆发后，在天津参加反帝爱国斗争。在天津学联执行部、《天津学生联合会报》工作，与周恩来一同战斗。随觉悟社和天津学联请愿团赴京向北洋政府示威，要求释放被捕代表、惩办卖国贼。曾在北京新华门被警察捕押38天，后又被直隶专门工业学校以旷课过多开除学籍。他在北京加入工读互助团，继续在北京、天津等地从事工人斗争。

1920年9月回到长沙，与庞人铨等组织湖南劳工会，以“团结工人，改造物质的生活，增进劳工的知识，谋求工人福利”为宗旨，发动工人起来为争取自己的权利和自由而斗争。11月22日《大公报》报道了湖南劳工会成立的盛况，参加的会员有两千人，公推他为大会主席，宣读了湖南第一纱厂劳工会简章，并任湖南劳工会驻会干事和教育部主任，在发动湖南第一纱厂工人进行正义斗争时，被反动军阀政府关押42天。他出狱时向工友们表示：“我的生命，终必为劳动运动一死!”湖南劳工会在湖南首次纪念五一国际劳动节，发动了上万工人，打出了“劳工神圣”、“不做工者不得食”的口号，产生了很大的社会反响。湖南劳工会创办了《劳工周刊》、工人夜校、女子职业学校，以促进劳工们阶级斗争的觉悟，实行劳动组合，团结起来争取工人的幸福，会员发展到7000人。

湖南劳工会的斗争引起毛泽东的高度重视。1921年中共一大之后，在毛泽东的帮助下，他和庞人铨由倾向无政府主义转而信仰马克思主义，加入了中国社会主义青年团。1921年11月毛泽东在《劳工周刊》湖南劳工会周年纪念特刊号上发表《所希望于劳工会的》的文章，就劳动组合的目的、工人阶级的觉悟和根本利益、组织形式、经费筹措等方面提出了指导意见。他接受毛泽东的建议，对湖南劳工会进行改组，并任执行委员会书记部委员。湖南劳工会从此纳入中共湖南省支部指导的工人团体之列，标志着湖南工人阶级由自在的阶级转为自为的阶级。毛泽东还介绍他与共产国际代表马林面谈。1921年12月25日，在毛泽东的策划下，湖南劳工会与长沙学界和社会各界联合举行反对帝国主义列强华盛顿分赃会议的游行大会，他任大会主席，参加的工人上万，散发了30余种、20万份传单，号召全湖南、全中国、全世界无产阶级的哥哥弟弟姐姐妹妹联合起来，声势浩大，引起军阀政府恐惧和仇恨。