年2月获释出狱，被驱逐出湖南，经上海抵达广州，受到省港工人和各工会团体的热烈欢迎。接替因病休养的林伟民，代理中华全国总工会执行委员会委员长职务，与邓中夏、苏兆征等共同担负起领导省港大罢工的重任。提出工人阶级的力量在于组织的思想，为促进广州、香港各工会的联合做了许多艰苦细致的说服工作和组织工作。
92年5月，出席第三次全国劳动大会，在会上作《一年来中国职工运动的发展》的报告。报告分析了五卅运动以来中国社会各阶级的政治态度及其在国民革命中的地位，指出中国革命必须由工人阶级来领导；阐明了职工运动的方针，强调工人阶级在反帝反军阀运动中应加强各种经济斗争，应与世界工人阶级建立联合。在这次大会上，当选为中华全国总工会秘书长。0月，国民革命军攻占武昌后，武汉成为全国革命的中心。随即抵武汉，为中华全国总工会迁址作准备，并担任全总汉口办事处秘书长，直接指挥湖北、湖南、江西、安徽、河南、四川等省工人运动。同时，参加湖北全省总工会的领导工作。他以相当精力去加强工会的组织建设和思想建设，撰写了《工会代表会》、《工会经济问题》和《工会基本组织》三本小册子，阐述了工会的性质、任务和组织原则，指出工会是工人“群众的奋斗的机关”，必须坚持“民主集权制”，必须有严密的组织，才能实现工人阶级所担负的历史使命。927年月，参与领导汉口工人群众收回汉口英租界的斗争，取得了中国人民反帝斗争史上的一次重要胜利。4月，他出席中国第五次全国代表大会，当选为中央委员。5月，被任命为中央工人运动委员会委员。善于把党的政治任务和工人群众的切身利益紧密结合起来，以正确的策略领导工人群众进行有成效的斗争，成为中国早期工人运动的领袖之一。
927年国共合作全面破裂后，长期在国民党统治下的白区从事党的秘密工作。928年3月，他以中华全国总工会特派员的名义到天津参加全国铁路总工会的领导，并指导顺直省委工作。月，在中国第六次全国代表大会上，被选为中央审查委员会委员。929年春，奉调上海，任沪东区委书记，领导职工运动。月，出任满洲省委书记。8月22日，在奉天（今沈阳）被捕。他在敌人面前英勇不屈，坚不吐实，于9月中旬取保释放。他抓住工人群众的迫切要求，领导中东铁路工人进行经济的和政治的斗争。930年3月调回上海，指导沪东工人运动。月，率中国工会代表团去苏联莫斯科出席赤色职工国际第五次代表大会，当选为执行局委员，留在赤色职工国际工作。93年月，在六届四中全会上当选为中央政治局候补委员。同年秋回国，任临时中央职工部部长、全国总工会组织部部长。他坚持从实际出发，同以王明为代表的“左”倾冒险主义错误进行了不懈的斗争，提出了许多指导白区职工运动的正确主张和策略思想。他在《最近中国职工运动，国民党工厂法、工会法与赤色工会目前的任务》、《罢工策略》、《批评“退出黄色工会”的策略》和《一九三一年职工运动的总结》等文章中，从理论和实践上解决了罢工策略的正确运用、公开工作和秘密工作、合法斗争和非法斗争、经济斗争和政治斗争，以及对待黄色工会的策略等一系列重大原则问题。尽管当时曾受到“左”倾错误领导的批评和压制，但他仍坚持自己的正确意见，坚韧不拔地为党工作。
932年冬，进入中央革命根据地，任中华全国总工会苏区中央执行局委员长，领导苏区和白区的工人运动。他阐述了苏维埃政权下工会的作用与任务，强调要组织真正群众的阶级工会。工会应保护工人的经济利益，努力改善工人群众的生活；应参加与协助国有工厂的管理，教育工人用新的态度来对待新的劳动，为苏维埃的胜利而努力生产。934年7月，任福建省委书记，在动员工农群众参加红军，支援革命战争方面作出了重要贡献。0月，随中央红军参加长征，先后任中国工农红军第八军团、第五军团中央代表，第三军团政治部主任，中央筹粮委员会主任等职。935年月，在贵州遵义召开的中央政治局扩大会议上的正确主张。中央红军长征到达陕北后，任中华全国总工会西北执行局委员长，继续领导职工运动。
93年春，抵达天津，以中央代表的身份主持北方局工作，坚定地贯彻党的抗日民族统一战线的新政策，并对党内长期存在的“左”倾关门主义和冒险主义进行了系统的批评，不仅在实际工作中，而且从思想理论上，为推动白区工作的彻底转变作了不懈的努力。从4月起，他发表了《肃清关门主义与冒险主义》、《关于白区职工运动的提纲》和《怎样进行群众工作？》等文章，在科学总结白区工作历史经验的基础上，阐述了白区工作的方针任务和策略原则。他主张党在白区的工作应该实行深入群众、长期隐蔽、积蓄力量的方针。在策略指导上，应根据形势的变化、运动的退潮和来潮，以及革命与反革命实际力量的对比，来恰当地组织革命防御或进攻；必须从争取胜利的观点出发，根据当时当地的环境和条件，以及群众觉悟的程度，提出群众可能接受的口号、要求和斗争方式，去发动和领导群众斗争；要正确把握公开工作与秘密工作的区别与联系，应在形式上与方法上使二者严格分开，在内容上与政治上又使二者密切联系起来；要充分利用敌人内部的矛盾，争取暂时的同盟者，去反对当前主要的敌人。用极大力量整顿和恢复遭受严重破坏的华北各地的党组织，教育员和干部“学会领导群众的艺术，学会策略的运用”。他在《火线》、《生活日报》、《长城》、《国防》等报刊上发表了许多文章，在华北以至全国广泛地宣传抗日民族统一战线新政策。月，在《民族统一战线的基本原则》一文中，着重指出领导权问题是民族统一战线的中心问题。必须正确处理战略任务与策略转变的关系、统一战线与阶级斗争的关系、上层统一战线与组织下层群众的关系，必须对同盟者的错误和动摇给予高度的警惕与必要的批评，在统一战线工作中要十分注意斗争策略。他为联合华北一切可能抗日的党派、阶层，争取宋哲元、阎锡山等转向抗日，做了大量的宣传工作和组织工作，巩固和发展了一二九运动的成果，开创了华北抗日救亡运动的新局面。937年5月，在出席苏区党代表会议之后，同张闻天主持召开党的白区工作会议。在会上作《关于白区的党和群众工作》的报告。这次会议系统地总结了十年内战时期白区工作的经验教训，明确了革命新时期党在白区工作的策略任务，成为白区工作的一个重要转折。后来，扩大的六届七中全会通过的《关于若干历史问题的决议》，对在白区工作方面所建树的历史功绩作了评价，指出他是党的“正确路线在白区工作中的代表”。
937年抗日战争爆发后，抵达山西太原，任中央北方局书记。他根据中央关于在敌人后方独立自主地开展游击战争的战略方针，作出华北党的工作应以游击战争为中心任务的部署。决定将党的工作重心放在农村，号召城市中的员和青年学生脱下长衫，到农村中去，拿起武器打游击。在党内提出了军事化的口号，要求一切干部和党员学习军事，学习游击战争，集中一切力量发动群众，组织抗日武装。他领导以薄一波为书记的山西公开工作委员会，按照站稳脚跟，抓住实权，多做实事，反对空谈，推进阎锡山抗战的方针，利用山西牺牲救国同盟会这个公开合法组织，组建了山西青年抗敌决死队（新军）。9月，八路军总部一到太原，即同总部主要领导人讨论确定要广泛地准备游击战争，要扩大八路军到拥有数十万人枪的强大的集团军，要建立起很多根据地，担负起独立坚持华北抗战的重大任务。提出要立即部署山西、河北、山东等地的人民抗日武装斗争。0月，撰写《抗日游击战争中的若干基本问题》一文，月，又为北方局起草《关于目前形势与华北党的任务的决定》，论述了游击战争在抗日战争战略上的重大作用，指出游击战争是华北人民抗日的主要斗争形式，强调要坚持长期的游击战争，必须建立巩固的敌后抗日根据地，建立真正有工作能力的、有群众基础的抗日民主政权。太原失守后，指导晋察冀边区着手进行统一战线的民主政权的筹建工作。938年3月中旬，回到延安，继续负责指导华北工作。7月，在的组织领导下，冀热边特委在八路军第四纵队配合下，发动了冀东人民抗日武装起义，为建立冀热察抗日根据地打下了基础。
938年月扩大的六届六中全会后，任中央中原局书记，负责指导长江以北河南、湖北、安徽、江苏地区党的工作。939年月，抵达中央中原局所在地河南确山竹沟镇，贯彻中央关于巩固华北、发展华中的战略方针，作出发展中原地区敌后抗战的工作部署。2月，率中原局机关进入华中敌后，抵达安徽定远藕塘新四军江北指挥部，多次主持召开中原局会议，讨论发展华中的战略方向、根据地建设的方针任务和统一战线的策略等问题；决定执行向东作战，向北发展，开辟苏北的战略任务；并建议中央从华北派一部分八路军南下，协同新四军发展苏北抗日游击战争。940年春，与新四军江北指挥部领导人一起，指挥新四军第四、第五支队的主力，挫败了日伪军对皖东的“扫荡”，并在津浦路东半塔集地区打退了国民党顽固派军队韩德勤部的进攻，开辟和发展了皖东抗日根据地。新四军江北部队和南下的八路军部队在苏北胜利会师后，于月间组建了华中新四军和八路军总指挥部，任政治委员，统一指挥长江以北、陇海路以南的新四军和八路军。94年月皖南事变后，临危受命，任新四军政治委员，同新四军代军长陈毅等领导重建新的军部，整编部队，并根据中央军委的指示，提出新四军今后的任务是坚持华中敌后抗战，阻止军的进攻，迅速加强根据地各项建设，积聚力量，准备与敌伪军和军进行长期斗争，一俟条件成熟即向西向南发展。5月，中原局与东南局合并组成中央华中局，任书记，并兼任中央军委华中分会书记。他主持召开华中局高级干部会议，总结皖南事变的经验教训，着重检查了新四军成立以来的建军工作，提出了人民军队建设的基本要求。同年夏，和陈毅等指挥新四军粉碎了日伪军对苏北、苏中根据地的“扫荡”，巩固和发展了华中抗日根据地。
942年3月，奉调回延安。在从苏北返延安途中，受中央的委托，检查指导山东抗日根据地的工作。年底回到延安。从943年3月起，任中央书记处书记、中央革命军事委员会副主席兼中央组织委员会书记，参与全党整风运动的领导。945年5月，在中国第七次全国代表大会上作《关于修改党的章程的报告》（即《论党》）。月，在七届一中全会上当选为中央政治局委员、中央书记处书记。
在抗日战争时期，用了很大精力研究党的建设问题，先后发表《论员的修养》、《做一个好的党员，建设一个好的党》、《论党内斗争》、《论党员在组织上和纪律上的修养》和《论党》等许多重要论著，丰富了马克思列宁主义、思想关于党的建设的理论。他指出加强党的建设的最主要的问题，是思想建设问题。党的思想建设应从加强员的思想修养做起。党的利益高于一切，是党员思想和行动的最高原则。他对把马克思列宁主义的基本原理和中国革命的具体实践相统一的思想作了完整的概括与系统的论述，指出思想是中国一切工作的指针。他阐明了民主和集中的辩证关系，指出坚持民主集中制的原则，是党的组织建设必须遵循的规律，是达到党内团结和统一的重要保证。他系统地总结了党内斗争的历史经验，提出了进行党内斗争的正确原则和方法。他论述了群众、阶级、政党和领袖的关系，指出群众路线是中国的根本的政治路线和组织路线。
抗日战争胜利后，在赴重庆同蒋介石谈判期间，代理中央主席职务，并任中央革命军事委员会副主席兼总政治部主任。945年9月，他根据中央的决策，起草了《目前任务和战略部署》的指示，提出全国的战略方针是“向北发展，向南防御”。月，国民党军队占领山海关、锦州，对东北即将发动大规模进攻。根据当时东北敌强我弱的形势，明确提出当今在东北的中心任务，是建立可靠的根据地，站稳脚跟，作长久�