1934年10月，由于第五次反围剿战斗的失利，中央红军被迫长征，离开中央苏区时，在党内负责军事指挥的，还是原来的“最高三人团”，他们是博古，李德，以及周恩来。
长征初期，毛主席患了疟疾，走不动路，在担架上躺着，曾任红军总政治主任的王稼祥因为伤势，也在担架上躺着，“最高三人团”决定中央政治局成员一律分散到各军团去，毛主席为此提出一个请求，他要和王稼祥，张闻天在一个军团内。
他们三人组成了小小的“中央队三人团”。
此时的王稼祥，对博古，李德的瞎指挥非常不满，他与毛主席谈话中，多次谈到这个情况，他说：“这样下去不行，要挽救党和红军的危急局面，必须纠正军事指挥上的错误，改变中央的错误领导。”
毛主席对他的话深以为然。
王稼祥就去找了时任政治局常委的张闻天，张闻天对于王稼祥提出的意见，也表示了支持，他此时对李德，博古等人的瞎指挥，也非常的不满。
1934年12月20日，王稼祥在一片橘林中与张闻天交谈：“也不知道这次转移，目标中央究竟定在什么地方？”
张闻天叹气：“没有个目标，但是这个仗这么打下去，肯定是不行的，毛泽东同志打仗有办法，比我们都有办法。我们是领导不了了，还是请毛泽东同志出来吧。”
张闻天的话，正好说到了王稼祥的心坎里，他当即表示拥护，随后，两人去找了周恩来，各军团领导人彭德怀，林彪等人，他们一致同意要毛主席重新出来领导红军。
为此，1935年1月，当遵义城被我军占领后，中央决定召开政治局扩大会议，这就是历史上有名的“遵义会议”。
遵义会议上，博古在做报告时，将红军的失败推给客观原因，称是敌人太过于强大，周恩来做副报告时，主动的承担了第五次反围剿战斗失败的责任。
张闻天做的是“反对“左”倾军事错误的报告。他痛斥博古，李德等人的瞎指挥，王稼祥是第一个支持毛主席的人，他旗帜鲜明的支持和拥护毛主席。
会议后，张闻天代替博古，成为了党内“负总责”的人。
张闻天成为党内的主要领导人后，做的最为正确的事，就是决定由毛主席负责军事工作，由毛主席，周恩来和王稼祥组成“三人军事小组”，由他们负责红军的军事行动。
张闻天表达了自己的态度，绝对支持。
遵义会议在我党历史上的地位是很重要的，被称之为“生死攸关之转折点”，多年后，毛主席回忆遵义会议时，谈到：“遵义会议是一个关键，对中国革命的影响非常之大。但是大家要知道，如果没有洛甫（张闻天）、王稼祥两位同志从第三次“左”倾路线分化出来，就不可能开好遵义会议。”
对于张闻天，毛主席曾多次和他打趣道：“洛甫，你是“明君”，开明之君。”
在许多历史关键时刻，张闻天都做出了很大的贡献。
1935年6月，红一方面军与红四方面军在四川懋功地区会师，张国焘拒不执行中央北上的战略方针，而是执意南下，在这个历史紧急关头，张闻天紧紧拥护毛主席，撤离了险境。
10月，中央红军到达陕北，当时陕北红军的领导人刘志丹，却因肃反问题被逮捕，张闻天和毛主席得知后，非常气愤，他们立刻下令停止逮捕，停止审讯，停止杀人。
同时，张闻天还告诉陕北省委负责人，要他们立刻将刘志丹给放了，毛主席当时在部署直罗镇战役，张闻天就派时任西北保卫局局长的王首道，去接管陕甘边区保卫局局长，把陕北红军的肃反问题给控制住。
一个月后，张闻天主持了为刘志丹平反的会议。
1936年12月12日，张学良，杨虎城在西安发动事变，扣留了蒋介石，此事爆发后，在我党内引起了很大的反响，有人提议应该杀掉蒋介石，但是更多的人考虑全方面原因后，并不同意。
张闻天总结来说：“我们的方针：把局部的抗日统一战线，转到全国性的抗日统一战线。”
最终，我党确定了解决西安事变的手段，就是和平解决。
在促进第二次国共合作一事上，张闻天做出了很大的贡献。
1938年的六届六中全会上，正式的确定了毛主席在党内的领导地位，而张闻天，也由此结束了自遵义会议以来，历史交给他的重大使命。
此后，张闻天历任合江省委书记，辽东省委书记等职，建国后，张闻天历任驻苏联大使，外交部第一副部长等职。
由于张闻天已经离开了中央领导职务， 因而许多人对于他不甚了解，而建国后的张闻天也是做事非常的低调，给人一种默默无闻的感觉。
1959年的庐山会议上，彭德怀交给了毛主席一封信，改变了会议主题，受到了批判，当时张闻天是支持彭德怀的，为此，张闻天也被批评了，会议结束后，他被撤销了所有的职务。
后来，张闻天曾多次写信，请求出来工作，但是都没有得到确定的信息。
1976年，张闻天在无锡因病去世，走完了自己传奇的一生。
1990年是张闻天的90岁诞辰，在这一天，北京举行了隆重的纪念活动，上海、南京等地也以各种方式纪念他，时任国家主席的杨尚昆高度评价他：“共产党人的楷模，革命知识分子的典范。”