他对宋任穷说：“我同你们中央一直有分歧，但在张国焘分裂的问题上，我拥护你们中央的主张。”（46）
九月十二日，北上红军到达俄界的第二天，毛泽东在中央政治局扩大会议上作报告和结论。他说：我们现在背靠一个可靠的地区是对的，但不应靠前面没有出路、后面没有战略退路、没有粮食、没有群众的地方。“所以，我们应到甘肃才对，张国焘抵抗中央决议是不对的。”（47）会议同意毛泽东的意见，通过《关于张国焘同志的错误的决定》，指出张国焘反对中央北上的战略方针，坚持向川康藏边境退却方针是错误的。中央同张国焘的争论，其实质是由于对政治形势的分析与敌我力量估量上存在着原则的分歧。中央号召红四方面军的同志团结在中央周围，同张国焘的错误倾向作坚决的斗争。
俄界会议决定，把红一军、红三军、军委纵队合编为中国工农红军陕甘支队，彭德怀为司令员，毛泽东为政治委员；以毛泽东、周恩来、王稼祥、彭德怀、林彪成立五人团领导军事工作。
俄界会议后，中共中央率陕甘支队迅速北上。这时，红军面对的是已被国民党新编第十四师鲁大昌部控制的天险——腊子口。这个山口只有三十米宽，过后就是甘南的开阔地带。如果国民党的胡宗南等增援部队赶到，把山口严密封锁起来，要进入甘南就十分困难了。在这个稍纵即逝的关键时刻，先头部队红四团勇敢机智地一举歼灭鲁大昌部两个营，在九月十七日夺取腊子口，为主力红军进入甘南打开了通道。
毛泽东、周恩来、彭德怀等率领主力红军翻越岷山，在九月二十日进入甘肃南部宕昌县的小镇哈达铺。这就是毛泽东诗中所写的：“更喜岷山千里雪，三军过后尽开颜。”他出席在哈达铺举行的中共中央政治局常委会议，在讨论中说：我们现在的干部是精华，应该注意保护。组织部应该调查了解干部，既要了解高级干部，又要了解中下级干部。部队在这里整编为三个纵队，共八千多人。
在哈达铺，毛泽东从当地找到的报纸上了解到陕北有相当大的一片苏区和相当数量的红军。当天，毛泽东在陕甘支队团以上干部会上提出到陕北去。聂荣臻回忆他是这样说的：
“‘我们要北上，张国焘要南下，张国焘说我们是机会主义，究竟哪个是机会主义？目前，日本帝国主义侵略中国，我们就是要北上抗日。首先要到陕北去，那里有刘志丹的红军。我们的路线是正确的，现在我们北上［抗日］先遣队人数是少一点，但是目标也就小一点，不张扬，大家用不着悲观，我们现在比一九二九年初红四军下井冈山时的人数还多呢！’”（48）
毛泽东随第一纵队向北行进，二十七日到达通渭县榜罗镇，出席中共中央政治局常委会议。会议正式确定把中共中央和陕甘支队的落脚点放在陕北，“在陕北保卫和扩大苏区”。（49）
毛泽东在率陕甘支队北上过程中，始终悬念着被张国焘拉回去的七八万红军。九月中旬，中共中央再次致电张国焘等，指出张国焘多次违抗中央命令，犯了逃跑主义的错误。同时提出：“中央为了中国苏维埃革命的利益，再一次的要求张总政委立即取消南下的决心及命令，服从中央电令，具体部署左路军与四军、卅军之继续北进。”最后强调，“此电必须转达朱德、刘伯承。”“立复。”
但是，张国焘在错误道路上越走越远，竟在四川理番县卓木碉另立“中共中央”，宣布“开除”毛泽东、周恩来、博古、张闻天中央委员及党籍，对杨尚昆、叶剑英“免职查办”，公然进行分裂党、分裂红军的活动。
这时，蒋介石得知红军已突破腊子口，害怕红军进占天水，威胁西安，急忙调胡宗南等部集中天水一线，防止红军东进。
红军陕甘支队却继续北上，跨过西（安）兰（州）公路，攀登海拔三千米高的六盘山，冲破了国民党军队的最后一道封锁线，陕北苏区已经在望。毛泽东登上六盘山顶峰时，心潮澎湃，写下了《清平乐·六盘山》词：
天高云淡，望断南飞雁。不到长城非好汉，屈指行程二万。六盘山上高峰，红旗漫卷西风。今日长缨在手，何时缚住苍龙？
陕甘支队一越过六盘山，就遇到一个新的对手：国民党的骑兵。在青石嘴，侦察到有两连敌军骑兵正在下鞍休息，毛泽东立刻到前沿阵地指挥。聂荣臻回忆道：
“随后，毛泽东同志也上了我们站的这个山头。他叫把各大队的领导干部都召集来，决定要消灭这股敌人。他亲自命令一大队和五大队从两侧迂回兜击，四大队从正面突击。三个火队
