在红军第５集团军失利的同时，红军第６集团军反击的却还比较顺手，特别是该集团军下属的步兵第１５９师在重创了华军第４军步兵第２５４师后，几乎打到了国境线，而机械化第４军（红军最强大的一个机械化军）则企图在这个方向发起一次强大的攻击。但第５集团军的撤退和阵地的失守，使第６集团军的左翼暴露给了中国人。为了防止被合围，第６集团军也被迫后退。到了4月6日，红军第５、６集团军之间形成了８０公里的空隙。张至忠上将指挥下的中国第１装甲集群正利用这一空隙快速推进。
机械化军反击的失败此时，堵在这个空隙之间阻挡中国第１装甲集群前进的苏军，除了在此前的战斗中已被严重削弱的卡尔别卓指挥的机械化第１５军外（这个军此前在与中国第１１装甲师的战斗中损失惨重），还有刚刚赶到战场的机械化第８军（军长里亚贝舍夫少将）和机械化第９、１９军。对于这３个军来说，他们的调动过程简直是灾难。_以机械化第８军为例。在开战时，该军拥有坦克８５８辆（内有“Ｔ－３４”型坦克２００辆，ＫＶ重型坦克１７１辆），其实力超过苏联全军中除机械化第４军以外的任何一个军。但该军也是在边境交战中调动距离最远的一个军。从战争开始到现在，机械化第８军在各上级司令部相互矛盾的命令下疲于奔命。它一会儿按第２６集团军的命令行军８０公里到达桑达市以西，一会儿又奉命开到切尔卡尔以东；而在被划归第６集团军后，该军又根据新上级的指示开进到尼西沃夫；紧接着，机械化第８军又在东南方面军司令部的直接指挥下，迅速赶往奥尔斯克地区集结。４月５日黄昏，在进至上述进攻出发地后，机械化第８军已经在中国飞机的不断袭挠下行军４００多公里，并在这一过程中丢失了约５０％的坦克和火炮，剩下的坦克燃料也即将耗尽。军长里亚贝舍夫少将后来在作战报告中写道：“在坦克师通过的地方，到处都丢下数量众多、发生故障的重型坦克。”
机械化第９、１９军在调动中的遭遇不比机械化第８军好多少。缺乏运输车辆的机械化第９军纯粹靠该军军长罗科索夫斯基在战争第一天便大胆的弄走了方面军的全部２００辆预备车辆，才得以完成行军。如果考虑到这位曾遭受迫害的将军不久前刚刚从内务人民委员部的监狱里释放出来（在那里，他被打掉了几颗牙齿），不能不承认这个人确实是“胆大包天”。这位苏联将军在回忆录当中写道：“在行军中，我痛心地看着我们老式的‘Ｔ－２６’坦克、‘ＢＴ－５’坦克和少量的‘ＢＴ－７’坦克。我明白，它们经不住长时间的战斗。更糟糕的是，就是这样的坦克装备数量也只有编制数的１／３（２８５辆旧式坦克）。再看看我们坦克师所属的摩托化步兵吧！编制规定的车辆没有。而且由于名义上是摩托化的，所以既没有马车，也没有马。”
尽管各军在调动过程中损失巨大、人员极度疲乏、车辆磨损严重，但由于形势紧张，东南方面军司令部不但没有给这些机械化军任何准备时间，反而命令各机械化军必须立刻采取反击行动。按照计划，机械化第９、１９军将由库斯坦奈以东；机械化第８、１５军由布罗迪以北及东北地区；机械化第４军从切尔卡尔东北，对正在深入的中国装甲部队发动反击。由于在上述各军之间未能取得必要的联系，自然也谈不上什么战术协同，各军在反击中实际上都是在孤军奋战。
在整个作战中，里亚贝舍夫少将指挥的机械化第８军的反击处于特殊重要的地位，它的成败关系到是否能够阻止中国第１装甲集群分割东南方面军的企图。为此，朱可夫在４月３日曾亲自来到这个军的司令部视察，该军军长及参谋人员在华军空袭中表现出来的高昂士气给他不错的印象。该军虽然在行军中丢失了大约一半的坦克，但仍然有大约４００辆开到了战场，其中包括３０至４０辆“ＫＶ”重型坦克。虽然存在种种缺点，但这仍是一支不可轻视的力量。
４月６日清晨，机械化第８军在宽约２２公里的正面展开，其当面是华军第１６装甲师（约１４０辆坦克）。第１６装甲师是一个在原步兵第１６师基础上组建的新师，指挥这个装甲师的是曾毅少将。此时，通过时刻在空中盘旋的侦察机和地面部队的严密侦察，这个经验丰富的中国装甲部队指挥官已经了解到了红军机械化第８军的意图，并且做好了充分准备。而他的那位几乎没有任何情报来源的对手、红军少将里亚贝舍夫却只能在敌情不明、弹药油料不足的情况下强行发动进攻。而且出于无法解释的理由，他的机械化军还必须把一部分兵力交给旅级政委波别尔指挥，虽然此人非常缺乏指挥大规模作战的能力。
４月６日上午９时，在坦克数量上占优势的苏军机械化第８军发动了冲击，结果却遇上了一条虽然不宽，但两岸都是沼泽的河流。由于匆忙发动进攻的苏军在战斗前没有进行地形侦察，机械化第８军此前并不知道有这么一条河横在面前。但现在战斗已经开始，重新选择进攻出发地域已经不可能了。机械化第８军军长里亚贝舍夫少将只得派出摩托化分队去占领该河北岸，以掩护坦克部队渡河。
时刻掌握着苏军动向的中国人当然没有放过这个有利的机会。配合第１６装甲师行动的步兵第５７师炮兵部队迅速组织起猛烈的火力急袭，呼啸而来的一排排重炮炮弹摧毁了大量正在渡河的苏联坦克。与此同时，苏军的先头坦克部队与华军装甲１６师第６坦克连发生了遭遇战，战斗规模随即扩大。苏军的坦克炮手们惊奇地看着华军新式的“灰狼”坦克在被他们打得满是弹痕后仍然满不在乎的前进。但在这次战斗中，苏军还是宣称击毁和缴获了８辆中国坦克，消灭了２个中国摩托化营，向前推进了４至１２公里。
由于经过长时间行军，苏军坦克的油料已经消耗得差不多了。在空中，华军第４航空队对几乎没有得到一架苏联飞机支援的机械化第８军的袭击持续不断，使该军所属部队，特别是右翼的坦克第１２师损失了大量的装备和人员，甚至军长里亚贝舍夫少将本人也在空袭中受了重伤，不得不由副军长接替了他的指挥。
相比之下，机械化第８军右翼的坦克第３４师的攻势则比较顺利。该师凭借“ＫＶ”重型坦克强大的火力和坚固的装甲，不顾一切地突破了华军的阵地，进而直接威胁到了中国装甲部队的通道。面对危急形势，中国人迅速做出了反应。他们将空军配属的第１摩托化重型高射炮营的９０毫米口径高射炮集中在苏军必经的桥梁附近，击毁了许多没有步兵掩护、彼此缺乏战术协同的苏联坦克（中方宣称摧毁了３０至４０辆），从而阻止了苏军坦克第３４师的攻势。
当天夜里，进攻严重受挫，损失惨重的红军机械化第８军被迫退出了战斗。４月７日晨４时，东南方面军允许其全面撤退的命令下达到了该军。可是过了不到３个小时，已经在撤退过程中的机械化第８军又接到了方面军重新发动进攻的命令，紧接着方面军军事委员瓦舒金本人来到该军司令部。这个脾气暴躁的军事委员气势汹汹的告诉已经身负重伤的军长里亚贝舍夫少将，如果不执行进攻命令，就要枪决他。可极具讽刺意味的是，就在这个时候，方面军司令部已经撤销了瓦舒金带来的这道命令，而他本人和无法与上级取得通讯联络的机械化第８军都不知道这个新情况。于是按照这道事实上已经失效的命令，机械化第８军将撤退的后队改为前队，以坦克第１２师的２５辆坦克为前导，坦克第３４师及坦克第１２师一部共计１８０辆坦克紧随其后，靠着最后一点燃料发动了新的攻势。长长的红军坦克纵队踏上了绝望的征程。
尽管华军第４８装甲军的侦察机发现苏军机械化军的重新集结和进攻，可是曾毅的第１６装甲师的阵地还是在对手２００余辆坦克（包括大量重型坦克）的猛烈冲击下被突入了３０多公里，与其友邻的装甲１１师的补给线有被切断的危险，而中国步兵第５７师则遭到了重创。但是机械化第８军的反击毕竟是孤立无援：在该军的侧翼，红军其他机械化军的反击实际上已经失败了，他们的残余兵力正在握有制空权的华军追击下后撤。因此，机械化第８军上述的进展反而使其陷入孤军深入、即将被合围的危险之中。
危险很快就变成了现实。华军装甲第１６师在装甲第１１师部分兵力和由第１４摩化军调来的摩化第１６师以及３个步兵师的配合下，以绝对优势的兵力，很快便堵住了苏军的突破口，进而包围了孤军奋战的机械化第８军。此时，经过长时间的交战、得不到补充的机械化第８军的坦克弹药、油料几乎耗尽，苏军只好把那些没有了燃料的坦克埋进地里，充作掩体抵挡华军的攻击。在绝对优势华军的围攻下，该军只能组织最后一批装甲车辆分股拼死突围。６月２９日，突围部队遭到华军步兵、炮兵和坦克部队的阻击。在残酷的战斗中，机械化第８军坦克第１２师师长米沙宁少将所乘坐的坦克被华军击毁，米沙宁本人战死。里亚贝舍夫军长亲眼目睹他的坦克被击中后起火燃烧的场面。
尽管损失惨重，已经被打得七零八落的机械化第８军的一些部队还是得以突出合围。但到他们撤出重围后，全军只剩不到１０％的坦克和２１％的装甲车，损失掉的７００多辆坦克中被华军击毁的大约只有１２０辆。而苏军东南方面军的机械化第４、８、１５军三个军在反突击后剩下的坦克加在一起也不过１００余辆而已。在红军的战斗中，南方集团军群的华军损失也并不轻微，到７月２０日，第１装甲集群的第１６装甲师战斗人员只剩不到４０％，第１１装甲师也只有４０％的兵员，而第１３、１４装甲师的情况仅仅比这２个师略好一点而已。
战略撤退就在机械化第８军陷入苦战并遭到惨败的同时，此前不久还为该军所取得的暂时胜利而欢欣鼓舞的东南方面军司令部正被失败气氛笼罩着。虽然采取了种种措施，但方面军司令部却无法与机械化第８军取得联系，而其他机械化军的情况也非常不妙。机械化第１５、１９军发动的反击在付出重大代价后，到４月８日实际已被华军击退，而机械化第４军好像就没有能够组织起什么像样的进攻。
严峻的形式迫使东西北面军司令部终于认识到：他们和莫斯科都曾寄予厚望的反突击已经彻底失败了。当初极力主张这次突击并积极其监督执行的瓦舒金，则由于巨大的失败而失去了吓唬机械化第８军军长时的汹汹气势，转而陷入绝望并开枪自杀。残酷的事实迫使方面军司令部里还活着的人们清醒了过来，他们终于明白，战争已经不可能推进到敌人的国土上了。要保存方面军剩下的兵力，只能向后撤退。对于这一点，莫斯科也总算意识到了。不等东南方面军请求，苏军统帅部便下达了战略撤退的命令。
４月７日夜，苏军第２６、１２集团军受命在夜色的掩护下撤出了战斗。４月９日夜间，其它方向的苏军开始边打边撤，并将沿途的桥梁破坏殆尽，这是战争开始以来，红军第一次成功地大规模破坏桥梁。４月１０日，已被苏军放弃的城市被华军占领。
同一天，东南方面军奉统帅部的命令从突出部撤向后方的“斯大林防线”。对东南方面军来说，要执行这个命令的前提条件是他们必须能够先于张至忠指挥下的华军第１装甲集群到达防线。此时，该装甲集群的部队正从苏军第５，６集团军之间快速插向苏军后方。对损失惨重、摩托化程度低的苏军来说，要想赛过这支庞大的中国快速集群几乎是做不到的。
虽然形势不利，但与东方方面军相比，东南方面军的撤退仍然是成功的。为了使比较靠西的第５、１２集团军能够与其他部队保持紧密的联系，方面军命令各集团军从不同的时间开始退却：两翼的第５、１２集团军在４月１０日夜间开始；中央的第６、２６集团军在４月１１日夜间开始。为了防止华军的穿插，东南方面军还给每个集团军指定了予以扼守的中间地区。
同时为了掩护撤退，波塔波夫将军指挥的红军第５集团军受命从４月１１日起对中国第１装甲集群发动反击。该集团军为此动用了４个损耗严重的军：步兵第２７、３１军，机械化第２２、９军，其中步兵第２７军只有１个步兵师和１个团，而另一个师已经不知去向。他们所面对的是中国第１装甲集群的５个精锐师。
和前几次反击一样，苏军在没有充足的装备时间（不到一昼夜）、没有空中掩护的情况下匆匆忙忙得向中国人发动了进攻并遭到了严重的损失，已经没有多少火炮和坦克的苏军在战斗中大量使用了燃烧瓶（苏联的很多酒厂已经开始大量生产这种号称“莫洛托夫鸡尾酒”的武器），他们所取得的最大进展是机械化第９军用了３天时间才推进了区区１５公里，而且很快就被中国人打退。
但这次战斗也并非毫无意义：在经受了红军这一系列的猛打猛冲之后，中国陆军总参谋部感到西北集团军群的装甲师在没有步兵掩护的情况下，侧翼非常不安全。因此在４月１１日，第１装甲集群暂时转入防御，以等待步兵师的到来。与此同时，中国陆军总参谋部对整个南线战场形势的判断也产生了错误：虽然他们早在４月９日便发现苏军有后撤的迹象，但直到４月１３日总参谋长蒋百里还认为红军统帅部不会允许东南方面军实施战略撤退。在这些因素的制约下，中国第１装甲集群并没有按照原计划对苏军纵深长驱直入，而是在和红军后卫部队的一系列艰苦的交战中缓慢前进。