然而到1939年为止，苏联对德国的优势逐渐消失，同时红军也陷入了混乱。在所有导致这些变化的原因中，最严重的就是斯大林对苏联领导层的大清洗。从1934年开始，他开始系统地清除苏联政府中任何潜在的最高权力的竞争者。到1937年，只有红军还没受到任何影响。
约·维·斯大林一直热爱红军，但总是对职业化的领导心存疑虑。在国内战争期间，斯大林曾以政治工作人员的身份在不同的战线上工作过。在这个过程中，他开始对职业军人（他的骑兵好友们除外）——尤其是那些前沙俄的军事专家，他们帮助红军正常运转，但有时也会叛变——产生了深深的怀疑。斯大林总是很快为每次失败而指责包括图哈切夫斯基和叶戈罗夫在内的职业军人们，这样也是为了方便地逃避自己在红军兵败华沙城下一事中应负的责任。
天下太平之后，斯大林依然对以图哈切夫斯基为代表的革新派理论家们感到不快。和统治者阿道夫·希特勒一样，斯大林喜欢忠诚、正统和巧妙地溜须拍马，独立的想法会让他感到不安，他的唯一亲密战友——国防人民委员克利缅特·叶夫列莫维奇·伏罗希洛夫助长了他的这种成见。伏罗希洛夫是一个缺乏想象力但会毫不迟疑地执行命令的老朋友，他本人对图哈切夫斯基的卓越才华十分嫉恨，因为他是如此的光芒四射而自己作为一个指挥员却相形见绌。伏罗希洛夫热切地不断重复着以图哈切夫斯基为中心的军事阴谋集团的谣言。图哈切夫斯基之前在托洛茨基手下的工作经历和对德国的广泛访问都成为指控他为托洛茨基分子或者德国间谍的证据，1937年5月27日，图哈切夫斯基元帅和他的一些同事被逮捕。
但很不寻常的是，对军队的清洗并不像之前斯大林恐怖统治的一贯做法那样实行公开审判，军事法庭的所有诉讼程序都是秘密而仓促进行的。一位忠诚的军官——扬·鲍里索维奇·加马尔尼克——宁可选择自杀也不愿去审判图哈切夫斯基。但其他高级军官，包括苏联元帅谢苗·米哈伊洛维奇·布琼尼和苏联元帅瓦西里·康斯坦丁诺维奇·布柳赫尔还是自愿参加了审判。1937年6月12日，伏罗希洛夫简单的宣布了对副国防人民委员图哈切夫斯基、两大军区的司令员和六位其他高级同事的死刑命令。
在接下来的4年中，直到德国入侵为止，苏联军官一直以惊人的速度消失着。在武装力量中的大约75,000到80,000名军官中，至少30.000名被投进监狱或者被处决。其中包括5位元帅中的3位、全部11位副国防人民委员、所有军区的司令员、海军和空军的司令员及参谋长、16位集团军司令员中的14位、67位军长中的60位、199位师长中的136位、397位旅长中的221位、所有团长的50%。另外还有10,000名军官被开除出现役。
斯大林用来甄别叛徒的根据是根本站不住脚的，几乎没有任何被定罪的指挥员承认自己有罪。看起来唯一的准则就是要清除那些不为自己的职业生涯对斯大林感恩戴德因而可能会挑战斯大林权威的指挥员们。在那些坐牢的人们中，其中有15%由于不久战争爆发而官复原职，有些人一离开监狱就直接去指挥一个师甚至规模更大的部队。也许这些从前的囚犯中最著名的就是康斯坦丁·康斯坦丁诺维奇·罗科索夫斯基，他在战争结束时作为苏联元帅指挥一个方面军。当1941年战争降临到苏联头上时，清洗仍然在进行着。
但是在1937-1939年，根本就看不到有对被清洗人员平反的迹象，整整一代的指挥员、政府行政人员和工厂的管理者们都被干掉了。缺乏经验和训练的年轻人们发现自己被推到了高级领导岗位，比如1938年，时任少校的谢尔盖·谢苗诺维奇·比留佐夫结束了自己的参谋军官培训之后到第30伊尔库茨克步兵师报到，他发现师长、政委、参谋长和所有主要的参谋军官（除了一位以外）都被捕了，现在要让他当师长，而这个岗位本来需要军衔比他高三级经验比他多十年的人才能胜任。伏罗希洛夫总参军事学院1937届学员们领章上的星星不断增加着。这一届提前毕业的学员们包括了像亚历山大·米哈伊洛维奇·华西列夫斯基、阿列克谢·因诺肯季耶维奇·安东诺夫和马特维·瓦西里耶维奇·扎哈洛夫这些未来的新星，他们被出人意料地送到了高级参谋和指挥岗位。自然训练和正常运转受到了影响，也为红军在1939-1942年灾难性的表现埋下了伏笔。
此外，尽管大纵深战役理论仍然是红军的正式作战理论，但图哈切夫斯基的猝然离世却使这一理论和机械化部队的编制名声扫地。许多公开发行的图哈切夫斯基的理论著作被收回并销毁。
1936年到1939年的西班牙内战——二战的一次大规模彩排——进一步减慢了苏联武装力量的发展。数量有限的苏联坦克和坦克兵加入共和政府一方，而德国和意大利向弗朗西斯科·佛朗哥提供装备和人员上的支持。苏联人遭受了很多失败:他们的坦克装甲太薄;他们那些临时拼凑的成员没法和并肩作战的讲着西班牙语的步兵互相沟通;而且在战斗中，坦克总是甩开随行的步兵，这使得法西斯方面的防御者可以相对轻松的击毁他们。在西班牙作战的苏联最高指挥员之一以及坦克部队的指挥员——德米特里·格里戈里耶维奇·巴甫洛夫十分沮丧地回国了。他总结说，新的机械化部队编制过于庞大，控制起来非常不灵活，在炮兵火力面前十分脆弱，很难突破预有准备的敌军防御以实施大纵深作战。简而言之，装甲部队不能单独进攻，必须合并到诸兵种合成部队中去。
话说回来，在20世纪30年代末，其他国家军队在机械化上也遇到过类似的困难。除了法国以外，其他所有国家生产的都是些缺乏足够装甲防护的坦克，而且都是将装甲部队用作独立的骑兵侦察分队而不是和其他兵种紧密协同作战。当然在西班牙，德国和意大利的坦克手们也遇到了类似的问题。而在苏联，巴甫洛夫描述的缺点是往大清洗引起的犹豫和怀疑上火上浇油了。
针对上述批评意见，1939年7月苏联人成立了一个特别委员会来重新讨论装甲部队的编制问题。这个委员会由斯大林的亲信之——副国防人民委员格里戈里·伊万诺维奇·库利克担任主席，其他成员包括布琼尼元帅和谢苗·康斯坦丁诺维奇·铁木辛哥这样还健在的国内战争时期的著名人物。少数有经验的装甲兵军官和图哈切夫斯基思想的拥护者也被允许参与到委员会的研究中来。8月份，该委员会达成妥协，指示将摩托化步兵从坦克军（即1938年的机械化军）和坦克旅中分离出来，让这些部队仅仅负责对步兵实施支援。库利克委员会也批准建立了4个新的摩托化师，这些摩托化师和当时德国的装甲师很相似，是作为实施规模有限的突破战斗的快速集群，或者作为遂行方面军级别纵深穿插任务的更大规模骑兵机械化集群编成的一部分而组建的。尽管这些坦克军在1940年1月15日之前被下令解散，但实际上还是有2个保存下来了。总体来说苏联的机械化作战理论和部队编制已经远不如他们在1936年那样超前和野心勃勃了。