随着权力的增大，朱可夫开始表白自己在第二次世界大战的重要作用，赫鲁晓夫也开始怀疑朱可夫是否企图树立新的个人迷信，而否定党的作用。

朱可夫又让赫鲁晓夫同意作出三大让步：一是停止苏军总政治部历来向党中央直接报告的制度，转而向朱可夫报告工作；二是军队要派代表参加秘密警察领导机关的活动，对内务部的军队和国家安全委员会的边防军都要有权指挥；三是对斯大林在历史上的清洗，尤其是对高级军事将领的清洗应正式和分开地谴责。

显然有些地方，朱可夫走得太远了些，赫鲁晓夫开始对朱可夫怀有戒心，为了控制朱可夫和军队，赫鲁晓夫把朱可夫的老对头科涅夫任命为华约部队总司令，来约束朱可夫。科涅夫则与朱可夫不同，他赞扬党在军队中的决定作用，同时还极力为赫鲁晓夫在斯大林格勒会战中制造了显赫功绩的神话，以此取悦赫鲁晓夫，并很快得到了赫鲁晓夫的信任。

１９５７年１０月初，朱可夫在南斯拉夫访问时曾面带怨气地和铁托谈论起赫鲁晓夫对军队的干预。朱可夫传　　　　　　　　　　　　　　　　?１３９?他表示决不容许共产党恢复对秘密警察的控制。“　即使赫鲁晓夫要控制也不行　！“他斩钉截铁地说。这些话很快传到了赫鲁晓夫的耳朵里，终于使他下决心打击朱可夫。

赫鲁晓夫首先给铁托打电话，请他劝朱可夫不要直接回莫斯科，而是继续到阿尔巴尼亚去访问，理由是弥合一下南斯拉夫和阿尔巴尼亚的紧张关系。在国内赫鲁晓夫加紧准备工作，消除朱可夫在军队中的权力。

当朱可夫回国后，赫鲁晓夫召开了一次高级司令员参加的会议，讨论如何安排朱可夫的命运。赫鲁晓夫还没有足够的依据和勇气把这位功绩显赫，并一再在关键时刻帮助他的重臣拉下马。但在会上已明显表示出对这位国防部长的力量和声望的惧怕。他把朱可夫提升为部长会议副主席的岗位。谁都知道这是明升暗降，剥夺了朱可夫对军队的控制权。

朱可夫愤怒地盯着赫鲁晓夫，拒绝担任这一职务，于是开始摊牌了，辩论开始公开涉及权力问题。朱可夫简直难以相信，四个月前由他保护和支持的赫鲁晓夫转眼就翻脸不认人。经过长时间的争论，也就在朱可夫返回莫斯科当天，塔斯社发表公报：免去朱可夫国防部长的职务。但通告发表一星期内，再没有任何有关朱可夫的消息。在此期间，朱可夫和赫鲁晓夫在朱可夫传　　　　　　　　　　　　　　　　?１４０?中央委员会内展开了一场权力之争。然而朱可夫又一次在政治舞台上遭到失败。

对朱可夫的批判很快展开了，他的主要错误是：他削弱党的工作者在军队中的作用。其中的一项证据提到由他签发关于苏联陆、海军中党组织工作的训令。训令禁止在党的会议上对军事指挥员的命令提出任何批评意见。他曾经把“真正的爱国者“的含义解释为：首先是一个无私地献身于苏联人民的人，其次才是献身于共产党主义事业的人。