在中央人民政府对热河、察哈尔、绥远３个行政省区域进行了部分调整的基础上，１９５２年初，周恩来总理专门召集内蒙古、绥远、华北局、新疆分局的领导人研究了内蒙古自治区的区划问题，阐述了中央的决定。５月１２日，中共中央批准同意中共华北局提出的《关于内蒙与绥远工作关系问题的四项解决办法》即：内蒙古自治区党政领导机关全部迁到归绥；乌兰夫兼任绥远省人民政府主席；绥远省人民政府由中央人民政府政务院和内蒙古自治区人民政府双重领导；苏谦益任中共中央内蒙古分局副书记，乌兰夫兼任华北局副书记，中共中央内蒙古分局和内蒙古自治区人民政府分别于６月和７月从张家口迁往归绥市。９月，中共中央内蒙古分局和中共绥远省委合并为中共中央蒙绥分局，首先统一了蒙绥党的领导机构。

    之后，中共中央蒙绥分局和内蒙古自治区人民政府、绥远省人民政府在干部和蒙汉群众中进行了一年多大量细致的讲解说服工作，增强了各族各界的团结，创造了蒙绥合并的条件。１９５３年１１月１日，内蒙古自治区人民政府和绥远省人民政府实行合署办公。１２月，中共中央批准华北局提出的关于绥远省划归内蒙古自治区，同时撤销绥远省建制的建议报告。

    １９５４年１月１１日到１７日，召开了绥远省第一届第三次各界人民代表会议，经过各族各界代表的热烈讨论，一致通过了关于绥远省与内蒙古自治区合并、撤销绥远省建制的决议：一、绥远、内蒙古自治区合并，撤销绥远省建制，统一由内蒙古自治区人民政府领导；二、改集宁专区为平地泉行政区、陕坝专区为河套行政区，两行政区均为内蒙古自治区人民政府领导下的一级政权；三、绥东旗县并存问题应结合普选即行解决，将４旗调整为察哈尔右翼前、中、后３旗；四、伊克昭盟和乌兰察布盟自治区取消区域自治，改称伊克昭盟人民政府、乌兰察布盟人民政府，为内蒙古自治区人民政府领导下的一级政权。２８日，中央人民政府政务院批准了绥远省一届三次各界人民代表会议的决议，并命令遵照执行。１９５４年３月６日，绥远省建制及其军政机构撤销，原绥远省辖区全部划归内蒙古自治区，由内蒙古自治区人民政府领导。４月２５日，归绥市改称呼和浩特市。

    １９５６年１月，国务院决定撤销热河省建制，将辖区部分旗县划归内蒙古自治区。４月３日，国务院又决定将甘肃省的巴彦浩特蒙古族自治州和额济纳蒙古族自治旗划归内蒙古自治区。至此，圆满完成了实现内蒙古统一的民族区域自治的历史任务。