内蒙古自治政府于１９４７年５月１日成立，当时西部地区还没有解放，中共中央决定分区域在内蒙古地区开展党建工作。早在１９４７年３月１４日，乌兰夫即致电中央请示：“关于党的领导问题，我们提议成立内蒙古分局或者内蒙古党委员会，受东北局领导。”中共中央电示：“内蒙古人民中进步分子应多多吸收加入中共，并给以党的教育，准备到相当人数后，宣布成立内蒙古共产党。目前，内蒙古党的领导机关可以成立内蒙古工作委员会，即以云泽（乌兰夫）同志为书记，受东北局或者西满分局领导。”

    当时，在内蒙古自治政府是由中国共产党领导还是由内蒙古人民革命党领导的问题上存在激烈的争议。乌兰夫明确提出，同一国家、同一社会，不可能在各个民族中分别产生和形成各自的无产阶级。中国共产党是中国无产阶级的政党，代表全国各民族人民的利益，并非哪一个民族的政党。经过乌兰夫等人耐心细致的说服工作，最终形成统一意见，接受中国共产党领导。

    １９４７年５月２１日，中共中央东北局发出指示，内蒙古党的组织可以称内蒙古共产党工作委员会。这个名称有别于其他地方基层党组织的规范称谓，是从内蒙古的民族特点和地区特点出发提出的，便于蒙古族革命者和革命青年接受。５月２６日，东北局任命乌兰夫为内蒙古共产党工作委员会书记。