面对阎锡山挑起的摩擦，中共中央以大局为重，认为在民族矛盾仍是国内主要矛盾的情况下，阎与日、蒋的矛盾依然存在，争取阎锡山留在抗日统一战线内，对抗战事业有利，而且也是可能的。因此，对山西以新、旧军冲突面目出现的破坏抗日统一战线的事变，还是采取了调解的姿态。阎锡山看到在军事上处境不妙，更危险的是，蒋介石提出新军由国民党中央改编，并派胡宗南的部队东渡黄河占领了晋西，于是赶忙表态同意中共的调解。1940年2月，萧劲光、王若飞持毛泽东的亲笔信来到秋林。毛泽东的信中说：“近来山西境内发生某些不幸事件，然大势所趋，终必和平解决，尤因先生领导提挈至明至慎，必能处理悉当，益臻进步、团结之途，无可疑者。”中共中央表示了赞成新、旧军团结，拥阎抗日，新军仍属晋绥而不受国民党中央政府改编，巩固阎的地位等意见，得到了阎及其高干们的欢迎。周恩来通过八路军驻秋林办事处，也给阎锡山一封亲笔信，劝他坚持抗日，继续走团结抗日的道路。此时已任山西新军总指挥的续范亭也写来亲笔信，在信中诚恳致词，说：“范于西安事变后就站在统一战线立场上。山西是最进步的，所以回到自己的家乡。蒙钧座优遇，待以国士之风。感激之余，故始终以真诚报答，未敢以一言虚伪应付也。……新军是山西之子弟兵，不能离开山西之怀抱，更不能离开钧座之领导。大家正渴望钧座之宽大为怀，接受他们的请求也。共产党对于统一战线认为是长期的，不但抗战需此，建国亦需此。……蒋先生做法始终是清一色、一把抓的作风。这是使全国最害怕的。如甘肃、陕西、四川，本省士大夫阶级几无立足之地，到处特务横行，欺压群众，人民侧目，敢怒不敢言。如此下去，是危险的。现在是特务乱政，将来怕要特务乱国。独裁过甚，利用肖小，自古是危险结局。所以今天主要是开放民主，罢除特务，教育干部，才有正当出路，才可以图存。延安方面始终认为山西是统一战线的支柱，司令长官是对统一战线最努力最热心的。有些人说，到重庆才觉山西进步不少。这是事实。深信钧座于时局逆转风雨飘摇时，始终为国家民族之中流砥柱也。”通过这些努力，和平谈判得以顺利进行。谈判中，萧劲光还表明了中共的原则立场，即“人不犯我，我不犯人；人若犯我，我必犯人”。这大义凛然的坚决态度，令阎锡山感到不安，他表示：这“人不犯我，我不犯人”可以接受，可后面的八个字太强硬了，是否可改成“人若犯我，我必自卫”。当萧劲光他们回到陕北，向毛泽东汇报此事时，毛泽东坚定地说：一个字也不能改，就是要坚持“人若犯我，我必犯人”！
事变虽然在中共的调解下和平解决了，但阎锡山这次置民族利益于不顾，为着一己的权欲而打的算盘，却真正是搬起石头砸了自己的脚。他预计在一个月之内完全“解决”新军的计划完全落空不说，还给蒋介石向山西派兵创造了机会。中央军趁机进入晋西，并抢占了晋东南的一大块地盘。晋西北则完全脱离了阎的统治，成为巩固的抗日根据地。牺盟会召开了山西全省第二次代表大会，决定山西新军在八路军的领导下进行整军，并正式加入八路军的作战序列。经过这一番折腾，新军未能被消灭，阎锡山反倒损兵折将，丢失了四分之三的地盘，新军多达33个团的兵力加入了八路军的战斗序列。从此，阎锡山的实际势力就只能控制晋西一小块地方了。续范亭将军曾经嘲笑他：“阎王定下杀马计，跑了马儿又折兵”。更令阎锡山沮丧的是，这次破坏抗日民族统一战线的倒行逆施，在全国造成恶劣影响，受到了广大爱国进步人士的谴责和唾弃。许多进步人士和青年纷纷离山西而去，使一度被誉为“模范战区”的阎锡山威信一落千丈，内部也出现了众叛亲离的局面。集团军司令陈长捷等高级军官弃阎投蒋，军队陷入了不稳定状态。
某种意义上说，“十二月事变”给阎锡山的打击与刺激甚于中原大战的失败。他以山西的太上皇自居，认为牺盟会是自己一手栽培起来的，不应该反对自己。他气愤地说：“我给了他们地位，给了他们政权，给了他们兵和枪，他们却背叛了我。”对此，赵戴文开导劝慰说：“三十年前，你不也是前清的官员吗？你的兵和枪不也是清政府给的吗？今昔事虽各异，理有相似。”如赵戴文这样的饱学之士和忠诚下属，只用“理有相似”的笼统话给他宽心，却没有认真追究一下，为什么会有这样的相似？当时当地，阎锡山已经成了如清政府一样的阻碍历史前进的势力，属下造反当然也就是一种正义和革命行为了。
从1940年起，阎锡山驻扎到吉县西北30公里处的克难坡。这是一道东西长约一公里，南北宽约半公里，三面临沟河，一面通高原的葫芦状山梁，地势险要，易守难攻。原是一个有六户人家的小村，名叫南村。阎锡山讲迷信，认为南村与“难存”谐音，为了表示自己坚守阵地，克服困难的决心，将其改名为克难城。一般称为克难坡。经过二年多的修建，这个弹丸之地成了一个窑洞迭立，可容纳二万余人的小山城。移居到克难坡的阎锡山，实际控制的地盘，只有晋西南黄土高原区的七个贫瘠小县，以及晋南和吕梁区的十多个不完整的县，其处境十分困难。正如阎锡山自己所言：可以说是四面压迫，打击我们吃饭穿衣，被人限制我们的交通，使我们一日不得一饱，衣服不能更换。但是，尽管条件如此恶劣，如此艰苦，阎锡山却不忘摆他的架子。因为克难坡是山区，道路坎坷，开始时从西安买进一辆人力车，供他出入乘用。每有出行，副官，秘书，参谋，参事，以及身边的高干们结队随从。人丛中有提暖壶的，有拿坐垫的，有架斗蓬的，还有捶腰、捶腿的，天冷时还有持手炉的，林林总总，成为一支长长的、奇形怪状的队伍。后来，二战区长官部专门购进一辆小汽车，阎锡山每逢外出，沿途都有卫队和当地驻军警戒。警卫长、宪兵司令等骑着马，沿途跟随巡逻，阵势之大，在当时的中国，除去蒋介石，无人可比。陈诚就任第一战区司令长官，曾到克难坡见阎锡山。陈轻装简从，只带秘书、副官各一人。强烈的反差，让阎的随从们感慨不已。阎锡山此时还虔诚地敬起了土地爷。在他所住的两孔窑洞中间的壁上，有一土地爷的神龛，内贴“天地三界十方万灵真宰之神位”，而外边贴着一副红对联，曰：“天天要进步，地地要划分”（指实行他所主张的兵农合一，划分份地）。作为当时二战区的首脑所在地，不断有中外记者来参观访问，此情此景，也成为一大奇观。
阎锡山不得不在表面上摆出一副继续抗战的姿态，内心的算盘却在剧烈地拨动。一是坚持他的“只要有力量，任何合理的事情都可以做成功”的信条，决定扩充军队；二是想方设法进一步加紧对军队的控制，对部属的控制。经过这次扩军，军队达到四个集团军，8个军三个炮兵团，两个工兵团，一个政卫师，还有六个游击纵队，号称17万，实有12万多人。
不断加强对部下和军队的控制，是阎锡山一大心病，在这一方面，他真是绞尽脑汁，用上了古今中外的各种方法。多年来的混战中，军阀们的部下朝秦暮楚，频频倒戈的事实，让他印象深刻。而在他的账薄上，山西已经是阎家的私产，对任何企图将他取而代之、和他心思不一的异己，他都毫不留情地予以痛击。他先后驱走了把兄弟、太原起义时的亲密战友黄国梁，驱走了曾为他立下汗马功劳的孔庚，排挤走了危急时曾救他一命的徐永昌……，能征善战的得力部下，也先后有许多人为他所不容，。特别是在讨奉战争中坚守涿州，在抗战初期血战忻口、保卫太原立下大功的傅作义，在他多方排挤下也被迫离去。阎锡山当然不会反省自己的过失，除了大骂这些人之外，他唯一的心思是如何加强组织上和思想上的控制，防止进一步的分崩离析，建立绝对忠于自己的组织核心，忠于自己的军队。他向法西斯学习，提出“决心建立铁军”。什么是铁军？阎锡山的注解是：通过强化内部组织和教育，造就一支军队，“打人人受不住，人打来必定吃亏；攻击人一定可以攻下，防御人一定攻不上来”。他雄心勃勃地计划着，这样的铁军，如能拥有10万，即可掌握山西；拥有20万，就可掌握二战区；而拥有30万，就能独占华北了。
1939年11月，铁军在阎锡山的家里正式宣布成立。其真实名称为“山山铁血团”，含义就在于“山西是阎锡山的”。但这样的名称显得太露骨，就以它一人介绍三人层层发展的方法，又称为“三三铁血团”。最后是将上述两种含义融合起来，正式称为“山三铁血团”。这个名称本身，就被定为最高秘密，阎锡山规定，任何人不得将组织的名称特别是它的含义泄露出去，否则，就以背叛组织的罪名予以制裁，也就是处死。开始的发起人为13人，后增至28人，号称二十八宿。二十八宿将当时晋绥的实力派人物都网络在内，而其核心人物是五台同乡，阎的至亲嫡系王靖国。
铁血团选在阎锡山的家中成立，清楚地说明它就是阎的御用工具，而成立仪式近乎滑稽一般的表演，更证明着它的陈旧和腐朽。成立会在晚间举行。28名发起人与阎锡山、王靖国围成一圈儿跪下，先是痛哭以示真诚，又用针刺破手指头，用血在白绢上点写守约。守约为：“三三铁血团守约。铁血主公道，大家如一人，共生死利害，同子女财产。”血盟之后，发起人跪到阎锡山面前宣誓。誓词中说：“以生命付诸组织，与组织共存亡，始终到底。如有违犯，愿受组织最严厉的处分。”誓词之后是宣读纪律：“犯以下各条之一者处死：一、脱离组织，背叛组织者；二、阴谋破坏组织者；三、不服从组织决议及指示者；四、泄露组织秘密者；五、有诬蔑会长之言论和行动者；六、污蔑同志破坏亲爱团结者；七、不积极努力组织工作、致组织受重大损害者；八、犯烟、赌、脏、欺之一者。”宣读完毕，宣誓者还要再次刺破左姆指，在宣誓人名下盖上血印，以示郑重和至诚。之后，阎锡山叫出他的家人，与发起人相见，并给儿子一一作介绍：这是某某叔叔，你们要行礼，今后咱就是一家人了。接着在会餐中，彼此称兄道弟，表演出一派同心同德的和睦气氛来。
铁军要求每个成员必须符合“钢的志气、胶的团结、铁的纪律”三个条件的要求，规定：组织永远不开除同志，如有违犯纪律的，就给予最严厉的处分——自裁处死。铁军用层层密密的纪律把成员死死地绑在阎锡山的车轮上，并用封建行会的发展方式，进一步罩上一层神秘的外衣。参加铁军的手续很严，要先由介绍人说明被介绍人的情况，经过审查，再经过短期培训，经过阎锡山、王靖国等首脑人物的四次传见，才能履行正式的加入仪式。入会仪式十分诡秘，半夜里才要举行。最初发展的几批，都在阎锡山居住的窑洞中举办仪式。窑洞中间悬挂着阎锡山的大幅画像，前面摆着桌子，桌上点起两支腊烛，插着一炉香，桌中放着由发起的二十八人的血指写就的守约，旁边放着几根针。阎锡山威严地立在桌旁，参加人要先对阎行九十度的三鞠躬礼，经介绍人说明情况，阎点头表示认可后，参加人就跪到桌前，面对阎锡山的画像，背诵誓词和纪律。之后，用桌上的针刺破手指，在誓词后面宣誓人的名下押上血印。阎再作简短训话，参加人再次表示决心。规定的手续和仪式，必须是个人单独举行。后来发展的人多了，就由各地的小头目代为主持。阎锡山不可能次次都在现场，但他的权势和威胁却压抑和控制着每一个参加人。它的发展方法，采用“三三法”，计划发展十二层：发起人为第一层，每人可介绍三人为第二层……如此层层发展，到第十二层。计算一下，发展到第十二层时，当有成员近五百万人。这一方面表明了急于扩张实力的狂妄，而另一方面却也暴露出自命不凡的愚蠢。各层的人还一律使用化名。阎锡山化名为“齐继川”，取“一齐继承阎伯川”的意思，铁军组织化名“郭复兴”、“杨明德”。组织按二十八宿分为二十八系，纵分为层，只发生纵的关系，不发生横的关系。开始时，铁军的发展对象是部队的中上级军官，逐步发展到下层军官和政工人员，后来更发展到士兵。而且，在所谓“领导一元化，军政一元化，组织一元化”的口号下，由铁军成员掌握军政大权，铁军成为阎锡山手中的一支御林军。铁军发展到部分士兵后，又称作铁军基干，阎锡山把他们称作铁班中的“铁大梁、铁二梁、铁柱子”，这些人有极大的特权，甚至可以“当场打死倡议缴械投降的任何人”。这个组织中的分子，都能和阎锡山发生直接联系，所谓“大家和会长一条心，条条电话线通向会长”，在军队中起到了相互监视和制造恐怖的作用，比警察和宪兵都厉害。
成立铁军的目的，主要是为了加强对军队的控制。从“晋西事变”后，阎锡山就着意培植王靖国替他掌握军队。为了解脱王靖国，他把造成“晋西事变”的责任全部推到赵承绶、郭宗汾等人头上，上报南京政府，予以处分，并借此机会撤换、调整了一批军队高干。不久之后，所有军队都被以王靖国为首的铁军掌握。王靖国从此权倾一时，不可一世。
与此同时，阎锡山又进一步发展同志会组织，从政治上加强控制。
成立于１９３８年初的“民族革命同志会”，是以“建立强有力的统一的民族革命领导机构”的名义建立起来的。到阎锡山的反共趋势日益明显时，它又成为阎手中网络亲信、控制干部的一张牌。秋林会议后，同志会中发展起了“同志先锋队”简称“同先”和“同志会基本干部”简称“基干”。“同先”是同志会中的骨干组织，而“基干”则是“同先”中的骨干。圈子之中画圈子，最后还是将权力集中于一小撮亲信手中。“基干”首先在高中级干部中发展，入“基干”须履行严格的手续。先是由阎锡山本人亲自批准，而后由赵戴文“叮咛”、杨爱源“监督”，直接面对阎进行宣誓。基干的纪律森严，“诋毁领袖”、“破坏组织”、“背叛组织”、“不执行决议”者都必须自裁或处死。阎用严厉无情的法西斯手段，对他们进行控制。有一个师长，长期追随他，算得上是一个亲信了。在防地上，与人闲谈时说过这样的话：“从中央领到的款，完全被会长扣了，他还口口声声说怕我们贪污”，“什么‘同志会’呀，简直是以‘同志会’为捆仙绳，把我们捆住，为他卖命，不准脱离。”这话被密报给阎锡山，阎立即将他调回，进行盘查。这人只好承认是信口胡说，并苦苦哀求今后决不会再说不利于会长的话。阎锡山冷冷一笑，授意王靖国等几个“高干”开会议决，令这个师长“自裁”。之后，派人给他送去一大杯鸦片烟浆水，此人被迫痛哭着喝下，却许久难以咽气。于是，就用绵纸覆盖其面，喷上冷水，将其活活蹩死。此事传开，令许多高级军政人员都不寒而栗。基干也是当官的重要阶梯，专员、师长级的负责主官，必须由基干担任。同志会的组织延伸到全省各地，在区县及军队、学校中层层建立分会。阎锡山有意用同志会代替行政组织，甚至把战区及省政府的关防印信置而不用，以同志会和执行部和会长的名义发号施令。民族同志会成为带有政党性质的一个政治组织，体现了阎锡山独立于国民党之外自成一家的主张，成为他的独立王国的政治核心。
一个铁军控制军队，一个同志会控制政治，同时又利用两拨人马的矛盾相互制约，以保证自己的最高权力。这就是阎锡山的如意算盘。王靖国掌握铁军之后，日渐高傲起来，甚至不把阎锡山放在眼里。蒋介石有一次在西安召开军事会议，王靖国前往参加。会间，蒋介石单独召见王靖国谈话达四个小时之久。但王靖国返回克难坡后，却未向阎锡山汇报，而擅自将参加会议的情况和蒋的谈话精神，直接印发到各个部队。阎锡山得到密报，随即召见王靖国，命令他立即将印发下去的材料追回，还当着众多高干的面阴沉着脸说：“你们拿军队的，掌组织的，不要在我面前耍花枪。告诉你们，不要把我当汉献帝对待。”吓得王靖国满面流汗，连连请罪。这事也给了阎锡山一个刺激：多亲密的部下，也需要防范和监视。于是，他又千方百计要把梁化之扶上同志会的领导位置。在召开基干同志第四次全体会议时，阎锡山宣布用无记名投票的方式选举同志会的领导机构。按他事先定下的基调，这次所谓“民主选举”，应选出十三名高干，按组、军、政、经等部门实行分职负责，而由梁化之任同志会组织领导机构工委会的主任委员。结果，选举下来，参加会议的560多名基干，只有120多人投梁化之的票，梁只能当选一个普通的“开展高干”。阎锡山听到报告后大为震怒，立即召开临时高干会议。他气愤地拍着桌子，色厉声严地说：“你们都有你们的组织了，合不到一起了，从此各干各的吧。这个会议就是散摊子会议，我自己有我的主意。”说罢，气冲冲地拂袖而去。如此紧张的气氛，让高干们体会到了“会长”绝对权威的厉害。经过检讨，还是按阎的意图，由基干会重新“选举”梁化之为工委会主任委员。
除了加强对领导层的严密控制和操纵，还要从思想上精神上控制各级基层干部。阎锡山在克难坡又举办所谓“烘炉训练”，其寓意是把人像矿石一样投入炼铁炉，经过冶炼，使其脱胎换骨，成为“是甚是甚，做甚务甚，不容人不，能使人能”的“万能干部”。通过烘炉冶炼，达到人人“志会长之志，言会长之言，行会长之行，成为会长化身”的目标。“烘炉训练”的对象包括军队连以上，行政区以上干部，机关、学校、经济、部队政工人员及同志会组织系统的干部。先后参加训练的达到二万多人，足见其规模之大，也足见其受重视的程度之高。参加烘炉训练的人，每天早晨六点，都要在广场集合，接受阎锡山以会长身分进行的训话。集会时，要高唱阎锡山亲自编写的“洪训”歌。其歌词是：
高山大河，化日熏风，俯仰天地，何始何终；
谋国不预，人物皆空，克难洪炉，人才是宗；
万能干部，陶冶其中，人格气节，革命先锋；
精神整体，合作分工，组织领导，决议是从；
自动彻底，职务唯忠，抗战胜利，复兴成功。
“人格”，“气节”，“抗战”，“复兴”，极为冠冕堂皇的词语，隐藏着不可告人的良苦用心。阎锡山对于蒋介石的一套办法，是不大看得起的，认为过于陈旧无能，不能适应潮流，不能为民众所接受。而他看到共产党的办法多，有活力，能够吸引民众，于是他早就宣扬，要“以共产党之道，还治共产党之身”。他屡屡借用斯大林提出的“干部决定一切”的口号，把培训干部放在重要位置。可惜，由于他的立场和利益与民众尖锐对立，共产党那一套从广大人民利益出发的办法，他是无法学到的。照猫画虎，也枉费心机而已。
趁烘炉训练之机，阎锡山大树特树自己的绝对权威，用制造个人崇拜、个人迷信的方法，强化对干部的思想控制。不论在何时何地，只要提到“会长”二字，在场的人都必须肃立致敬。在集会的场合，见到阎锡山出现，都必须高呼“会长健康”、“会长万岁”、“敬爱会长”、“服从会长”的口号。阎的一套工作形式，也充满了浓厚的封建帝王色彩。讲话须称“训话”，看过的信要批“上阅”，准备亲复的信件批“上复”，作出的批复称为“手谕”。与蒋介石使用的词语如出一辙，从中倒也可以窥见其真实心地。阎讲话时，全体立正静听，没有“稍息”的口令，任何人不许稍息，否则，就被揪上“烘炉台”罚跪，以示惩戒。阎锡山为了搞这个训练，确实也费神费力。除去每天清晨训话之外，还要在每期毕训前亲自接见每一个受训干部。阎端坐在堂上，由培训会负责人唱名，被接见者入内，至阎面前行礼，阎威严而亲切地注视片刻，表示赞许和鼓励，而后被接见者绕至阎背后退出。就这么一场短暂的“接见”，也曾使不少受训者受到鼓舞，觉得得到了“会长”的好感和器重，从此更忠实地为之卖命。另一方面，在“烘训”中，派出大量特务和耳目，深入到各个小组，对干部进行监视和监督。他特意命令亲信组织“服务士队”，以担任清洁卫生、勤杂事务为名，安插到各层组织中，搜集学员各种言论行动，向他密报。有所谓“严重问题”的，就定为“炉碴灰”，送去服劳役甚至秘密处死；属于所谓“一般问题”的，他要当面与本人谈话，以显示事无巨细，人前背后，一切情况都在他的掌握之中。被接见谈话的人，往往被吓得胆战心惊，魂飞魄散，再不敢存有任何忤逆之心。阎锡山用这种办法，树立起个人的绝对权威，在山西这块土地上，成了名副其实的“国王”和“万岁”。
为了加强对社会各界的控制，阎锡山还向封建帮会乞请援兵。用他的话来说，就是要将旧有帮会“组织化”、“现代化”，发挥其在社会上的重大潜力。在克难坡先后建立起了阎记青帮“安青进步委员会”和阎记洪帮“进步总社”。安青会的帮号为“明德堂”，阎锡山自封为嘉白帮大字班老前辈，道号称“阎大成”。大部分文武官员都加入此帮，各自发展徒子徒孙。进步总社的帮号为“进步堂”，奉阎锡山为山主，化名为“齐继川”。
阎锡山及其智囊们费了许多心机，搞了这么多名堂，实现了他“以同志会主张，为自己目标努力，以洪门力量，团结民众，领导民众”的目标，在晋西一隅之地，巩固了阎家天下。在竭力巩固自己的地盘，加强自己的统治基础方面，确实，阎锡山比别人做得更多，更用心，也更有效。但他面前的路却是越走越窄。经历过十二月事变之后，与八路军和新军的隔阂已是难以消除。在重庆方面，还不断有人放风说，山西因为阎先生搞什么“执两用中”，把共产党也当成“两”中之一来运用，结果是被共产党渗入军队，把他的看家本钱弄得几乎瓦解。大有兴师问罪之势，使阎锡山伤心、恼火而又惊惧。不论面子上如何亲热，从根本上，与蒋介石的利害冲突不可调和；从自己在山西称王称霸的需要出发，与共产党的联合也势将破裂。三颗鸡蛋已经踩破了两颗，剩下的路，阎锡山该如何走呢？
弃民族大义 公然与日伪合流
阎锡山与日本人的关系，可谓源远流长。在日本留学期间结识的不少同学，后来都是侵华日军的大小头目。利用与日本人熟悉的关系，阎锡山也早就与日本有经济往来。1917年，阎就向日本驻北京的大仓洋行购买过军火，而这个大仓洋行实际上是日本军阀与中国亲日军阀勾结的特务机关。到二十年代，日本在天津的驻屯军司令官铃木高桥，曾两度到太原与阎锡山拉关系。土肥原是阎在日本留学时的同学，经常来往于京、津、太原之间，对山西的地理情况作了极为详细的侦察。日军破坏阎锡山“大同会战”的计划，军队直插地势复杂的平型一带，就是土肥原事前侦察地形的结果。阎参加“北伐”时，也是得到了日本在天津驻屯军的大力支持，才顺利地占据了平、津两市。而阎、冯倒蒋的中原大战，是得到日本帝国主义背后的支持的。阎失败后受蒋介石的一再逼迫，从天津逃往日本控制下的大连，乘坐的是日本特别提供的轮船。从大连跑回山西，也用的是日本特别提供的飞机。七七事变前，日本在并无商务来往也无日侨居住的太原、大同派驻了领事，日本特务在太原多处设立机构，阎锡山都视而不见，默然允许。所以在七七事变之前，日本帝国主义对阎锡山是一面拉拢，一面压迫；阎则是一面与日寇勾结，一面表示要“守土抗战”。他的如意算盘是用讨好换得日军不攻山西，而晋绥军也不出山西作战，彼此相安无事，自己只得好处不吃亏。只要保住自己在山西的利益，阎锡山不仅对日本人没什么仇恨，实际上反倒是寄予厚望的。
七七事变后，抗战形势的发展，尤其是中国共产党高举抗日旗帜，建立并发展抗日统一战线的努力，全国人民不断高涨的抗战热情，从不同的方面，给了阎锡山以很大的影响。一方面，他看到，公然投靠日寇，会冒天下之大不韪，成为全国人民唾骂的对象，心有所忌，不敢冒然走出这一步。而利用抗战的口号，却能得到民众的拥护和支持，有利于增强自己的实力，有利于增加自己的政治资本，有利于维护自己在山西的统治；另一方面，与陕北红军隔河而居的地理条件，使他产生了利用红军对抗日军，对抗蒋介石的暗算，从而保住自己的地盘的想法。保住自己在山西的利益，从来就是阎锡山一切算计的出发点。因此，当日军逼近山西，他的统治受到严重威胁的时候，当共产党把东征红军撤回，诚心诚意与他联合抗日的时候，阎锡山选择了联共抗战的正确路线，并在山西大地上做出了轰轰烈烈的抗战壮举。
但是，阎锡山的阶级立场和利益，与共产党领导下的人民抗战从根本上是不一致的，当他感到自己独霸山西的愿望受到威胁的时候，他的立场和行为就发生了变化。
1941年7月，在举办“烘炉训练”的同时，阎锡山就开始处心积虑地为自己的转向制造舆论。他到处宣讲“存在就是真理，需要就是合法”的实用主义哲学，对他的高干们说：“我们无论如何要以生存为目的，只要能存在，采取任何手段都在所不惜。”他还以苏联革命初期与德国订立和约，列宁面对认为这是“割地求和”的指责，回答“存在即是真理”的事例为自己辩解说，“我们的组织是为了实现我们的主张的。我们的主张是为人类谋幸福的道理，所以我们的组织就是代表人类真理的。因此我们说，我们的存在就是真理。”阎锡山还从自己熟悉的儒家学说中，挖空心思地寻找依据。《论语》中有两段话，一段是说，公山弗扰反叛，派人请孔子，“子欲往”；晋大夫家臣叛乱，请孔子去，“子欲往”。其实，这两段话所要说明的，“子欲往”并不是孔子愿意去跟叛臣攀关系，而是显示孔子为推行圣道，既不避危难也能灵活权变并保持节操的崇高品质。但阎锡山在讲述时，却歪曲原意，大讲面对叛乱者的邀请，“子欲往”，说明圣人也认为为了达到目的怎么做都行，从而为自己的理论辩护。真可谓费尽心机。
在做了舆论准备之后，阎锡山就推出了“亚洲同盟”的计划。他宣称，世界的发展趋势，必然是“洲同盟”，而“亚洲同盟”的盟主只能是日本。只有在日本的主导下建立起“亚洲同盟”，中国才能不受英美等西方列强的欺侮，也才能防止苏俄的“赤化”。他授意心腹贾景德，草拟所谓“亚盟宣言”，称：“亚洲之国，日本为先进，中、印为大国。以日本之强，辅以中、印之大，在亚洲唯马首是瞻”；“外交一致，内政自理，有无相通，长短互助，庶几可以自荣达到共荣，以共荣促进自荣”；“以天下为公，成世界大同，岂徒亚洲之幸，亦世界之福也”。……将所谓“亚盟”吹得天花乱坠。
在这样的思想指导下，阎锡山那些慷慨激昂的抗战言论不见了，而代之以赤裸裸的投降言论：“目前只有借日本人的力量，才能发展咱们自己，这是一个不得已的办法，也是咱们唯一的出路。”沿着这条“出路”，对公开投敌的部下，他不许声讨；以王靖国等人的名义，派出代表，和日军进行“和平谈判”，谈判的内容是期望借助日军的力量，将在山西抗日的军队八路军、决死队共同剿除。
在与阎锡山打交道的长期过程中，日本人也看清了他的特点。日本防卫厅编撰的《华北治安战》一书中称：“山西军比中央军和八路军缺乏战斗意志。”1940年春，日军宪兵特务到克难坡与阎锡山见面，确定双方在山西境内进入停战状态。11月，阎锡山派赵承绶以到前方视察的名义，到孝义县与日军代表进行谈判。临行前，阎锡山交代了谈判四原则：亚洲同盟，共同防共，外交一致，内政自理。赵向日方代表转达了阎的意思，并代表阎向日方提出具体要求：先给晋绥军装备30个团，所有武器、弹药、服装、粮饷以及兵员，均由日方供给。日方口头上完全答应，并表示：只要阎阁下诚意合作，一切都好办。1941年3月，赵承绶等与日军驻汾阳旅团的高级参谋举行第二次会谈，达成了如下协议：日阎双方首先消除敌对行动，互相提携，共同防共，尤其前线部队要彼此友好往来，不得发生冲突；离石——军渡公路以北地区，对共军之进剿，由日军负责；公路以南，汾阳、孝义以西地区，由阎军负责。必要时，双方实行“会剿”。双方经过一系列接触、会谈，到7月底时，对所有条文商定出明确意见，约定于8月间在汾阳签字。8月11日，签字仪式在驻汾阳城的日军司令部举行，签字的协定通称《汾阳协定》，包括“晋绥军与日军基本协定”和“停战协定”两部分。根据协定，日方允诺：1、日方给予阎方步枪5万支，轻机枪5000挺，重机枪500挺及部分子弹；2、日方给予阎方军费国币2000万元，另给“机密费”700万元；3、日方供应阎方军队给养及一切装备；4、日方分两批拨给阎方50个团的壮丁和武器装备，充实阎方的力量；5、日方将雁门关以南山西地区的政权，让渡给阎方。阎方则需要做到：1、阎锡山本人即刻通电，发表独立宣言，脱离重庆国民政府；2、将小船窝黄河渡口交给日方派军驻守；3、阎方营以上部队，必须聘请日本人担任顾问及指导官；4、阎锡山本人第一步需进驻孝义，日方将晋中政权交阎方接管。第二步需进驻太原，接管雁门以南政权。第三步进驻北京，与南京的汪精卫伪政府合作，阎锡山担任伪政府副主席兼军事委员会副委员长；5、此后根据形势和需要，阎锡山还要组建“华北国”。这个协定，在政治上标志着阎锡山已完全堕落成为与汪精卫同流合污的日本侵略者的走狗。
当然，尽管协定签订了，阎锡山还是按他的习惯打小算盘，用骑墙敷衍的办法，尽可能先取得实利。他并没有按照协定匆忙行动，而是一心想得到日军提供的武器装备，先扩大实力。在武器装备没有到手之前，他采取拖延的策略，也找借口不实施自己的行动。这样拖延了一段时间，没有任何实质性的进展。客观上，阎的投降日寇的嘴脸也就未能完全暴露在国人面前。
蒋介石察听到了阎与日军勾结的消息，担心二战区脱离控制，会分散和削弱国民党的力量，不利于反共事业，忙派阎的老部下徐永昌和贾景德由重庆来到克难坡，面见阎锡山。要求对日求和，只可从缓，并不要单独进行。阎锡山于是借机提出“补给问题”，声称“二战区环境恶劣，补给困难，如政府在经济上不大大予以接济，则必将在日军的经济封锁和军事进攻下遭到毁灭。”蒋介石只好答应给予补助，增加军费，且同意为了共同防共，仍可与日本人保持联系。而此前，中共代表王世英也面见了阎锡山，转达了中共对形势和降日问题的观点，严正表明：中国共产党和八路军的原则是，“谁投降就打谁”。阎锡山受到这些力量的挤压，也不得不暂时收敛一下对“亚洲同盟”的热情，将派驻太原的代表赵承绶召回，使出他惯用的脚踩两只船的策略，决定暂且静观时局的变化，并对外辩解说，与日军来往只是策略，并不是投降。
太平洋战争爆发后，日军急于稳固华北，以便抽出兵力南下，更加重视与阎的勾结和交易，对迫使阎锡山早日就范，采取了新的策略。1942年1月，日方提出要举行首脑会谈，并将双方要完成的行动明确开列出一份清单，不给阎方再含胡其辞的余地。日军的清单是：步枪三万支，分两次拨给；军费，孝义会见时先付联银券1200万，阎锡山发表宣言后，每月付法币2000万；其余粮秣问题待阎到太原协商后，尽量给予方便。要求：一是阎锡山迅速驻孝义或隰县；二是立即实行孝义会见。阎锡山亲自复信表示拒绝，称：“只是此间环境及本身实有不得已的苦衷”，“现在骤然会见，不仅有碍于合作的前途，而且亦有碍于（晋绥军）目前的存在，成败是非都可能俱失”。显然，他已经看出一旦发表独立宣言，公开降日，势必陷入孤立境地，成为全国民众唾骂讨伐的对象。他的存在就成问题了。
日军见软的诱惑不成，便来硬的。3月，制定“对晋绥作战计划”，对晋绥军阵地进行炮击和进攻，并提出，关于首脑会见问题，阎方必须于4月4日前答复，否则，以往所签的协议一概作废。阎锡山害怕了，又派赵承绶为代表，赴太原与日军重开谈判。日酋花谷正毫不客气，盛气凌人地说：“阎锡山诡诈多端，曾骗遍了中国的军阀，难道还想骗日本皇军不成？你代表不了阎锡山，我们非和阎锡山亲自面谈不可。”经过一番讨价还价，阎锡山一是急于从日军那里得到好处，二是终究害怕日军翻脸，于是双方商定：5月5日，在安平村会见。
晋西黄河边上一个小山村，原名南坪，阎锡山嫌其与“难平”谐音不吉利，便改为安平。确定在这里会面，阎锡山也是动了一番脑筋的。自己到日军占领下的太原或汾阳去，显然不安全，而且会将投降妥协的嘴脸暴露出来；让日本人到吉县克难坡来，人多眼杂，风声太大；而安平村是晋绥军的前哨阵地，与日军的阵地只隔一条小河沟，双方来往方便，且容易遮挡外人耳目。还有一层意思，就是阎在决定重大事情时都讲迷信，安平村在吉县境内，是“吉祥平安”的兆头，不仅让他多了几分安全感，也使此行有了几分顺利成功的把握。
会面之前，阎锡山做了充分的准备，本是投降的举动，却也想到了“以身殉国”的壮烈。这种矛盾心理，一方面表现了他对当一个名符其实的汉奸似乎心有不甘，另一方面却又难以丢弃从日军那里得到好处的梦想。他特意与警卫队长单独谈了一次话，突然对警卫队长提出这样的问题：“你敢不敢开枪打死我？”吓得那队长汗流浃背，赶忙表态说：“我只有以性命来保护会长，岂敢有别的想法。”阎锡山却正色说道：“我要你敢开枪打死我，这才是你的忠诚，才不辜负我对你的信任。你应该服从我的任何命令。你说，敢不敢，能不能做到？”队长诚惶诚恐地回答：“我一定绝对服从，会长让我怎么做我就怎么做。”阎锡山把与日本人会面的事告诉了他，沉思着说：“我是中国人，要维护国家、民族的尊严，决不能让日本人利用。如果谈判成功了，也是维护我们独立自主得以存在的宗旨；如果谈判破裂了，决不能将我一世英名付诸流水。在敌人要对我下毒手或者劫持我时，你在紧要关头要迅速朝我心脏开枪，不能让日本人把我活着劫持走。这就是你对我的忠贞。”这一番心情颇为悲壮的话，与他将要做的事实在是极不和谐。将要卖国，何谈爱国？已经堕落，何谈忠贞？这也正是阎锡山的复杂之处和狡诈之处吧。
原定5月5日的会见因雨延至6日举行。这一天，阎锡山带领赵承绶、王靖国等亲信，与日方高级军官见面。会上，日方一再催促阎立即通电脱离重庆国民政府，表示只要马上表态，可即刻交付现款300万，步枪1000支。但阎锡山不为所动，仍然大谈“没有准备好的”的老调，要挟日方执行《汾阳协定》中的所有承诺，抬高身价，以谋取更大实惠。日酋花谷正极不耐烦地站起来扯住阎锡山的衣袖，气势汹汹地说：“阎阁下和日本合作，正是时候，观望一定没有什么好处，最好马上跟我们回太原去！”阎被吓得脸色大变，会场气氛顿时紧张起来。伪山西省长苏体仁见势不妙，忙出面打圆场，建议临时休会。恰在此时，在会场外负责警戒的人员通过望远镜发现，远处山道上，有日军一队驮骡马匹，正急匆匆地向安平村走来。这些马匹驮的是准备交送阎方的枪械和款项，却被误认作是炮兵，他们立刻向阎锡山报告。阎听说后大吃一惊，断定日方是企图劫持自己，决定乘休会之机逃跑。与给晋绥谋利相比，毕竟自身的“存在”还是第一位的。于是，他与警卫队长顺着事先修好的小路，匆匆忙忙跑了，只留下赵承绶、王靖国等人与日方周旋。继续开会时，日方发现阎锡山不见了，感到既可笑又恼怒，立即中止了会谈。一个小意外使安平会谈破裂了，阎锡山向着投降迈出一大步的行动未能实现，他的真实面目也又一次被掩盖。他要利用日军急切勾结的心理，抬高价码，要挟一番，却不料闹了个“误会”。事件有相当的偶然性，却表现出日军对他又打又拉的策略未能收效，也显现了阎锡山善于算计，凡事都要谋取最大利益的一贯做法碰了钉子。
阎锡山如此紧锣密鼓、肆无忌惮地与日军订立密约、频频会谈的行为，在晋绥内部也引起一片哗然。一些具有民族气节，立志抗战的人，都感到失望和愤慨。时任山西省政府主席、同志会副会长的晋绥第二号人物赵戴文，就是其中的突出代表。赵戴文从在日本留学时起，就与阎锡山相识相交，成为同盟会的同志。此后一直追随阎，在阎手下做事几十年，是阎的重要智囊和得力助手。阎锡山在日记中曾这样评价他：“次陇（赵戴文字）与吾相交三十年，公私事件，饱经波涛，虽有危及身家之虑，亦未尝忧形于色。”赵对阎唯命是从，一贯是围绕着阎的观点出主意，从不向阎争权、闹独立，因此也受到阎的格外尊重。赵十分推崇孟子，受儒学影响很深，因此也有极强的忠君爱国的正统观念。早在中原大战之时，对于阎、冯联合讨蒋，他是不赞成的，认为阎、冯作为蒋的部属打蒋，是一种“造反”行为，曾力劝阎锡山不要起事，被阎责为受了蒋的收买。抗战爆发后，爱国热情高涨，太原沦陷前，作为山西省主席，赵戴文就曾宣誓，要与省城共存亡，决心不撤离。后来虽然还是跟着阎到了克难坡，但内心的分歧已经开始。到阎锡山与日军的勾结逐渐明朗化的1942年，赵已是76岁高龄，一反几十年中唯命是从的姿态，多次在各种场合表示对阎锡山的此举不赞成。这时，中共中央也在密切注意着阎的动向，指示：阎锡山是个军人，他如果公开投降日本，会比汪精卫等人有更大的危害。必须拖住他，不许他公开投降。打入晋绥上层的中共党员杜任之，便趁机做赵的工作，希望他能劝阻阎的投降行动。赵戴文表示：我是有民族气节的人，我绝对不回太原当汉奸。他与阎锡山谈话时，就明确表示了自己的反对意见。阎锡山见一贯忠心耿耿的亲信也公然反对他，就气呼呼地说：“我如果妥协投降，你将怎么样？”赵戴文一反常态明确地回答说：“我一定跳黄河而死，决不再跟你回太原去！”赵戴文的这些表现，虽然未能阻止阎锡山一意孤行，但也确实给了他很大的震动，使他看到，民族大义远远高于朋友亲信的交情，几十年忠心耿耿的部下如此反目，不能不使他在投降的路上有所顾忌和收敛。
这期间，共产党人严肃而诚恳的告诫，也给阎锡山泼了冷水。八路军驻山西办事处代表王世英，要求面见阎锡山。阎的交际处只答应谈话15分钟，但见面后，实际交谈却长达三个小时。王世英在谈话表明了共产党对时局的精辟分析，也坦率地表现出对其前途的诚恳关心，都让阎锡山陷于更大的疑虑和动摇。王世英在谈话中指出：阎锡山之所以对中国抗战的前途产生悲观看法，是因为对当时世界反法西斯大局作出了错误的估计。阎认为，日军将会北进，配合德国进攻苏联，这是他加紧与日军勾结的重要出发点。实际上，日军深陷于中国战场，兵力不足，绝无可能再去进攻苏联。而即便日军真的与德国呼应，出兵抢占了苏联远东地区，得到的也只是一片冰天雪地，难以抢掠到有用的战略物资。日军只有南下，才可能解决其战略物资困难的问题。其次，阎从各种途径得到的情报判断，认为，蒋介石即将投降日军，要与汪精卫再次合流，组织亲日政府。果真如此，阎自己将在日本人面前变得一文不值，因此，要抢在蒋介石之前先投降，以便占据华北，以后还有与蒋抗衡的本钱。但这种想法，也不符合事实。在全国人民的压力之下，在世界反法西斯阵线的推动下，蒋介石是不敢公开投降日军的。他一旦投降，就会输光所有的政治资本，就会被全国人民起而打倒，就会受到全世界人民的唾弃。共产党的态度很明确，谁投降，我们就打倒谁。蒋介石投降，我们打倒蒋介石，别的什么人投降，我们也照样打倒他。共产党人对时局的精辟分析，对投降派的深仇大恨，使得阎锡山不能不当面点头称是，背地里暗吸凉气。不久之后，日军偷袭珍珠港，太平洋战争爆发。历史以雄辩的事实，否定了阎锡山曾作出的“日美会妥协牺牲中国，日本将北进攻打苏联”的判断。
不过，阎锡山从自己的利益出发，为了达到利用日军消灭八路军和决死队的目的，还是继续与日军勾结。他一面玩弄所谓“晋西大保卫战”的花招，面上一副坚持抗战的样子；一面通过在太原、汾阳、临汾的办事处积极活动。受“共同防共”的利益驱使，日军渐渐停止了对晋绥军的进攻，并放松了对阎方的经济封锁。阎锡山则在加强“内应工作”的招牌下，提出了将部分兵力移放到日军占领区充当伪军的计划。这样，一是借日军发展自己的实力；二能协助日军“剿共”；三还可以为以后返回太原时增加警卫力量。神不知鬼不觉，不给人以投降妥协的口实，这个算盘打得精明周到。阎、日双方一拍即合，阎的骑兵军长温怀光在阎的授意下，与日军商定了一项密约：由阎军输送一个师的兵力，到日军指定的地点。由日军用“战斗”的方式，使阎军“投降”，然后将其改编为共同的反共部队。1942年6月，按着编好的剧本，阎锡山演出了一场送兵戏，由阎军“被俘”官兵组成的“山西剿共军”在太原宣告成立。此后，阎军便屡屡派出官兵加入到日伪军的行列，日军特意在汾阳、临汾等地设立所谓“晋绥军归来官兵招待处”，而在阎锡山统治区内，也出现了日、伪、阎三“友军”的怪现象。 1943年春，占领太原的日军又提出了“日、阎政治、经济、军事合作方案”，称：由阎派官员到太原参加日、伪政权，逐步建立“日阎合流”的山西政权，实现政治合作；日军同意晋绥军向汾河以东地区发展，实行军事合作，共同“剿共”；日阎双方共同管理太原附近各厂矿，双方共建“董事会”，实行经济合作。此方案立即得到阎锡山的响应，阎还煞有介事地提出了“开展政权，重光山西”的口号，为进一步的勾结和投降行为作掩护。接着，阎锡山就派遣亲信干部到日伪区担任县长，派人到日阎合办厂矿的董事会任董事，与日军签订《秘密协定》，在汾东地区和上党地区“合作剿共”。至此，阎锡山与日军的“全面合作”疯狂展开，集中进行所谓“开展政权”的工作，双方协力摧毁抗日根据地，建立阎伪政权。
到1945年4、5月间，二次世界大战的轴心国与同盟国的力量对比发生了急剧的变化，意大利和德国已先后投降，苏联向远东出兵后，日本帝国主义的失败也已成定局。阎锡山为了利用日军力量，抢夺抗战的胜利果实，抢占太原城，以恢复他对山西的独裁统治，就进到与太原邻近的孝义，亲自出马与日军进行最后的勾结和交易。八月上旬，日本帝国主义决定宣布无条件投降，日军企图钻同盟国之间矛盾重重的空子，逃避同盟国对它的制裁和束缚，苟延残喘以图死灰复燃，就利用中国封建军阀的独裁心理，提出所谓“单独向中国投降”的阴谋，选中了阎锡山作为突破口。日军华北方面军参谋长高桥坦亲自从北京飞到太原，到孝义当面会见阎锡山。高桥坦向阎提出：日本希望避开同盟国各国，直接向中国投降，请先生代日方向蒋介石先生说话。成功后大家有利。阎锡山此时觉得，日本人现在是有求于己，自己可以伸直腰板了，就先装模作样地敷衍了一番，而后提出了所谓“寄存日军武力”的方案。他借口蒋介石身为国家元首，又有中、苏、美、英同盟关系，单独接受日军投降，会影响国家的体统。因此，最好的办法就是“寄存武力”。所谓“寄存武力”，就是只改变日军的番号，日军仍可保有原来的武装。说白了，就是把日军变成他的军队。阎锡山为了消除日方的顾虑，进一步推心置腹地对高桥坦表示：我是最前线的战区长官，虽无权代表国家接受投降，但对在战争中被我打败的军队，我有处理的责任，也有改编这些军队的权力。因此，让华北所有日军都向二战区投降，我可以战区长官名义，分别改编，给各部队暂编番号，向重庆政府备案就行了。生米做成熟饭，重庆方面也无可奈何。即使同盟国家提出质问，重庆政府可将责任推到战区长官头上，他们也没有什么办法。这样做，你们体面地保存了武力，我也扩大了军队，彼此都有好处。听了这番话，高桥坦感到十分惊奇。既惊奇中国统治阶层上下欺骗的圆滑狡诈，更惊奇阎锡山如意算盘的无赖精明。他表示：如此设计，我个人觉得很好。但我是个军人，唯有服从命令行事。你的这种美意，须请天皇裁决，如认为可行，再继续商谈。后来，阎锡山的计划虽然未能推行到全华北，但在山西是实行了的。为了扩大自己的势力，他不惜利用侵略军的武力。这种寡廉鲜耻的行为，是他长期与日军勾结的结果，也是他的反人民立场的集中暴露。
五、顽固反共 残害民众 机关算尽也输尽
一面对日伪好言抚慰，一面是迫不及待向解放区发动进攻，打响大规模内战第一枪，上党战役遭惨败；今非昔比，已到穷途末路，只能依靠特务维持统治；山西战场上，屡战屡败，节节败退，剩下太原一座孤城，大势已去，溜之大吉；无可奈何花落去，机关算尽也输尽。
内战急先锋 上党战役赔本
1945年8月6日，美国在日本广岛投掷下第一颗原子弹，8月8日，苏联对日宣战，百万苏联红军向日本关东军发起进攻，8月9日，美国在日本长崎投下第二颗原子弹。8月14日，日本被迫正式接受《波茨坦公告》，天皇出面发布《停战诏书》，宣布无条件投降。
阎锡山认为时机已到，按他的既定策略，迅速调兵遣将，抢占全省的地盘，抢占太原。
阎先后乘坐日军的铁甲车和军用卡车，在大批日军的护卫下，于8月30日返回离别八年之久的太原。进入太原的当晚，他就与伪省长等汉奸会面，提出“全省各地旧有文武官员照常供职，一切率由旧章，照常行事，不必有所顾虑。”次日，在大小汉奸们举行的“欢迎阎长官胜利归来”的大会上，他公开对汉奸们表示安慰，声称“行者”与“居者”同功，说什么：“行者”虽经过八年多跋山越岭的辛苦，“居者”亦遭受八年多的精神苦痛，千万不要自划鸿沟，自行隔离。“行者”与“居者”本是一家人，千万不要区分彼此，而应团结一致，精诚合作，我们共同的敌人是共产党。阎将日伪军正式改编为五个省防军，成为他手下一支反共力量。紧接着，他就亲赴日军司令部“拜访”日军山西派遣军司令官澄田睐四郎，迫不急待地提出所谓“武力寄存”问题，要求把驻在山西境内的全部日军，全部归他改编，换个番号，照常驻扎原地，与二战区军队共同“剿共”。对这种公然违背国际法的行为，连日本人都感到难以完全接受。日军表示，山西的日本派遣军全部留下不可能，可考虑留下一部分，最好是采取“个别发动”的办法。阎锡山见自己的精心策划取得了效果，很是高兴，便迅速聘请日军的一批高官为二战区的“总顾问”、“副总顾问”，并委任日军旅团长板井少将为“太原警备司令”。为了不伤侵略军的“感情”，山西境内始终没有举行“受降”仪式。对重庆国民政府，则采取蒙哄欺骗的办法，将日军出操时架枪的情况拍成照片上报，宣称“二战区接受完毕”。
在阎锡山的精心策划下，由亲信赵承绶等出面，以“日中双方志同道合共谋大事”为宗旨，成立了所谓“第二战区司令长官部合谋社”，简称“合谋社”，还组织了“亚洲民族革命同志会”和“日侨管理处”，积极活动，进行日军“残留”工作。阎锡山毫不掩饰地对部下说：“现在我们的兵力不够，应付不了共产党。为了充实兵力，只得招兵，但招兵又有困难，即使召来十万中国兵，也顶不上一万日本人。你们要好好努力，分头动员，设法争取，越快越好。”经过一番努力，阎锡山“残留”下包括军官、士兵、技术人员和家属在内的日本人6000余名，号称一万。凡被留用者，一律官升三级，兵发双饷。这种优厚待遇，让日本人也意外地感动不已。日军头目城野宏在鼓动日军官兵“残留”的大会上，激昂慷慨地号召：“凡是不愿回国作亡国奴而具武士道精神的日本国民，都应该义不容辞地勇敢无畏地留下来！”阎锡山还让他的亲戚徐士珙和日本人城野宏出面，组织了“亚洲民族革命同志会”简称“亚盟会”，动员和笼络日军俘虏参加，他对日俘表示：“日本和中国同文同种，如能密切合作，就可以增加反共的力量，对于中、日两国，都有很大的利益。”阎锡山居然将他的“民族革命同志会”发展到了日俘中间，其颠倒是非，混淆黑白的卑劣和寻求反共帮手的急迫，完全暴露无遗。
一边是对日、伪笑脸相迎，情同手足，另一边对共产党、八路军领导下的抗日根据地则是充满仇恨，迫不及待地要予以消灭。在急急忙忙进占太原的同时，阎锡山在孝义召开军事会议，提出抢占上党的问题。上党，是指以长治为中心的晋东南地区。秦始皇统一中国后，分全国为36郡，上党郡为其一，自古以来为兵家必争之地。八路军总部曾长期驻在上党，领导和指挥抗战。如能抢占上党，对于在山西境内的共产党、八路军力量就是一个沉重的打击。而且，占领上党之后，向东向南，均能居高临下，向华北和中原伸手。有的将领对此疑虑重重，认为上党是八路军势力最强的地区，孤军深入，更犯兵家大忌。但阎锡山坚持认为要巩固山西，进而控制华北，必须先占据上党。他排除异议，坚持己见，拼凑起一支17000余人的部队，派第八集团军副总司令兼十九军军长史泽波率领，于8月17日由汾东地区向东开进，直扑上党。
开始时，史泽波不断传来捷报，顺利占据了六座县城。阎锡山接到捷报，踌躇满志，喜从中来，更觉得自己当初的决定完全正确。当晚特意与身边的将领们开了个碰头会以示庆祝。会上，阎锡山容光焕发，频频与将领们碰杯，似乎对打响内战第一枪，轻取上党，充满了必胜的信心。
但他轻估了共产党“人若犯我，我必犯人”的决心，轻估了八路军和人民的力量。毛泽东对此事有一段精彩的论述：“太行山、太岳山、中条山的中间，有一个脚盆，就是上党区。在那个脚盆里，有鱼有肉，阎锡山派了十三个师去抢。我们的方针也是老早定了的，就是针锋相对，寸土必争。”（《毛泽东选集》第四卷第1157页）9月初，正在延安开会的晋冀鲁豫军区司令员刘伯承、政委邓小平乘飞机返回上党，指挥八路军打响了上党战役，决定将来犯的阎匪军歼灭在上党。八路军迅速将史泽波占领的六座县城夺了回来，肃清外围，团团包围了长治城，并展开了激烈的攻城战斗。史泽波被围在孤城之中，向阎锡山连发急电，请求援兵。在这出乎意料的突变面前，阎锡山惊惶失措，但仍不相信会一败涂地，一面复电称：“上党必争，潞安必守，援军必到，叛军必败”，一面急忙拼凑力量，组织起两万余人的部队，前往上党增援。
时值晚秋，阴雨连绵，山洪漫流，泥泞阻道。阎军炮兵、辎重不少，兵士除携带自己的弹药之外，还给长治守军带了许多弹药，步履艰难，每日只能走二、三十里。再加上沿途民兵和游击队的袭扰，部队士气低落，怨声载道。因此，在八路军的坚决抗击面前，损失惨重，难以挪动。阎锡山得知增援无望后，为保存实力，令援军撤退。阎军狼狈不堪，官兵各不相顾，争先恐后，在一条不到十米宽的小路上蜂拥逃窜，自相践踏。八路军尾追和拦截部队两面夹攻，阎军彻底崩溃。援军司令、第七集团军副总司令彭毓斌死于乱军之中，还有多名高级军官被俘，除逃回2000来人之外，援军全军覆没。消息传到太原，阎锡山像挨了当头一棒，气急败坏而又无可奈何。援军被消灭之后，困在孤城中的史泽波主张坚守，伺机突围。阎锡山却下令，要困在长治的守军退回临汾。史泽波只好率残兵乘夜弃城，向西逃窜。结果在沁河河畔被八路军围歼。史泽波和多名高官成为俘虏，除千余人侥幸逃脱外，也是全军覆灭。
上党战役中，阎锡山的所谓“精锐”部队被歼灭13个师共三万五千多人，占到其总兵力的三分之一。人民解放军的这一拳，确实打得他喘不上气来。阎锡山的如意算盘，遭到如此重击，气得他卧床不起，连62岁的生日也不过了。对共产党的仇恨又增几分，与共产党斗争到底的决心也更见其顽固。上党战役失败后的一段时间里，因为焦虑不安，阎锡山常常通宵失眠。为了逃避痛苦，他跑到聘用日本战犯培训军官的“省训团”去寻求安慰。他在省训团里传见各队队长，再三要求要听日本教官的话，要好好向日本教官学习。他甚至荒谬地提出：“在这里学习，和去日本留学是一样的，机会真正难得。”此时的阎锡山，已经满脑子只有反共一件事情了。