231年，曹真死后，司马懿全面负责对西蜀的战争，领兵同诸葛亮对抗。由于阻击西蜀军队有功，235年（青龙三年），被提升为太尉，主管曹魏军事。

　　237年（景初元年），辽东太守公孙渊（公孙康之子），自立为燕王，署列百官，对抗曹魏朝廷。第二年，司马懿率军四万远征辽东，进至辽水。这时公孙渊派将军卑衍、杨祚等领兵数万，依辽水的有利地势，坚营高垒。阻击魏军。公孙渊见魏军来势很猛，派人向孙权求援。孙权同意出兵攻魏，声援公孙渊，同时写信回话说：“司马懿善于用兵，变化如神，所向无前，我深为老弟忧虑。”

　　事实表明，孙权对司马懿的称赞，并不是毫无根据的。战争一开始，司马懿针对敌军的情况，采用声东击西的办法，先出疑兵攻击敌军的南部，把敌军吸引过去，然后领兵突然袭击敌军的北部，抢渡辽水。渡过辽水之后，司马懿并不进攻敌军营寨，而作直取公孙渊老巢襄平（今辽宁辽阳）的态势。手下人不明了这是什么意图。司马懿解释说：    “敌人坚营高垒，想用此消耗我们的兵力；我们攻打它。正中他们的计策。古人说，敌人虽然深沟高垒，如果攻击他必救的地方，他就不得不离开它同我们作战。敌人大军集结在此地，后方巢穴空虚，我军直指襄平，敌人恐惧，必然出战。这样，我们就可以打败他们。”

　　卑衍等见魏军越过营寨直向襄平方向扑去，果然率大军追赶，司马懿便督军回击，“三战皆捷”，大获全胜，接着进围襄平。这时连日下雨，辽水暴涨，平地数尺，给魏军带来很大困难。公孙渊军乘此机会，出城放牧、樵采，旁若无人。魏军将领主张吃掉出城的敌军，司马懿不同意。一个叫陈珪的问司马懿：“过去攻打上庸时，八部并进，昼夜不停地攻击，所以只用半个月的时间，就拿下了它，斩杀孟达。现在我军远道而来，反而不急于攻打敌人，我不明白这是什么道理？”司马懿回答说：“那时孟达军队少，粮食可支持一年，我军将士四倍于敌人，而粮食不够用一个月；以一月图取一年，哪能不采取速决战呢？而且是以四击一，可以消灭他有生力量。如今，公孙渊的军队比我们多，粮食则比我们少，我们没有必要仓促进击。这次我们离开京师远征，不怕敌人攻打我们，就怕他们逃跑。现在。他们的粮食快用完了，我们的包围圈还没合拢。如果急于攻打，掠夺他们的牛马，破坏他们的樵采，这是故意驱赶他们逃跑。用兵应该善于根据条件的变化。现在敌人凭靠人数众多和雨天给我们带来的困难，和我们相持，虽然饥围，但还不肯认输。我们应当示弱，使他们安心。如果图小利，惊动他们。这不是好办法。”

　　不久，雨停下来，水逐渐退去。魏军完成对襄平的包围后，起土山，挖地道，做楼车、钩梯等攻城器具，昼夜不停地攻打。城中粮食用尽，公孙渊军心动摇，杨祚等人首先投降。公孙渊见大势已去，便同儿子公孙惰率领数百骑兵突围。魏军将他们父子杀死，占据了襄平。    司马懿是当时曹魏最有谋略的人物。曹操崇尚节俭、禁止奢华的思想作风，被他继承下来了。魏明帝大兴土木。修建宫室，制作靡丽。司马懿多次上书，要求罢除一些徭役。他平定辽东回来后，在京城服役的还有一万多人。他上书罢除，“节用务农，天下欣赖”。

　　233年（青龙元年），司马懿在关中开成国渠，筑临晋陂，灌溉田地数千顷。241年（正始二年），他支持邓艾在淮河南北大搞军屯的建议，发展生产。第二年，他奏请穿广漕渠，引黄河水人汴，灌注于东南诸陂揭。243年，他又在河南开淮阳、百尺二渠，    并修复一些旧的陂塘。这些都有利于生产的发展。