司马懿是河内温县（今河南温县）人，出身于世代官僚地主家庭，高祖父司马钧是汉征西将军，曾祖父司马量做过豫章太守，祖父司马是颍川太守，父亲司马防是京兆尹（相当于郡守）。司马懿有相当政治军事才能，是一个很有谋略的人物。司马氏代魏，就是他给打下的基础。

　　208年（建安十三年），曹操任丞相，司马懿任丞相府文学掾，东曹属，不久转为丞相主簿。曹操被封为魏王以后，218年，司马懿转为魏王太子中庶子。辅助曹丕，“每与大谋，辄有奇策”，很受曹丕信任；后来又转为曹操的军司马。协助曹操搞军事。曹操早期的屯田，主要是民屯；司马懿建议实行“且耕且守”的军屯，被曹操采纳，“务农积谷，国用丰赡”。219年，关羽围攻襄、樊，  “威震华夏”，曹操想把都城由许昌迁往河北，以避关羽军锋。司马懿指出这样做不利，并建议曹操利用孙权、刘备“外亲内疏”的矛盾，唆使孙权袭击关羽后方，以解樊城之围。曹操去世后，朝野危惧，而司马懿主持丧事，有条不紊，使“内外肃然”。这些情况表明，在曹操时期，司马懿已经崭露头角。

　　曹操死后，曹丕继之为丞相、魏王，司马懿为丞相府长史，后又为督军御史中丞。曹丕称帝后，司马懿的地位逐渐提高，迁侍中、尚书右仆射，官至抚军将军、录尚书事，参与了曹魏最高统治集团大政方针的决定和执行。他有时留守洛阳，有时出镇许昌。曹丕率师南征孙吴，他“内镇百姓，外供军资”，起了不小作用。

　　在镇压孟达的过程中，充分体现了司马懿的智慧和才能。

　　诸葛亮第一次北伐曹魏进驻汉中后，策反曹魏新城太守孟达归蜀，这时器重孟达的魏文帝曹丕已死，原来与孟达“亲善”的魏国权官尚书令桓阶、征南大将军夏侯尚，也先后死去，孟达在朝中的靠山失去，“心不自安”。于是，在诸葛亮写信劝他归蜀时。他回信给诸葛亮，表示愿意归蜀。还派人给诸葛亮送去“纶帽”一顶、“玉块一块”，“以示微意”。这件事被魏国魏兴太守申仪得知，向魏明帝曹叡告密。

　　当司马懿受命镇压孟达后，他唯恐孟达迅速举兵，便写信给孟达，先稳住孟达，并挑拨他同蜀汉的关系，说他降魏后蜀国人“莫不切齿”，诸葛亮想破灭他，“惟苦无路”。孟达得书后，有些犹豫不决。司马懿暗中发兵进讨。司马懿手下将领以为孟达与吴、蜀有联系，涉及与两国关系，应该观望一下形势再行动。司马懿回答说：“盂达是个不讲信义的人，现在正是他举棋未定之时，应当乘机突然解决之。”于是倍道兼行，先发制人。

　　不久，孟达得到了申仪已将他密告的消息。他一方面准备城防，一方面派人送信给诸葛亮，请求发兵接应。在给诸葛亮的信中，盂达错误地估计了形势，认为：司马懿的驻地宛城，离魏都洛阳有八百里，离新城有一千二百里，司马懿得知他“举事”，一定要上表洛阳天子，得到准许，才能发兵，这样司马懿军队要一个月才能到达新城郡。等司马懿发兵来到时，“则吾城已固”，军事部署也安排妥当，就不足为忧了。他还认为新城地势险要，司马懿不能亲自来征讨。如果其他诸将来，“吾无患矣”。孟达不知道“将在外，君命有所不受”，又何况孟达的叛魏，正是在司马懿所辖的荆州地域，而且事关重大，势态紧急，哪能等皇帝命令下来后才动手呢？    果然，司马懿的军队，省去了“表奏”时间，并且一日行两日之路，仅用八天的时间就到达新城郡。孟达据守上庸城，一方面向汉中的诸葛亮告急说：“我举事才八天，司马懿的兵马就到达城下，何其如此神速！”另一方面又向东吴求援。诸葛亮只好派一队人马去新城救援，东吴也派军队来救。司马懿派兵阻击，蜀军前进不得，吴军也被挡住。

　　司马懿亲自领兵攻打上庸城，经过十六天的激战，孟达部将开门出降，司马懿将孟达杀死，诸葛亮见大势已去，只好调回援兵。