西晋为三国时的司马氏家族篡取曹魏政权所建，其建立于公元265年，灭亡于公元316年；其始于武帝司马炎，终于愍帝司马邺，共存在了52个春秋，是我国历史上一个短暂的统一王朝。西晋虽为武帝司马炎所建，但其帝业的基石是由司马炎的祖父、曹魏政权时期的权臣司马懿所奠定。
司马懿，字仲达，于汉灵帝光和二年，即公元179年生于河内郡温县孝敬里，也就是今天河南省的焦作安乐寨村。
司马氏家族是河内郡的世家望族，据说其宗族为祝融的后裔，原本并不姓司马。司马氏家族的先祖在祝融以后，历尧、舜、禹及夏、商数代，世代充任夏官。夏官在周代以前是掌管军政和军赋的官职，到了西周，周人将夏官一职改称为“司马”，由于司马氏家族功勋显赫，在周宣王时被恩准以“司马”这一官名为姓氏，自此才有司马氏。而司马氏家族定居河内一事，还要从楚汉时期说起。
秦朝末年，天下大乱，各方起义势力都建立起了自己的政权。当时的赵将司马印与诸侯共同伐秦，秦朝灭亡后，西楚霸王项羽封司马印为殷王，“都河内”，从此司马氏族人便聚居在了河内。
司马印的第八代后人司马钧曾为汉朝征西将军。司马钧的后人多为汉代重臣。司马钧子司马量，字公度，任豫章太守；量子司马隽，字元异，任颍川太守；隽子司马防，字建公，历任京兆尹、尚书右丞。司马防有八子，皆有才识，时称“八达”，他们是长子司马朗字伯达、次子司马懿字仲达、三子司马孚字叔达、四子司马旭字季达、五子司马恂字显达、六子司马进字惠达、七子司马通字雅达、八子司马敏字幼达。
司马懿自幼“聪明多大略，博学洽闻，伏膺儒教”。青年时期的司马懿曾为河内郡上计掾，因他勤于职守而名声远扬。东汉末年，黄巾党人起义，自此天下大乱，司马懿“常慨然有忧天下心”。当时的南阳太守杨俊听说了司马懿的言行后，觉得司马懿“为非常之器”。尚书崔琰也常对司马懿的兄长司马朗谈及司马懿，“你的弟弟聪明且明辨是非，处事平正，果断独特，这些都不是你所能企及的啊”。司马懿娶妻张春华。张春华是温县北平皋人，出身世家名门，她为司马懿生有三子一女，长子司马师、次子司马昭、三子司马伷和南阳公主。
最初，曹操为司空时，听说司马懿博学多才，欲擢用，便派人去请司马懿。司马懿看不起出身“赘阉遗丑”的曹操，就以风痹之病为借口推脱不仕。建安十三年（208年），曹操“挟天子以令诸侯”，被汉献帝拜为丞相。曹操再次派人去请司马懿。这一次，来人态度强硬，说：“如果司马懿不能去，就将他抓去。”司马懿无奈，只得到丞相府做了文学掾。
司马懿自知已经得罪了曹操，因此在曹操手下办事，小心谨慎，勤勤恳恳。先后迁为黄门侍郎、转议郎、丞相东曹属及主簿。另外，司马懿的三弟司马孚也被曹操征辟，先任陈思王曹植的文学掾，后迁为太子中庶子。司马懿本来一直都为曹操所猜忌。他人生的转折点是在建安二十四年（219年）。这一年东吴孙权向曹操上表称臣，并怂恿曹操自立为帝。当时，曹操手下的门阀官僚，如荀彧、崔琰等著名人物都持拥汉的态度，对曹氏代汉颇有异议，也因此而不得善终。司马懿看出了曹操的野心，他对曹操说：“汉运垂终，殿下十分天下而有其九，以服事之。权之称臣，天人之意也。虞、夏、殷、周不以谦让者，畏天知命也。”这一番话是很合曹操心思的，从此司马懿成为曹操的亲信重臣。在曹操称魏王以后，就任司马懿为太子中庶子，以佐助曹丕。
司马懿和曹丕的关系非常好，“每与大谋，辄有奇策，为太子所信重，与陈群、吴质、朱铄号为四友。”后来司马懿为曹丕“篡汉”更是出了大力，所以他才一直为曹丕所“信重”。曹丕代汉称帝后，司马懿的地位渐渐重要起来，由尚书、督军、御史中丞起，官至抚军将军，加给事中录尚书事。黄初五年（224年），曹丕以尚书令陈群为镇军大将军，尚书仆射司马懿为抚军大将军。当时，军权主要仍在曹氏手中。论地位，曹真、曹休、陈群略在司马懿之上。公元228年曹休死。公元231年，曹真死。公元236年，陈群死。这以后，司马懿的地位逐渐突出，对蜀战事，多由他来主持。
在曹丕一生中曾两次伐吴，每次都以司马懿居守许昌，到曹丕临终时，更令司马懿与曹真、陈群、曹休四人为辅政大臣，共同辅佐魏明帝曹睿。在魏明帝时期，司马懿成为魏国政治舞台上最为重要的人物之一。他不只是曹睿的谋臣，同时还掌握着军权，成为可以独当一面的军事首领。
司马懿是一个极具军事才能的人，他第一次展示这一才能是在建安二十四年（219年）。那时蜀将关羽围攻樊城，水淹七军，虏于禁，斩庞德，威镇华夏。而汉献帝都许昌离樊城很近，曹操为避关羽的兵锋，曾打算迁都河北。时为曹操军司马的司马懿向曹操建议：“禁等为水所没，非战守之所失，于国家大计未有所损，而便迁都，既示敌以弱，又淮沔之人大不安矣。孙权、刘备外亲内疏，羽之得意，权所不愿也。可喻权所，令掎其后，则樊围自解。”曹操听后，采纳了司马懿的建议，暗地里与孙权联系，达成了联合攻蜀军的密谋。结果关羽丢失了荆州，自己最后也身首异处。
魏明帝时，司马懿的军事才能得到了充分展现，他长期参与领导对吴作战。有一天，魏明帝向司马懿询问对吴作战的方略，司马懿回答说：“吴以中国不习水战，故敢散居东关。凡攻敌，必扼其喉而摏其心。夏口、东关，贼之心喉。若为陆军以向皖城，引权东下，为水战军向夏口，乘其虚而击之，此神兵从天而堕，破之必矣。”公元231年和234年，司马懿曾两度领兵于祁山和五丈原抗击蜀丞相诸葛亮的北伐。虽然魏军当时有20万左右，而蜀军为10万，在数量上占优势，但诸葛亮善于治军，蜀军又经过长期北伐准备，训练有素，故在战斗力上胜魏一筹。当时魏明帝向司马懿下令：“坚壁拒守，以挫其锋，彼进不得志，退无与战，久停则粮尽，掳掠无所获，则必走矣。走而追之，以逸待劳，全胜之道也。”司马懿对此进行了有效的执行。尽管被他的将领讽刺为“畏蜀如虎”，司马懿仍不轻易与诸葛亮交锋。在司马懿这种坚壁不战的策略下，诸葛亮竟一筹莫展，不能越雷池一步，结果他的北伐最后都以失败告终。
曹丕死后，原蜀汉降将孟达在诸葛亮的策动下，欲叛魏归蜀。司马懿时领兵驻宛，听到这一消息后，他一面写信给孟达假意安抚，一面立即潜军进讨，八天行军一千二百里，赶到上庸城。当时“孟达众少而食支一年”，魏军“四倍于达而粮不淹月”。在这种情况下，司马懿果断地采取速决战，他一面派兵分拒蜀、吴对孟达的援军，一面亲率主力分八道猛攻上庸城，仅用16天的时间，司马懿就破上庸，斩孟达，结束了战争。
自东汉末年军阀混战开始，公孙度就割据辽东。公孙度对曹魏政权虚与委蛇，时叛时降，保持着半独立的地位。公孙度死后，公孙渊继为辽东太守，对魏则更加不逊。景初元年（237年），魏明帝派毋丘俭率兵伐辽东，结果大败。公孙渊于是自立为燕王，并引诱鲜卑对魏进行侵扰。
于是，魏明帝改派司马懿领兵四万继续伐辽东。临行前，司马懿对魏明帝说：“唯明者能深度彼己，豫有所弃，此非其所及也。今悬军远征，将谓不能持久，必先距辽水而后守，此中下计也……往百日，还百日，攻百日，以六十日为休息，一年足矣。”
司马懿率军进入辽东后，公孙渊派步骑数万在辽水东岸的辽隧坚壁拒魏。司马懿则在强渡辽水后，直
取公孙渊的老巢襄平，辽东军大
惊，只好离开壁垒往堵魏军，司
马懿于是纵兵迎击，三战皆捷，
辽东军退保襄平，魏军于是开始魏王铢铜钱围城。时逢连日暴雨，平地水深数尺，魏军无法合围，辽东军利用水势仍可樵采、放牧。有人向司马懿建议，断辽东军樵牧，司马懿说：“自发京师，不忧贼攻，但恐贼走。今贼粮垂尽，而围落未合，掠其牛马，抄其樵采，此故驱之走也。夫兵者诡道，善因事变。贼凭众恃雨，故虽饥困，未肯束手，当示无能以安之。取小利以惊之，非计也。”就这样，辽东军错过了突围的大好时机。不久雨停水退，魏军将襄平完全包围，并“起土山地道，楯橹钩橦，发矢石雨下”，昼夜发动猛攻。公孙渊这时才开始突围逃跑，结果被魏军击斩，辽东悉平。
司马懿在防吴、拒蜀的过程中，由抚军大将军升大将军，最后迁为太尉。当他平定了辽东，正准备回朝的时候，洛阳送来了紧急诏书，要他迅速赶回。司马懿回到洛阳时，魏明帝已经病重。在明帝死前，魏宫廷中出现了一次小的纷争。明帝原拟以燕王曹宇为大将军，与夏侯献、曹爽、曹肇等共同辅助齐王芳。中书令刘放、中书监孙资居中掌权日久，曹献、曹肇心内不平。刘放、孙资害怕燕王曹宇等掌权后对自己不利，就向明帝诉说燕王不堪大任，并向明帝推荐曹爽和司马懿。不久，燕王曹宇被免职，曹爽则被任命为大将军，与司马懿共同辅佐齐王芳。魏明帝临终时，把司马懿和皇族大臣曹爽叫到床边，嘱咐他们共同辅助太子曹芳，也就是后来的魏少帝。
曹芳继位时，曹爽为大将军，司马懿为太尉。不久，曹爽一是为防止曹氏大权落入司马懿手中，二是为独掌朝纲，开始排挤司马懿。司马懿的军权很快被夺去，由太尉转为没有实权的太傅，而曹爽则用心腹何晏、邓飏、丁谧、毕轨、李胜、桓范等人，开始专断朝政。但曹爽是一个缺少雄才大略的人，论能力、心机都不及司马懿。面对于己不利的形势，司马懿韬光养晦，伪装生病，表面上不问政事，实际上却在暗中布置，等待消灭曹爽势力的时机。
曹爽听说司马懿生病了，也多少有些怀疑，就派自己的亲信官员李胜去打探。李胜当时被派去荆州做刺史，就以向司马懿告别为借口去试探。
李胜到了司马懿的卧室，只见司马懿躺在**，两个使唤丫头正伺候他吃粥。司马懿似乎没法用手接碗，只能把嘴凑到碗边去喝，就是这样，没喝上几口，粥又沿着嘴角流了下来。李胜仔细观察司马懿，觉得司马懿真是病入膏肓，实在可怜。
李胜不忍多看，他对司马懿说：“这次蒙皇上恩典，派我担任荆州刺史，故特地来向太傅告辞。”
司马懿听了，喘着气说：“委屈您啦，并州在北方，接近胡人，您要好好防备啊。我病成这样，只怕以后见不到您啦！”
李胜听了，纠正说：“太傅听错了，我是去荆州，不是并州。”
司马懿似乎还是听不清，疑惑地看着李胜。李胜于是又大声说了一遍，司马懿这次总算搞清楚了，苦笑着说：“老了，耳朵聋，听不清了。
您做荆州刺史，这太好啦。”
李胜实在看不下去了，他向司马懿告辞，回到曹爽身边，把情况一五一十地说了一遍，然后叹了口气说：“现在太傅只差一口气了，您也就不用再担心了。”曹爽听了，十分高兴。可他们谁都没想到，司马懿是装病的行家，当年他就是用这招儿蒙骗曹操不去做官，如今也不过是故伎重施罢了。
公元249年新年，魏少帝曹芳到城外去祭扫祖先的陵墓，曹爽和他的兄弟、亲信大臣全都跟去了。因为司马懿“病重”，也就没有请他同去。
可曹爽陪曹芳刚离开洛阳，太傅司马懿的病就全好了。他马上披戴起盔甲，带着两个儿子司马师和司马昭，率领兵马占领了城门与兵库，发动了政变，控制了京都，并假传皇太后的诏令，把曹爽的大将军职务撤了。在城外的曹爽兄弟等人得知消息后，曾有人给他们献计，要曹爽挟持少帝退到许都，然后召集人马，对抗司马懿。可曹爽兄弟都是缺少胆量、养尊处优惯了的人。他们听司马懿派来的人说“只要交出兵权，绝不为难”，就愚蠢地投降了。不久，司马懿稳定了局势，便以谋反的罪名杀死了曹爽并铲除其党羽。从此曹魏的军政大权完全掌握在了司马懿的手中，司马氏取代曹魏只是一个时间问题了。
公元251年，司马懿病死，终年72岁。九月，按其生前所嘱，土葬于首阳山，不起坟头，不立碑，不随葬祭品，死后遗孀不得与其合葬。其逝后被赐谥号“文宣”。晋立后，追为宣帝。