西晉為三國時的司馬氏家族篡取曹魏政權所建，其建立於公元265年，滅亡於公元316年；其始於武帝司馬炎，終於湣帝司馬鄴，共存在了52個春秋，是我國曆史上一個短暫的統一王朝。西晉雖為武帝司馬炎所建，但其帝業的基石是由司馬炎的祖父、曹魏政權時期的權臣司馬懿所奠定。
司馬懿，字仲達，於漢靈帝光和二年，即公元179年生於河內郡溫縣孝敬裏，也就是今天河南省的焦作安樂寨村。
司馬氏家族是河內郡的世家望族，據說其宗族為祝融的後裔，原本並不姓司馬。司馬氏家族的先祖在祝融以後，曆堯、舜、禹及夏、商數代，世代充任夏官。夏官在周代以前是掌管軍政和軍賦的官職，到了西周，周人將夏官一職改稱為“司馬”，由於司馬氏家族功勳顯赫，在周宣王時被恩準以“司馬”這一官名為姓氏，自此才有司馬氏。而司馬氏家族定居河內一事，還要從楚漢時期說起。
秦朝末年，天下大亂，各方起義勢力都建立起了自己的政權。當時的趙將司馬印與諸侯共同伐秦，秦朝滅亡後，西楚霸王項羽封司馬印為殷王，“都河內”，從此司馬氏族人便聚居在了河內。
司馬印的第八代後人司馬鈞曾為漢朝征西將軍。司馬鈞的後人多為漢代重臣。司馬鈞子司馬量，字公度，任豫章太守；量子司馬雋，字元異，任潁川太守；雋子司馬防，字建公，曆任京兆尹、尚書右丞。司馬防有八子，皆有才識，時稱“八達”，他們是長子司馬朗字伯達、次子司馬懿字仲達、三子司馬孚字叔達、四子司馬旭字季達、五子司馬恂字顯達、六子司馬進字惠達、七子司馬通字雅達、八子司馬敏字幼達。
司馬懿自幼“聰明多大略，博學洽聞，伏膺儒教”。青年時期的司馬懿曾為河內郡上計掾，因他勤於職守而名聲遠揚。東漢末年，黃巾黨人起義，自此天下大亂，司馬懿“常慨然有憂天下心”。當時的南陽太守楊俊聽說了司馬懿的言行後，覺得司馬懿“為非常之器”。尚書崔琰也常對司馬懿的兄長司馬朗談及司馬懿，“你的弟弟聰明且明辨是非，處事平正，果斷獨特，這些都不是你所能企及的啊”。司馬懿娶妻張春華。張春華是溫縣北平皋人，出身世家名門，她為司馬懿生有三子一女，長子司馬師、次子司馬昭、三子司馬伷和南陽公主。