且說這魏征本是河北巨鹿曲城人，他的父親在北齊時曾經擔任過長留縣令，雖是小官，但畢竟是書香門第，隻可惜他的父母死得早，也沒有留下什麽遺產，所以家裏窮得很。
魏征這個人雖然貧窮，但誌向遠大，很有抱負，他最喜歡的是讀書，天文地理、經史子集無一不通，文韜武略更是少有人匹敵，但遭逢亂世，他又有驚人的洞察力，看楊堅和楊廣父子的作為，就預知天下必將大亂，英雄要待時而動，擇主而侍，他自己又不會做生意，到官府裏溜須拍馬，混個小吏做做，他更是不屑，於是就出家當了道士，勉強填飽肚子，專心讀書，研究天下大勢。
武陽郡丞元寶藏有一次到魏征所在的道觀遊玩，偶然見到魏征，雙方聊了一會兒，知道魏征有非凡的能力，恰好元寶藏想要響應李密，就邀請魏征加盟。魏征也知道李密的經曆，知道這是個大英雄，他也想趁勢結識李密，於是就答應了元寶藏，做了他的典書記，所有的公文都由魏征辦理。
魏征這樣就隨元寶藏一同上了瓦崗山，歸附了李密。李密最初並不認識魏征，但他從元寶藏上報的公文中，猜測元寶藏身邊一定有高人，就打聽公文是何人所為，一問才知道是一個叫魏征的，連忙召見，於是兩人一見傾心，李密就把魏征留在自己身邊，擔任參謀的職務。
魏征看李密這麽看重自己，就把自己對天下形勢的看法和分析，寫成了十篇奏折，上書李密，對怎樣發展，怎樣壯大，怎樣角逐天下，都有鞭辟入裏的分析和獨樹一幟的見解，李密讀後，不住的稱讚，但李密這個時候顯示了自己的局限性，他是個見事不深的人，缺乏高瞻遠矚的眼光，所以對魏征的建議，竟然束之高閣，魏征由此知道，李密也成不了大器，於是鬱鬱寡歡。此時恰好李勣已經攻占隋朝最重要的戰略要地黎陽，繳獲大批戰略物資，並開倉放糧，賑濟遠近的老百姓，魏征知道他是個了不起的英雄，日後前途相當遠大，於是就非常想接納他，於是就向李密提出，去黎陽幫助李勣放糧。