七月初一，唐军举行了隆重的誓师大会，然后在李世民的率领，正式讨伐王世充。
此战，李靖仍然作为李世民最重要的军事参谋，随军出征。
七月十九日，李世民达到新安。这是洛阳西部的一座城池。
王世充闻唐军来袭，命魏王王弘烈守襄阳(今湖北襄樊县)、荆王王行本守虎牢、宋王王泰镇守怀州(今河南沁阳)、齐王王世恽负责洛阳南城、楚王王世伟守洛阳宝城、太子王玄应守洛阳东城、汉王王玄恕守含嘉(洛阳城北)、鲁王王道徇守曜仪(洛阳宫城北)，王世充亲自率主力迎战。
此时罗士信作为全军的先锋，率部围攻慈涧（洛阳城西部的一个战略要地），王世充之子王玄应前来救援。
双方刚一照面，王玄应就被罗士信一枪刺落马下，王玄应的部将连忙一拥而上救回他。不久，罗士信又攻取硖石堡，进围千金堡。
当时，千金堡的王世充守军坚守不降，并大骂罗士信是个反复小人。
罗士信一听大怒，于是连夜派一百多人怀抱几十个婴儿来到千金堡下，让婴儿啼哭呼叫，谎称是从东都过来投奔罗总管的，又故意说：“我们弄错了，原来这里是千金堡！”
然后匆匆离去。守军误以为罗士信已经撤离，城下是洛阳来的百姓，便出兵追赶。
罗士信早已带兵在路边埋伏，趁机冲入堡内，将堡中守军屠杀殆尽。
七月二十六日，秦王李世民率领小队骑兵亲自出来侦查敌情，结果和王世充大军不期而遇，当时道路狭窄，避之不及，王世充大军随后掩杀过来，情况万分危急。李世民左右驰射，箭不虚发，射死对方几十个士兵，俘获左建威将军燕琪，王世充大军才不再追赶。
等李世民回到自己营垒的时候，因为蓬头垢面，把守寨门的士兵已经完全认不出这是秦王了。于是不允许他进寨。
李世民自己脱去甲胄，高声喊话，才得以进入。
第二天，李世民亲帅五万大军进攻慈涧。王世充看唐军势大，估计不敌，于是主动撤退，回到洛阳城。
为了扫清洛阳城的外围，切断王世充的粮草供应，李世民派行军总管史万宝自宜阳南据龙门，将军刘德威自太行东围河内，上谷公王君廓自洛口断其饷道，怀州总管黄君汉自河阴攻回洛城；李世民自己带领唐军主力屯于北邙山，大军连营十几里，对王世充形成了包围。
由于唐军的巨大优势，再加上王世充早已经不得人心，郑国各地守将竟然纷纷不战而降。七月，张公瑾降；八月，邓州降；九月，田瓒以所部25州降，时德睿以所部7州降；十月，大将张镇周降，郭庆以管州降，魏陆以荥阳降，王要汉以汴州降。才三个月的时间，洛阳周围郡县全部落入李世民手中，洛阳成了一座孤城。
王世充看洛阳城危机，就想和李世民讲和，于是带兵在青城宫列队，隔着一条河对李世民说：“隋室倾覆，唐帝关中，郑帝河南，世充未尝西侵，王忽举兵东来，何也？”
李世民派宇文士及回答他说：“四海咸仰皇风，唯公独阻声教，为此而来！”
用现在的话说就是，四海之内大家都愿意归顺唐朝，只有你小子不听话，为了这个而来。
王世充说：“相与息兵讲好，不亦善乎！”
宇文士及说：“奉诏取东都，不令讲好也！”
傍晚，各引兵还。
在双方对峙期间，唐军内部也出现了一些意外情况。九月，和尉迟敬德一起降唐的寻相和刘武周手下的其他一些旧将相继叛变逃走，唐朝诸将对尉迟恭也怀疑起来，认为尉迟恭必叛，就乘李世民不在军中，把尉迟敬德关押起来，准备杀死他。
李世民回营后，听说尉迟敬德被关押，非常生气。
行台左仆射屈突通、尚书殷开山都劝李世民说：“敬德骁勇绝伦，今既囚之，心必怨望，留之恐为后患，不如遂杀之。”
世民曰：“不然。敬德若叛，岂在寻相之后邪！”
立即命令释放尉迟敬德，然后把他引入自己的卧室内，以示没有戒备之心，赐给尉迟敬德一筐黄金说：“丈夫意气相期，勿以小嫌介意，吾终不信谗言以害忠良，公宜体之。必欲去者，以此金相资，表一时共事之情也。”
大意是大丈夫处事，讲究的是意气相投，有共同的理想和价值观，不要介意小小的嫌疑，我是不会听信别人的谗言杀害忠良的，您一定要体谅我的心意。你一定要离开我，请拿上这些金子，就算是我们兄弟一场，我对你的馈赠。
尉迟敬德非常感激，从此以后，对李世民更是忠心耿耿。
九月十八日，李世民和尉迟敬德带领五百骑兵登上北邙山上的魏宣武陵。
王世充率领步骑一万突然到达，一下子就把李世民包围了。
王世充大将单雄信引槊直趋世民，眼看着李世民就有生命危险，因为凭单雄信的实力，一旦和李世民交手，估计不出三招，李世民必然凶多吉少。
就在这千钧一发之际，只见尉迟敬德跃马挺槊大呼：“休伤秦王！”
只一槊，就把单雄信刺落马下。
两个顶级杀手对决，以尉迟敬德的胜利而结束。
当然，单雄信并没有受伤，只是坠马而已。说明他手疾眼快，以主动坠马躲过了尉迟敬德的刺杀。
毫无疑问，能从尉迟敬德的马槊下逃生，安然无恙，单雄信此人的武功，也可见一斑。
王世充的士兵见尉迟敬德如此彪悍，连名将单雄信也不是对手，于是个个胆寒，不敢上前交战。
尉迟敬德于是保护李世民破围而出。
李世民和尉迟敬德此时正在兴头上，不仅没有借机逃跑，反而帅骑兵冲入王世充的战斗队列中，几进几出，如入无人之境。
此时屈突通已闻讯率大队唐军赶到，大败王世充军，活捉其冠军大将军陈智略，斩首一千余级，俘获排槊兵六千。
李世民对尉迟敬德感慨地说：“公何相报之速也！”
赐敬德金银一箧，自是宠遇日隆。
尉迟敬德有一个非常突出的本领，就是非常善于躲避马槊，他每次单独冲入地阵中，敌军一拥而上，纷纷用马槊刺之，但谁也不能伤到他，他往往还能空手对方的马槊反剌之。
这个时候齐王元吉正好跟随李世民围困洛阳，他也以善于使用马槊颇自负，听说尉迟敬德有这个本事，就不服，于是就想和尉迟敬德当场比试比试。
为了不在比试中伤害对方，李元吉提出，双方把刀刃去掉，然后再决胜负。
尉迟敬德说：“敬德谨当去之，王勿去也。”既而元吉刺之，终不能中。
秦王世民问敬德曰：“避槊与夺槊，孰难？”
敬德曰：“夺槊难。”
乃命敬德夺元吉槊。
元吉操槊跃马，志在刺之，敬德须臾三夺其槊；元吉虽面相叹异，内甚耻之。
由此可见，尉迟敬德果然是超级杀手，连一向自负的李元吉，在他手下竟然一败涂地，根本不在同一个量级上。他收拾李元吉，几乎易如反掌，而单雄信，却可以轻易躲过尉迟敬德的刺杀，毫发无损，说明两个人的武功不相上下，都是当时超一流的高手。
当初，李密大败，邴元真投降王世充，非常得宠。王世充任命邴元真为滑州行台仆射。
濮州刺史杜才幹是李密的旧将，他心里非常痛恨邴元真当初叛变李密，于是就带领手下的士兵假装投降了王世充。
这个时候，邴元真正是他的顶头上司，有一次，邴元真恃其官势，亲自到杜才幹的地盘视察，杜才幹出城迎接，把邴元真请到自己的州府衙门就坐，然后伏兵四起，抓住他说：“你本来就是个庸才，魏公李密把你提拔到最重要的岗位上，你不建毫发之功，还犯下了滔天之祸，今来送死，是你命中应该的！”
遂斩之，派人带着邴元真的首级到了黎阳，在李密的墓前进行了祭奠。
此后，他以濮州投降了唐朝。
武德四年(621年)正月，屈突通与窦轨带兵巡营，与王世充大军突然遭遇，双方展开激战，唐军眼看就要支持不住，一败涂地。
李世民听闻消息，立即和李靖、程咬金、尉迟敬德、秦琼等人带领最精锐的骑兵玄甲军火速救援，由于唐军个个奋勇争先，王世充大败，其骑将葛彦璋被生擒，此战被唐军杀死六千多人，王世充带领余部逃回洛阳。
此前，为了加强唐军的快速突击能力，李世民从全军骑兵部队中精心挑选了一千多人，这些都是精锐中的精锐，可以以一当十，这些骑兵身穿黑衣玄甲，分为左右队，由秦琼、程知节、尉迟敬德、翟长孙四人分别统领，每次作战时李世民亲自率领作为前锋使用，所向披靡，攻无不克，敌人十分畏惧。
二月十三日，李世民移军青城宫(今洛阳市西北)，营垒还未修好，王世充即率军2万出洛阳方诸门，凭借旧马坊一带的残垣断壁、沟沟坎坎，依托谷水河抵御唐军。
看王世充军声势甚大，凭险据守，唐军诸将皆有惧色。
李世民于是就带着李靖等人登上北邙山的北魏宣武帝陵，站在高处观察敌情。
这个时候李靖看到，王世充带领大军，从紧固的营垒中出来了，正在列阵。
李靖立即对李世民说：“秦王，战机已到，可以立即发起进攻了。”
李世民点点头，立即命令屈突通带领步卒五千渡过谷水发动进攻，并交代他说：“一旦双方交兵立即释放烟火”。
交兵后，屈突通命令部下释放烟火，李世民见烟起，亲率骑兵南下，与屈突通合力奋击。王世充也率部殊死抵抗，其部多次被唐军冲散，又迅即聚合。双方激战半日，王世充渐渐不支，被迫退兵。
李世民纵兵追击，直到城下，斩俘七千人趁势包围洛阳。
这次战斗中，骠骑将军段志玄作战时马倒被擒，敌军两将抓着他的发髻，要将他带走。在渡洛水时，段志玄纵身跳起，将二人拉坠马下，夺得马匹驰归。
数百人在他后面追赶，但是都不敢逼近。段志玄最终奔回唐军。
此战之后，洛阳成了一座孤城，王世充不得已只能据城自守。
这个时候王世充才明白，自己确实小看了李世民，以为他不过是个24岁的毛孩子，能有什么过人的本事，战胜刘武周和宋金刚，也不过是运气好而已。
现在经过多次交手，他才知道，李世民这个人不简单，按说一个二十四岁的年轻人，不可能有这么深刻的洞察力，战场上瞬息万变，他竟然屡次都能准确地把握到战机，化险为夷，转败为胜，这也太神奇了！
王世充毕竟也是久经沙场的老将，一向以足智多谋著称，他据此判断，李世民的身边一定有高人，这个高人之所以高，不是说他武功高强，像单雄信、尉迟敬德、秦琼那样，有万夫不当之勇，这样的武夫，单凭一个人的勇武，有时候是决定不了整个的战局的。
王世充所谓的高人，是说李世民的军中一定有一位像韩信、孙武、白起、卫青那样的大将之才，这个人一定有非常丰富的社会经验，而且熟读兵书，胸怀韬略，有丰厚的战争理论修养，有长期的战争实践经验，况且还具有惊人的洞察力，可以明察秋毫，不放过任何一次稍纵即逝的机会。
这个人到底是谁呢？
他派出自己的情报网四处打探消息，结果传来一个消息，李世民的身边确实有一个非常重要的军事参谋，这个人就是大名鼎鼎的李靖。
王世充一听李靖这个名字，立即激动地从龙椅上跳起来，大叫一声：“哎呀，原来是他！”
王世充当年和李靖一起在大隋朝为官，李靖的鼎鼎大名，他是听说过多次的，此人是隋朝第一名将韩擒虎的外甥，连韩擒虎都对他这个外甥推崇备至。权臣杨素也对李靖评价极高。
这样一个军事奇才，竟然在李世民的身边，我王世充焉能不败！
他手下的那些文臣武将们也早听说过李靖的大名，顿时大家面面相觑，内心里非常惶恐。
唐军有装备精良、战斗力强悍的骑兵，还有指挥艺术高超的军事统帅，这样打下去，郑军肯定不是对手，洛阳城失陷，那不是早晚的事情嘛！
于是，大家纷纷劝王世充，这个时候顾不得脸面了，一定要祈求窦建德出手了，要不然大家到时候一起完蛋。
前一段王世充和窦建德因为争夺地盘，曾经大打出手，双方已经结下了梁子，这个时候派出使者，去向窦建德服软，这个弯子一下子拐得确实有些陡。王世充一时间犹豫不决。
司徒段达说：“主公，我也知道，这样做你确实也有些面子上挂不住，让窦建德也小看我们一回，这个是一定的了。但是，目前这个形势，你要是不服软，让窦建德出兵帮助我们，下一步我们只能坐以待毙啊。眼下只是个面子问题，要是久拖不决，今后就是脑袋搬家的问题了。”
王世充想了想，说：“好吧，立即派出使者，见了窦建德，要多说好话，告诉他唇亡齿寒的道理。我要是完蛋了，下一个就是他窦建德。他现在帮我，就是帮他自己。”
使者立即上路，拿着王世充亲自写给窦建德的信，祈求窦建德出兵救援。
李世民命令大军攻城，但洛阳城坚固异常，毕竟是当年隋炀帝用倾国之力修建的，守备设施非常完备。
守城的王世充大军器械精良，他们有可以发射石头的大炮，五十斤的大石头，可以发射出去二百步。八弓弩箭如车辐，镞如巨斧，射五百步。
唐军四面攻之，昼夜不息，二十多天也没有什么效果，死伤惨重。
唐军将士皆疲惫不堪，想撤军修整，总管刘弘基等人建议班师。
李世民拿不定主意，于是就和李靖商量。
李靖说：“今大举而来，当一劳永逸。东方诸州已望风款服，唯洛阳孤城，势不能久，功在垂成，奈何弃之而去！”
李世民立即就明白了，于是下令军中曰：“洛阳未破，师必不还，敢言班师者斩！”
众人才不敢复言。
众将想要班师的消息也传到了李渊耳朵里，李渊也认为战局并不明朗，为了安全起见，还是班师比较稳妥。于是就秘密地给李世民下了一封诏书，让李世民班师。
李世民于是又召集大家开会商量，李靖坚持自己的意见，并称一定可以拿下洛阳，此时班师，前功尽弃。
李世民下定决心，支持李靖的意见。于是派遣参谋军事封德彝回长安当面向李渊汇报情况。
封德彝对李渊说：“世充得地虽多，率皆羁属，号令所行，唯洛阳一城而已，智尽力穷，克在朝夕。今若旋师，贼势复振，更相连接，后必难图！”
李渊于是就不再提让大军班师的事情了。
李世民又亲自写信给王世充，想要劝降他，但是王世充不理。
不久，王世充的郑州司兵沈悦派遣使者到左武候大将军李勣处请降。
李勣觉得这是个机会，于是派出左卫将军王君廓夜里袭击虎牢，沈悦为内应，很快就攻陷虎牢关，生擒荆王行本及长史戴胄。
李世民早就听说戴胄是个非常有才的人，于是任命他为秦王府士曹参军，也成为李世民身边的幕僚之一。
戴胄后来成为贞观时期著名的宰相。