最初张灵甫开始向坦埠进攻的时候，曾与位于整编七十四师左前方的第三兵团整编十一师师长胡琏联系，请胡琏一起行动。
如果能这样，对华野后来的行动将造成严重困难，说不定还会影响到战役的进程。
可是胡琏回答他，三兵团司令官欧震有命令，要等他们一兵团开始攻打坦埠以后再行动；此前只在外围担任声援与牵制。
张灵甫无奈，又问胡琏，若本师打响攻取坦埠的枪以后，整编十一师能开到哪里。
胡琏回答，坦埠以北四十多公里的地段；欧司令官说，本兵团并未受命助攻坦埠，故不能介入太深。
胡琏当初既是这种态度，张灵甫明白，此刻再去求，人家更不愿来趟这摊浑水了。
还是只有向本兵团友邻部队求助了。
距孟良崮最近的是黄百韬整编二十五师、李天霞整编八十三师。这两个师分别距张灵甫六公里、五公里，其炮火完全可以与整编七十四师构建交叉火力，强化整体打击力量。当初编组时，汤恩伯本来是将整编七十四师、整编八十三师编为一个纵队，由李天霞指挥。但张灵甫惧怕李天霞届时暗中收拾他，坚持请求归黄百韬指挥。现在黄百韬感到责任所系，不敢怠慢，接到张灵甫求救信号，立刻拥兵向孟良崮方向进攻。他采用不惜血本的人海战术，向华野一纵之一部（一纵主力攻打孟良崮）的阻击阵地轮番攻打。黄百韬攻势凌厉，一纵阻击阵地官兵全部阵亡。整编二十五师得以推进了一大步，占领了浮山、界牌一线。
但前面还有一座天马山阻隔着他与张灵甫，而且那里还有华野的又一道阻击阵地。
前面说过，李天霞为了敷衍汤恩伯的严令，最初派出一个连冒充一个旅跟在整七十四师右侧后；旋又因汤恩伯几番追究，不得不加派一个不足千人的残破的团，继续冒充一个旅。结果导致沂水西岸阵地被华野夺占，张灵甫的一个旅被分割出去，不久就遭全歼。李天霞很善于推包袱，干脆声明将那个残破的团归张灵甫指挥，用这个来虚晃一枪，表示他的整编八十三师确实在增援张灵甫；而暗地里却给那个团的团长罗文浪打电话，提醒要“多控制几条路”，并意味深长地补了一句“你懂得的！”意思显然是稍有不测赶快逃跑。接下来还更有甚者。李天霞也许已经猜到了张灵甫的命运，整编八十三师居然悄没声息地向东收缩，与整编七十四师拉开了一段长长的距离。李天霞在师部顾左右而冷笑道，让张灵甫自己充英雄去吧。
蒋介石坐镇徐州亲自指挥山东战事。严令张灵甫不许突围，拖住华野主力；同时令外围反包围的蒋军加强炮击、加速推进向整编七十四师靠拢。
十四日下午，整编七十四师为了开辟逃路，以死伤五百多人的代价，夺回了被华野攻占的孟良崮门户塔山、青山。
但不到傍晚，又被华野攻占。
华野占领的凤凰山、曹庆、天马山、蛤蟆崮一直覆盖着敌人炮火，伤亡严重，要再向前推进十分困难。
傍晚前，瞰制孟良崮的有力地带三三○高地、二五·一八高地的华野守军全部阵亡。这两个关键性高地遂被整编七十四师占领。
华野九纵、四纵为减轻担任主攻任务的一纵压力，全线奋力扑向孟良崮。
夜幕落下时，惨烈的争夺战仍在继续。
十五日拂晓，暂归一纵指挥的方升普独立师第一团，以伤亡三百多人的代价重新夺回了三三○高地；一纵二师第六团也不计代价拼死夺回了二五·一八高地；许世友九纵一师也攻占了整编七十四师主力扼守的要隘雕窝峰。
张灵甫明白，丢失的那几处高地乃本师命脉。严令五十一旅不惜一切代价夺回来，恢复旧有阵线。
华野一纵二十六师师长提着冲锋枪，亲率一线官兵勇猛反击敌五十一旅的进攻，与之展开各个山头的争夺战。几经反复，将敌人打退。
鉴于孟良崮久攻不下，毛泽东日夜牵挂。致电饶、陈、粟，指出：“孟良崮一役，应从速解决，不要贪多！首先歼灭七十四师，然后再寻战机……”
粟裕看了看电报，眉头紧锁。当前的胶着状态令毛主席担心，他自己也担心继续如此下去的严重后果。他以从未有过的严厉，向各纵队发布命令，大意如次：
“从各线阻击部队中抽兵，每纵都要尽最大力量，具体不限量，集结力量增强攻打孟良崮的力度；总之，阻击部队一面要挡住外围几十万蒋军，一面要抽调一些部队协助主攻部队尽快拿下孟良崮。”
十五日二十二时，夜幕低垂，而枪炮声不绝。粟裕心急如焚，命参谋接通叶飞电话。
“叶飞呀……”
“是司令员吗？”
“叶飞同志，我这可不是逼你们呀，是整个局势十分险恶啊！你们无论如何要在明天拂晓前攻上孟良崮，消灭七十四师———至低限度也要打垮它！这样全盘棋才活得起来，否则很危……”
“请司令员不要说了，我拿党籍保证！”
“很好，我可以放一半的心了！什么时候可以再次总攻？”
叶飞沉吟了一下才回答：“需要作两个钟头的准备，十六日凌晨一时三十分实施总攻！一会儿我就向部队确定总攻信号，四纵、六纵、八纵、九纵请司令员给他们下命令，注意我的总攻信号！”
“好的。我会告诉他们，由你叶飞担任这次总攻的总指挥！”
华野阻援的各纵队打得顽强、勇猛。他们除了守住一切通往整编七十四师的路段，还不时对当面之敌主动攻击，消灭了不少敌人。阻援部队的作战势头，竟让多部受阻的蒋军各自以为自己是这次粟裕打击的焦点，从而向顾祝同或各自的兵团部求援；有一支部队认为自己应该距整编七十四师较近，居然向张灵甫致电求救。
正在焦头烂额的张灵甫收到这样的电报真是啼笑皆非，差点失去绅士风度，当着众多部属用他的陕西话骂“我操他……”
在叶飞他们攻打孟良崮打得难解难分之际，华野各路阻援部队成功地挡住了蒋军各路援军。十纵把由新泰过来的二兵团之第五军隔离在莱芜方向；三纵把从蒙阴过来的三兵团之整编十一师阻挡在蒙阴以北；从蒙阴西南方向出动的二兵团之整编六十五师倒是有所推进，在华野两个独立师阻击下，一天之内前进了三公里；七纵在南面将从汤头过来的一兵团之第七军、整编四十八师挡在留田以东；从鲁南北上的整编二十师、整编六十四师则被四面八方的地方部队和民兵用地雷阵、雷木炮石纠缠得举步维艰莫辨南北，连老农民也要抡起锄头与他们拼命。以致这两个整编师共六万人未能抵达预定的青驼寺一线。
五月十六日凌晨一时，叶飞指挥五个纵队向孟良崮发起总攻。
华野炮兵阵地上三百多门榴弹炮、加农炮向敌阵不断泼撒炮弹，各纵队所属的山炮、迫击炮也众炮齐发。孟良崮方圆几公里的山坡上、山顶上、山谷间被火海、硝烟层层叠叠覆盖了近一个小时。山上的整编七十四师官兵残剩的一万多人就像一群没头苍蝇，为了躲避炮火，一会儿拥向左边，一会儿又折向右边；有时竟昏头昏脑往华野阵地的方向乱窜，结果被重机枪打倒一排排。孟良崮山坡上、山顶上尸体枕藉，谁要经过，竟无插足之处。
王必成六纵在拿下了垛庄切断了张灵甫南逃之路后，顷接粟裕发给各纵队的统一电令，教各纵尽其可能抽调相当兵力参与攻打孟良崮。他不仅不感到这是件极为难的事，反倒兴奋极了，认为立大功的机会来了。这位虎将向来不乐于做敲边鼓的配角，总希望充当打总攻的主角。他不稍延宕，略一沉吟，决定只留下一个师镇守垛庄要塞，亲率两个师又一个特务团，直薄孟良崮。
进入孟良崮阵地，王必成在硝烟与炮声激励下，兴奋极了；他决心抢在各兄弟纵队之前拿下张灵甫的师部，建此不世之功。为此，在战役的最后关头，王必成甩出了他的王牌———纵队的特务团。
特务团共两千三百人，配备轻重机枪一百二十挺，迫击炮二十门，战士手中的枪有一半是大连兵工厂仿制的苏联3K冲锋枪（非转盘型），一半是最新式的苏联PC步枪仿制品，少量的美制卡宾枪。这是王必成的预备队，不到最关键的时刻不拿出来。
特务团的小伙子们眼睁睁看着别人冲锋陷阵，自己呆在堑壕里不动，早就怨声载道了。一接到命令，立刻欢声雷动，高喊王司令万岁。马上各自亮出了自己的家伙，拥向壕堑边作上跃的准备姿势，两千多双黑白分明的眼睛齐刷刷注视着团长，等待那实在等待得太久的两个字：“出发！”
副团长何凤山主持这次行动，团长率少部兵力作他们的后卫。
纵队司令员王必成赶来亲自向他们下命令。这是他们没有想到的，强烈的使命感霎时被提升得更高了。王必成说：
“同志们，整个山东战场的解放战争都系在你们身上了，粟司令员、饶政委在望着你们，毛主席在等待你们胜利的消息！无产阶级的英雄们，我代表全纵队拜托你们了！”这位著名虎将出人意料地立正，庄重地向他的健儿们敬了个标准的军礼。
这一着，大家完全没有预料到，不约而同地赶快立正，也还了一个标准的军礼。
王必成挥了一下手，喊道：“出发！”
二十八岁的何凤山副团长率先跳出壕堑，带领这支突击队冲出去。
此刻的孟良崮战场上，前进的道路都是陡峭而坚硬的石板。这对于攻守双方的官兵，都是十分艰难的。当攻打的一方攀登上去时，双方都会惊诧地发现对方的枪口几乎要碰着自己的头颅或胸膛了。
蒋军战地报告称：“拂晓前，共军陆续增加，不断扑犯，弹如雨发，火光烛天，硝烟遮天盖地。顷刻，万泉山失守，共军继而猛攻雕窝高地。同时，东北麓方面共军蚁聚麇集，借着他们炽威火力，逐波冲锋，势如潮涌……午间，垛庄方向窜到之共军第六纵队（王必成部）出人意料沿西麓进犯，致战况更形紧迫。午后迄夜间，共军轮番迫近，我军抵死搏决，反复冲杀，战况惨烈。”
粟裕在回忆录里写道：那“是一场剧烈的阵地攻坚战。我军于十五日凌晨一时发起总攻，从四面八方多路展开突击。敌第七十四师和八十三师之十九旅五十七团麇集于孟良崮、芦山及附近山地，依托巨石，居高临下，不断对我发动反冲击。从战术上来说，依托阵地的反冲击，可以给对方以相当的杀伤，何况我军为了争夺每一个山头、高地，要从下向上仰攻，每克一点，往往经过数次、十数次的冲锋，反复争夺，直到刺刀见红，其激烈程度，为解放战争以来所少见。”
仗打到黄昏，整编七十四师的阵地丢失得越来越多，全部人员龟缩在东西三公里、南北不到两公里的狭长地带。官兵、马匹、辎重全部暴露在山下数公里外华野远程重炮的炮口下，一发炮弹就轻易可以打倒一大片。山上没有水源，暂时可以充饥的树叶、野草也没有，因为全是岩石。徐州飞来的运输机将水囊、粮食、美国罐头、弹药空投下去，绝大多数落在华野那边。蒋军官兵饥渴难耐，疲困不堪，除了张灵甫及其一小撮死党，大部分已丧失了斗志。
下午，整编七十四师先锋部队向几个方向试探性突围，都被打了回去。最后他们对突围与友军救援已彻底绝望。官兵的脑袋都一片空白，视线所及，不过盈尺，都只为眼下一小时、一分钟、一秒钟的生存在奋战。要生存，首先就得有水。他们扑向华野九纵附近抢水源。
许世友对守卫水源的部队说，告诉他们，扔下枪，举着手过来，水管够；想抢吗，给我全部消灭。
结果，抢水的蒋军官兵全部阵亡。
酷热，让山上的无数死尸腐败很快。尸味和硝烟味混在一起，幻化成一种奇怪的含着某种凶残色彩的味道，令人发呕，令人战栗。
夜晚，待在山洞里的张灵甫，两天来第二十七次向汤恩伯呼吁救援。
汤恩伯回答，“灵甫，我一定竭尽全力救援你们；但是，你们一定要向万泉山方向靠拢，否则救援部队的手伸不过来呀！”
张灵甫悲愤地回答，“请司令官想一下吧，本部如果还有力量攻到万泉山，万泉山也不致失守了！”
十六日上午九时二十一分，整编七十四师师部所在地遭到炮击。华野王必成六纵特务团距张灵甫近得可以让他听到喊杀声了。
张灵甫命参谋长魏振钺：“把这股靠我们最近的共军赶走！”
魏振钺点齐一千多死党，由他亲自率领扑向前沿。与前沿残余守军一起向解放军华野六纵何凤山副团长率领的特务团开火，拼命反扑，企图把已进入他们阵地的特务团赶下去。
何凤山集中全部轻机枪和冲锋枪向敌人猛烈扫射，然后冲上去展开白刃战。半个小时不到就把这股敌军全部消灭了。
俘虏中一个四十多岁的家伙主动向何凤山坦露身份，说：“我是整编七十四师参谋长魏振钺少将，请求贵军优待。”
华野的炮火几乎全部覆盖了整个孟良崮山顶。整编七十四师官兵密集地待在**的岩石前面或后面，飞溅的弹片和岩石的碎片将他们杀伤，没有一发炮弹不炸死几十个人。
华野各纵队从四面八方向上冲击，最前面的是王必成六纵特务团。
孟良崮前后左右都发生了白刃战，刺刀相碰所发出的冷峻之声逐渐向山顶下的山洞———张灵甫的师部靠近，令山洞内的高级军官们闻而胆寒。
蒋介石向他的山东各路大军发出电报，称“山东共匪主力今向我军倾巢出犯，此为我军歼灭共匪完成革命唯一之良机。我全体将士竭尽全力，把握此一不可多得的战机，万众一心，协力迈进，齐向当面之匪猛攻……若有萎靡犹豫逡巡不前或赴援不力中途停顿以致友军危亡、致匪军漏网逃脱者，定必严惩不贷。”
汤恩伯以蒋介石电令为尚方宝剑，督促整编二十五、六十五、八十三师等部队，拼死扑向孟良崮，拯救整编七十四师。
而山洞内的张灵甫已经绝望，命令军官们与他一起自杀。他先是致电蒋介石，控诉友军见死不救。特别指出李天霞没有遵照汤恩伯命令派出部队掩护整编七十四师右后侧，实为战败主因。然后把师部副师长以下、团长以上的军官姓名列出，说要“集体殉国，以报校长培养之恩”，希望蒋能厚恤这些军官的遗属。
张灵甫的电报发出后，副师长蔡仁杰、五十八旅旅长卢醒拿出妻儿照片，相向而哭，不肯自杀。副参谋长李运良假装自杀，弄得满脸血污，卧在石洞外装死。
这出丑剧刚刚开始，华野六纵特务团已冲了上来。
张灵甫停止了逼大家自杀的丑剧，命令所有人员拿起武器抵抗。
六纵特务团三连在轻机枪掩护下，很快就逼到了洞口。张灵甫的卫队长率领部队刚刚出洞，就被特务团打死二十多人。不料，三连指导员邵志汉身先士卒向洞内冲的时候，中弹倒地。指导员的牺牲，激怒了三连的战士们，更加密集的机枪子弹、飞蝗般的手榴弹，向洞内泼洒进去。张灵甫、蔡仁杰、旅长卢醒、副旅长明灿以及五十七旅的团长安义都在混乱中被打死。[1]
十多分钟后，王必成司令员赶到。查验了张灵甫尸体，欣慰地一笑，旋又同情地叹了一口气。吩咐拍下照片，保护好尸体。
孟良崮之战结束了。歼灭整编七十四师以及整编八十三师等救援部队共三万二千人，俘虏一万九千六百七十六人；华野伤亡一万两千一百八十九人，其中阵亡五千零一十九人。
六月九日，陈毅召集在孟良崮战役中被俘的将校军官座谈。
陈毅很客气，一一向他们发烟，一迭连声要大家点燃，点燃。又宽慰说，放下了武器，各位就是客人了，请不要拘谨。
“贵军在抗战中战功卓著，战斗力亦是国民党军队中最强的。然而这样一支部队到了内战战场，转瞬就被消灭了。各位应该深思个中原因！”为解除他们的担忧，陈毅说：“各位此来，现在已经成了我们的客人了，我会负责照料大家、爱护大家。我们能帮助你们的地方，一定会尽力帮助！”
会后，陈毅与他们共进晚餐。
事后饶漱石笑嘻嘻地说，陈毅同志的工作做得很好。
张灵甫阵亡，整编七十四师全部被歼；进入山东的蒋军部队纷纷后退，怕遭到粟裕转兵分割围歼。
消息传到南京，蒋介石当即昏死过去。
蒋介石立刻将一兵团司令官汤恩伯撤职，整编二十五师师长黄百韬撤职留用，整编八十三师师长李天霞押解徐州接受军法会审。后来，由于李天霞历年贪污的军款很多，花了几十根金条，最后无罪释放。不到半年，又委任他为七十三军军长。
[1] 据目击者、幸存下来的张灵甫卫士卞宁永的回忆录《张灵甫之死》证实，张灵甫并非自杀 。