歼灭第7兵团的目的，应以一半以上的兵力牵制、阻击可能由徐州东援的第2、第13两兵团。14日，又指示中原野战军主力夺取郑州、开封，吸引徐州〃剿总〃分兵西顾；以一部兵力在平汉铁路以西、以南积极活动，牵制白崇禧集团，使之不能调兵东进徐州、蚌埠地区，配合华东野战军作战。
遵照上述指示，华东野战军作出部署：以7个纵队及特种兵纵队主力围歼新安镇地区的第7兵团；以3个纵队及2个独立旅歼灭位于邳县（今邳州）地区的第13兵团一部，阻击该兵团东援；以3个纵队直出徐州东北台儿庄、贾汪，促使第3〃绥靖〃区部队起义，尔后截断徐州以东陇海铁路，阻击徐州之敌东援。中原野战军的部署是：以4个纵队并指挥华东野战军的2个纵队和冀鲁豫军区2个独立旅，首先歼灭商丘地区的第4〃绥靖〃区部队，吸引第2兵团西顾，尔后以主力在徐蚌线（徐州…蚌埠）作战，攻占宿县，截断津浦铁路；另以2个纵队及1个旅侧击、尾击由确山东进的第12兵团，迟滞其前进。此外，原准备渡江南下的华东野战军先遣纵队及桐柏、江汉、豫皖苏、江淮、冀鲁豫等军区部队，被赋予破击平汉、陇海、津浦铁路的任务。
11月7～9日，中共中央军委和毛泽东根据辽沈战役后全国军事形势的重大变化，和中原野战军攻克郑州后迅速东进，正同华东野战军会合等情况，以及刘峙集团有向南撤退的征候，批准前线指挥员粟裕的建议，决定扩大淮海战役的原定规模，由华东、中原两野战军共同与这个庞大的集团进行决战，第1步歼灭该集团主力于淮河以北，第2步歼灭其余部于长江以北。指示华东野战军、中原野战军集中22个步兵纵队（军）、1个特种兵纵队及华东、中原、冀鲁豫边区地方武装一部共60万余人的兵力，协同作战，求歼刘峙集团于淮河以北。这样，淮海战役就由原来计划歼灭刘峙集团一部的战役企图，发展成为全歼该集团的战略决战性战役。11月16日，中共中央军委决定，由中原野战军司令员刘伯承、中原野战军副司令员兼华东野战军司令员兼政治委员陈毅、中原野战军邓小平、华东野战军代司令员兼代政治委员粟裕及华东野战军副政治委员谭震林等5人组成总前委，刘、陈、邓为常委，邓小平为书记，领导华东、中原野战军的行动，统筹淮海地区作战、支前等一切事宜。毛泽东指出，淮海战役为南部战线空前大战役，此战胜利，不但长江以北局面大定，即全国局面亦可基本上解决。他号召中原、华东全军在总前委领导下，争取战役的胜利。
战役从1948年11月6日晚开始，华东野战军主力以求歼国民党军第7兵团为目标，按预定计划向新安镇地区急进。7日晨，第7兵团部率第25、第44、第64、第100军由第63军担任翼侧掩护，自新安镇地区沿陇海铁路西撤，经堰头、窑湾西渡运河。华东野战军查明第7兵团动向后，立即改变部署，展开猛烈追击、截击。8日，国民党军第3绥靖区副司令官、中共地下党员何基丰、张克侠率第59军主力2个师和第77军1个半师共、2。3万人在贾汪、台儿庄地区起义，为人民解放军迅速截断第7兵团的退路创造了有利条件。刘峙得知解放军多路向徐州前进及何、张起义，急令正在转移中的第2、第7、第13、第16兵团等部向徐州收缩靠拢。为粉碎其总撤退计划，华东野战军代司令员粟裕要求各部队不怕困难，勇猛追击，力求迅速围歼第7兵团，并拖住其余各路国民党军。华东野战军副政治委员兼山东兵团政治委员谭震林、山东兵团副司令员王建安率第7、第10、第13纵队迅速越过第3〃绥靖〃区防地，于10日进达徐州以东、大许家以西地区，控制了阻援阵地。向西追击的第1、第4、第6、第8、第9、第11纵队在野战军参谋长陈士榘指挥下抢渡运河，在第7兵团刚刚到达碾庄圩地区时，即从北、东、南三面逼近。11日，华东野战军已将第7兵团4个军合围在以碾庄圩及其周围约18平方公的狭小地区内，并在窑湾歼灭其第63军。
华东野战军苏北兵团司令员韦国清、副政治委员吉洛（姬鹏飞）率第2、第12纵队和中原野战军第11纵队经新安镇、宿迁向徐州西南迂回，13日在睢宁西北大王集地区歼灭第107军1个师，争取其军长孙良诚率1个师投诚。中原野战军在华东野战军一部配合下于11月7日对第4〃绥靖〃区部队发起攻击。因该〃绥靖〃区已向永城、宿县（今宿州）转移，仅在商丘东南张公店地区歼灭其后卫第181师。11日晚，中原野战军开始徐蚌线作战。12日，第4纵队在徐州以南夹沟歼灭北调徐州的第16兵团后尾一部，14日在三堡歼灭第3〃绥靖〃区余部，并同华东野战军第3纵队、两广纵队及冀鲁豫军区两个独立旅，从南面、西南面逼近徐州。16日凌晨，中原野战军第3纵队在第9纵队一部配合下，攻克战略枢纽宿县。至此，徐蚌铁路被截断，刘峙集团陷于孤立。
蒋介石得知第7兵团被围，即令该兵团就地修筑工事固守待援；11日，令第2、第13兵团全力由徐州东援第7兵团；以第16兵团守徐州；以第4〃绥靖〃区改编为第8兵团，指挥所属3个军；以第9〃绥靖〃区改编为第6兵团，指挥刚由东北撤至蚌埠的第39、第54军，沿津浦铁路东西两侧向宿县推进；令第12兵团到达阜阳后继向蒙城、宿县进攻。任命刚从东北逃出的杜聿明为徐州〃剿总〃副总司令兼前进指挥部主任，协助刘峙指挥作战。蒋介石如此调兵遣将，主要是为解救被围的第7兵团，并企图在运河以西、徐州以东地区同人民解放军进行决战。
中共中央军委和毛泽东针对上述形势指出：华东野战军的首要任务是阻止第2、第13兵团东进，歼灭第7兵团，然后争取诱歼第2、第13兵团几个师。中原野战军应对南面的第6、第8、第12兵团妥筹对策，保障华东野战军作战。据此，华东野战军决定以第4、第6、第8、第9、第13纵队和特种兵纵队炮兵主力举行碾庄圩战役，围歼第7兵团；以第7、第10、第11纵队在大许家一带从正面阻击由徐州东援的第2、第13兵团；以第1、第2、第3、第12纵队和鲁中南纵队、两广纵队、中原野战军第11纵队自徐州东南向徐州进逼，威胁第2、第13兵团侧翼，保障主攻集团围歼第7兵团的作战。中原野战军决定以第9纵队和豫皖苏军区独立旅及豫西军区2个团在固镇、宿县间布防，阻击第6、第8兵团北进；以第1、第2、第6纵队在蒙城、涡阳沿涡河、淝河布防，准备阻击第12兵团；以第3、第4纵队进至宿县西南地区待机。11月11日，华东野战军担任围歼第7兵团任务的各纵队发起猛攻。在第7兵团由空军掩护逐村顽抗的情况下，各纵队从运动中仓促转入村落攻坚，由于准备不足，炮火未及跟上，以致连续攻击3天，攻击进展缓慢。华东野战军随即调整部署，采取“先打弱敌、后打强敌、攻其首脑、乱其部署”的战法，集中兵力，逐点攻歼，攻击进展迅速。至20日拂晓，歼灭第44、第100军全部及第64、第25军各一部，并攻占第7兵团部所在地碾庄圩。黄百韬转至碾庄圩东北大院内，指挥残部顽抗。华东野战军实施连续突击，至22日黄昏全歼第7兵团。击毙兵团司令官黄百韬。从11月12日开始，国民党军第2、第13兵团在飞机、坦克掩护下，由徐州沿陇海铁路两侧并肩东援。华东野战军第7、第10、第11纵队坚决进行阻击与侧击，至22日，歼其万余人，给其以沉重打击，使其前进不及20公里。与此同时，中原野战军分别将第6、第8、第12兵团阻止在固镇以北任桥、花庄集一线和淝河以北赵集地区。这些阻击战，有力地保障了全歼第7兵团作战的胜利（参见碾庄圩战役）。
在围歼第7兵团之际，中共中央军委、毛泽东和淮海前线指挥员设想下一个歼击目标，或诱歼由徐州东援的第2、第13兵团，或歼击第6、第12兵团。11月19日，刘伯承、陈毅、邓小平分析战场形势认为：华东野战军歼灭第7兵团后，已相当疲劳，如不休整，接着又打战斗力较强的第2、第13两兵团，不易达成预期目的。中原野战军以现有兵力阻击第6、第8兵团和第12兵团两路援敌，也有较大困难。因此，向中央军委建议：华东野战军主力位于徐州以东、以南，一面监视徐州之敌，一面进行休整，同时以一部兵力协同中原野战军歼击第6、第12兵团。
第7兵团被歼灭后，蒋介石决定以已收缩到徐州的第2、第16兵团沿津浦路向南，第6、第8兵团由蚌埠、固镇沿铁路向北，第12兵团由赵集向宿县方向进攻，三路会师宿县，打通津浦路徐蚌段，改变不利态势。11月23日，徐州、蚌埠两路国民党军尚未行动，第12兵团即向浍河南岸南坪集地区发起进攻，形成孤军冒进。刘伯承、陈毅、邓小平当即建议抓住这一有利战机，以中原野战军全部和华东野战军一部，先歼灭第12兵团，以华东野战军主力阻击徐州和固镇地区增援之敌，并争取歼灭第6、第8兵团各一部。次日，中央军委和毛泽东复电：〃完全同意先打黄维（即第12兵团）〃；同时授权，〃情况紧急时机，一切由刘陈邓临机处置，不要请示。〃刘伯承、陈毅、邓小平遂命令坚守南坪集地区的第4、第9纵队后撤，诱敌深入，而后会同第1、第2、第3、第6、第11等纵队，在浍河以北布成袋形阵地，待第12兵团到达后，即分由东西两侧出击，实施围歼。第12兵团辖第10、第14、第18、第85等4个军共11个师和1个快速纵队，约12万人，是蒋介石的嫡系部队，其第18军号称国民党军的〃五大主力〃之一。11月24日上午，第12兵团强渡浍河，钻进了中原野战军预设的口袋。黄维发觉处境危险，即令部队撤至浍河以西，向固镇方向转进，企图会同第6兵团再沿津浦铁路向北进攻。中原野战军各纵队当晚全线出击，发起双堆集战役。至次日，将第12兵团合围于以双堆集为中心纵横各7。5公里的区域内。27日，黄维集中4个主力师向东南方向突围，被击退。其第85军第110师师长、中共地下党员廖运周在突围中率部起义。此后，黄维调整部署，以村落为基点，用坦克、汽车及大量器材构筑了许多掩体，形成环形防御阵地，转入固守。中原野战军适时改变战法，采取坚决围困，稳步攻击，攻占一村，巩固一村，逐个歼灭的战法。同时进行大规模近迫作业，逐渐构成完整的进攻阵地。从12月6日开始，全线发起攻击。以第4、第9、第11纵队及豫皖苏军区独立旅编成东集团，由第4纵队司令员陈赓、政治委员谢富治指挥，攻歼双堆集以东第10军和第14军残部；以第1、第3纵队和华东野战军第13纵队编成西集团，由第3纵队司令员陈锡联、政治委员彭涛指挥，攻歼双堆集西北第10、第85军各一部；以第6纵队、华东野战军第7纵队及陕南军区第12旅编成南集团，由第6纵队司令员王近山、政治委员杜义德指挥，攻击双堆集以南第85军等部。激战至12日，将第12兵团进一步压缩在双堆集南北5公里、东西1。5公里的狭长地带。
与此同时，华东野战军以8个纵队共20个师（旅）的兵力部署在徐州以南夹沟至符离集之间正面宽50公里、纵深30公里的地域内，设置了三道阻击线，将11月26日开始由徐州南进的国民党军第2、第16兵团阻止在孤山集、褚兰一带。另以5个纵队于11月25日南下，求歼固镇地区的第6、第8兵团，但因该两兵团已先行南渡淝河，仅歼其后尾2000余人，占领蚌埠以北曹老集车站。蒋介石精心策划的三路会师打通津浦铁路的计划失败后，决定放弃徐州，由杜聿明率第2、第13、第16兵团避开华东野战军的正面阻击，绕经萧县、永城南下涡阳、蒙城，先解救第12兵团，然后一起撤到淮河以南；由刘峙率徐州〃剿总〃机关乘飞机移驻蚌埠，指挥第6、第8兵团北进策应。同时令华中〃剿总〃抽调第20、第28军增援蚌埠。11月30日晚，杜聿明率3个兵团和徐州地区党政机关人员并裹胁部分青年学生，约30万人沿萧县、永城公路仓皇撤退向西南撤退。人员众多，车辆拥挤，混乱不堪。12月2日，在萧县西南孟集地区宿营整顿。
对于国民党军放弃徐州，中共中央军委早有预料，指示淮海前线人民解放军要预作防备。徐州以南的华东野战军各纵队发觉杜聿明集团西撤后，当即占领徐州。接着立即展开追击，并同时报告野战军指挥部。12月1日，华东野战军以10个纵队另2个独立旅的强大兵力，实行多路、多梯队跟踪追击、平行追击、迂回拦击。至3日拂晓，在孟集地区追上了杜聿明集团。迂回部队前出到永城东北，封闭了该集团向永城的