刘伯承的这个作战计划，大抵都是以一个纵队进攻国民党军一个团，看似集中了绝对优势兵力，可以稳操胜券。但战斗的进程却大大出乎他的预料，解放军最初的攻击并不顺利。进攻开始后，7纵以20旅任主攻，向张凤集外围国民党军警戒阵地发动攻击。但对手极其狡猾，事前在探明解放军企图后，大多退进了张凤集，只有少数掩护部队巧妙地利用各村庄内的房屋和既设阵地，对前进的解放军部队进行袭扰。这些掩护部队打了就跑，让解放军头痛不已。到天亮时，7纵各部均扑空，而自己却付出了不少伤亡。与此同时，6纵攻击孙庄也扑空。驻守那里的国民党军52团已奉命撤离该地，转守肖家。在那个夜晚，解放军的唯一的有形战果来自3纵。当晚，3纵向东西蒋庄外围攻击。其9旅集中26、27两个主力团猛攻曹垓。曹垓的国民党军31团3连猝不及防，伤亡大半，连长何金浪被俘。可3纵的其他部队就没有这么幸运了。9旅25团进攻李胡同，遭到国民党军31团1连的顽强阻击，打了一夜，才控制了这个不大的村庄，战果甚微。
由于预有准备，胡琏对于解放军的进攻并不惊慌，一面命令所部沉着应战，一面将情况电告薛岳及王敬久，并请薛岳天明后派空军前来助战。
薛岳接到胡琏报告后，认为巨野地区正在进行的作战极有可能决定中原战局。在这样关键的时候，任何耽搁都可能是致命的。作为身经百战的名将，他当然知道这个道理。因此，他立即打电话给驻徐州的空军第1联队联队司令向冠生，要他派飞机前往协助整11师作战。向冠生当即命令所属第3大队队长杨孤帆，火速派飞机前往巨野一带进行侦察，并支援整11师作战。
次日一早，杨孤帆亲率6架轰炸机抵达巨野一带上空，对巨野战场进行了侦察，发现张凤集东北方面解放军兵力最强，有许多解放军分好几路，由巨野向南运动，同时郓城、巨野间也有许多解放军车辆向南移动，蒋庄方面解放军也比较多；而龙堌集方面，解放军则相对较少。他们立即通过无线电话将战场情况通报给了整11师，并询问该部现状。整11师作战科长陈家珍回答：“我希望你们阻止敌军后续部队，大力支援我方作战，将实际情况报告薛主任。”通话完毕，杨孤帆返航回徐州向薛岳汇报去了。
薛岳在如此短的时间里就派来了空军支援，使得胡琏大受鼓舞。他立刻找来几个幕僚，研究战况。从空军提供的情报中，胡琏已经判明了刘伯承的企图，即以一部牵制5军，主力全力攻击整11师，力求全歼该师于张凤集一带。据此，胡琏等做出如下处置：1、将整11师对战局的判断上报徐州绥靖公署和32集团军总部，请增派空军助战并请转饬5军，酌留一部于龙蝈集附近，主力驰援整11师；2、直接通知5军驰援整11师；3、令各旅加强工事，沉着应战；4、电令18旅（欠53团）及师骑兵团由开封速来驰援，归还建制。这些措施实施后，确实取得了一定的效果。
当天，薛岳派来助战的空军飞机明显增多。
是日拂晓，杨伯涛组织31团在54团一部的协同下，向李胡同发动了猛烈反击。空军6架飞机和20余门大炮将小小的村子炸得面目全非，只剩下残垣断壁。村内解放军工事大部分被摧毁。但我25团仍不顾伤亡，顽强抵抗。在短短几小时内，该部4连就大部阵亡，所剩官兵仅能编为2个班了。当天上午，国民党军就夺回了李胡同。不过，这天胡琏也并非处处顺意。他请求5军增援的努力却遇到了麻烦。在与他通话中，邱清泉冷冷地回绝道：“只要我们这边攻击，自然会减轻整11师的压力。”胡琏看到他这种态度，知道战前没有服从邱清泉的命令后撤引起邱清泉的不满了，也不好多说什么，便挂断了电话，转向参谋总长陈诚请求调5军增援。陈诚又将胡琏的意见转达给了邱清泉。可这下更令邱清泉不满了，他以为胡琏这是在告他的状，因而对陈诚的提议仍旧置之不理。
各部首夜攻击的全线失利，使刘伯承清醒地认识到自己严重低估了整11师的战斗力。于是，他立即作出调整：以6纵一部警戒国民党军118旅与52团在董官屯、百世屯地区的部队，以3、7纵攻击东西蒋庄、王家庄、杨庄、花园、张凤集等地，以求歼11旅。可正当解放军各部遵照刘伯承的命令进行调动之时，胡琏察觉了解放军的意图，于天黑不久即命118旅和52团在董官屯、百世屯一带的部队后撤。6纵晚到了一步，扑空了。
与此同时，3纵向东西蒋庄发动猛烈进攻，但部队出发时，突遭国民党军山炮和迫击炮攻击，伤亡达200余人，阵脚顿时大乱。3纵司令员陈锡联无奈，只得命令部队暂时停止进攻，重新集结。是夜22时，3纵重新发起进攻。7旅（欠21团）打东蒋庄，8旅23团攻西蒋庄。尽管3纵在兵力上占有很大优势，可由于国民党军火力组织严密，解放军进展仍然很困难。次日拂晓前，仅19团两个连突入东蒋庄。但突破口很快被国民党军封锁。突入庄内的两个连损失很大，被迫于拂晓撤出阵地。同时，23团亦停止了进攻。陈锡联打算将部队撤下来整理一下，重新发动进攻。然而，连战得手的国民党军11旅旅长杨伯涛哪能给他喘息的机会？
5日晨，杨伯涛亲自率领旅特务连，从西蒋庄出击，击败了当面的解放军，还抓获了100多名俘虏，并将另100多人包围在蒋庄附近野地里。被围解放军指挥官面对绝境，急中生智，派一人到蒋庄守军处接洽投降，稳住国民党军，等援兵赶到后，全部突围而出。