1947 年12月24日，李铁军疲惫不堪的整编第三师被牵着、赶着，日夜兼程赶到遂平、西平地区。而此时，华东野战军陈粟大军与陈谢集团早已在此地迅速集结，准备好宰“牛”的场所。1947年12月26日，两支大军部队聚歼李铁军第五兵团及整编第三师，李铁军侥幸只率少数残敌逃跑。在逃跑之前，李铁军曾对天长叹说：“我半世英名，被陈大哥毁于一旦了。”直到战败，李铁军仍然尊称陈赓为“陈大哥”。