解放戰爭期間，華東野戰軍所處的環境一直都十分惡劣，這里距離國民黨的政治統治中心南京和經濟統治中心南京都很近，所以蔣介石派出了國民黨軍最精銳的部隊和最強悍的將領對華野進行圍剿。面對國民黨軍的重兵圍剿，華東野戰軍不但沒有被消滅，反而逐漸發展壯大，打了很多經典的戰役，孟良崮戰役就是一個代表。
整編74師，也就是國民革命軍第74軍，這支部隊組建的時間并不長，1937年淞滬會戰爆發的時候才組建，首任軍長是蔣介石的外甥俞濟時（黃埔一期），下轄51師（師長王耀武（黃埔三期））和58師（馮圣法（黃埔一期））兩個師，后來又補充進了57師（首任師長余程萬（黃埔一期））。
但是這支部隊發展得很快，尤其是在其第二任軍長王耀武時期，74軍不論是在戰斗力還是在紀律上都是一流的。在上海當過柜員的王耀武在抗戰時期還開辦了很多工廠，他用開工廠賺的錢補貼軍隊，使得全軍能夠上下一心，共同御敵。
74軍參加了抗戰期間的幾乎所有大型會戰，從淞滬會戰，南京保衛戰，蘭封戰役，徐州會戰，武漢會戰，長沙會戰，再到長衡會戰，湘西會戰，每次戰役都是戰區的王牌部隊，對于戰局的走向影響很大。到1940年，74軍就已經成長為了國軍王牌部隊，和泰山軍第十軍被譽為第九戰區的兩大王牌，由于戰斗力強悍，部隊官兵素質過硬，這支部隊是第一批換裝蘇械部隊的軍，也是第一批換裝美械裝備的軍。
在國民黨軍的各項榮譽中，青天白日勛章是大家所知的一項榮譽，但是還有一項榮譽，比拿青天白日勛章的難度還要高很多，那就是飛虎旗。飛虎旗的數量稀少，從1927年到1949年，國民黨軍只有24支部隊獲得飛虎旗，其中74軍就獲得四面飛虎旗，是獲得飛虎旗最多的部隊，而且這四面飛虎旗都是74軍在抗戰期間獲得的。
抗戰期間，日軍對74軍也十分重視，將其視作國民黨軍的王牌部隊，抗戰初期，在國民黨軍武器裝備和日軍差距很大的情況下，74軍就能和日軍打出一比一的傷亡比例，到了抗戰后期的湘西會戰，74軍裝備了美械部隊后甚至能夠碾壓日軍。
比如1945年湘西會戰期間的武岡戰役，74軍58師剛裝備美械武器的一個營數百名官兵阻擋住日軍半個師團七天七夜，最后又配合增援部隊擊潰日軍，成為了抗戰史上的一個奇跡，美軍顧問團在看完整場戰斗后，評價道：“中國國軍只有74軍能打。”
74軍給日軍留下了深刻的印象，日軍稱這支部隊為“三五部隊”，蔣介石則稱其為“虎賁軍”。抗戰勝利后，74軍立刻被空運到南京城，擔任南京的衛戍任務，所以這支部隊也被稱之為“御林軍”。
1946年5月，74軍被整編為74師，但是依然有三萬多名官兵，而1947年華野每個縱隊也才只有兩萬多名官兵，中野每個縱隊才有一萬多人。整編74師奉命駐防南京，師長張靈甫中將兼任南京警備司令。
1946年，國民黨軍高層根據國軍部隊在抗戰時期的表現，評出了五支戰斗力最強悍的部隊，分別是整編74師（原國民革命軍第74軍），整編11師（原國民革命軍第18軍），第五軍，新一軍，新六軍，這五支部隊又被稱之為國軍五大主力，其中整編74師，也就是之前的國民革命軍第74軍，由于在抗戰期間表現尤為突出，被譽為五大主力之首。
解放戰爭初期，整編74師并沒有作戰任務，但是師長張靈甫立功心切，他立下了“五年升上將”的誓言，急需用戰功來證明自己。蔣介石也十分高興，于是將整編74師派到了華東戰場上，整編74師雖然在抗戰期間承擔起了保家衛國的責任，但是卻在抗戰后充當起了內戰的急先鋒，成為了蔣家王朝的打手。
解放戰爭初期，蔣介石派遣數十萬大軍對山東解放區進行重點進攻，受到張靈甫整編74師的庇護，一些跟隨整編74師行動的還鄉團對解放區老百姓進行了血腥的報復，殺人之多，手段之惡劣，比諸日寇當年在山東的暴行毫不遜色，還對一些反抗比較激烈的村莊進行整村整村的屠村。
蔣介石和整編74師的這種做法連國民黨的報社記者都看不下去，有一位名叫翁鮮豪的中央日報社記者跟隨還鄉團行動，拍下了多股還鄉團屠殺翻身農民的整個過程。他把這記錄窮苦農民遭受折磨性殺害的幾百張照片送給正在部署向華野進攻的整編七十四師師長張靈甫中將，勸他不要讓各種名號的地主還鄉團跟隨整編74師行動，擔心那種滅絕人性的血腥報復會帶來惡劣后果，會給整編74師這支抗戰期間的英雄部隊抹黑。
但是讓中央日報社記者翁鮮豪沒有想到的是，張靈甫在看到了這些血腥的照片后不但不制止還鄉團的行動，還滿不在乎地說道：“這有什么大驚小怪的？你們這些記者真是書呆子啊！”后來翁鮮豪將這些事情都寫成報道寄回了報社，希望新聞機構能夠提醒政府約束還鄉團和前行部隊的野蠻行動，結果不但文章沒有發表，翁鮮豪本人也被報社辭退了。
1947年5月，華東戰場的形勢又發生了新的變化，蔣介石為了報蘇中，蘇北，魯南和萊蕪之仇，調集了24個整編師（軍）共45萬人對付華東野戰軍，其中還包括五大主力中的整編74師，整編11師，第五軍三支勁旅。
蔣介石以五大主力中的三支部隊為骨干，將這45萬大軍分成了三個兵團，其中規模最大的就是整編74師所在的湯恩伯第一兵團，足足有20萬人，剩下兩個兵團分別是王敬久的第二兵團和歐震的第三兵團。
為了避免兵力分散，遭到華野分割包圍，蔣介石吸取了之前的教訓，他命令陸軍總司令顧祝同親自指揮這次軍事行動，采取密集靠攏，穩扎穩打，逐步推進的方式，加強兵力密度，成縱深梯次部署，一步步地包圍華野。由于國民黨軍各兵團部隊都緊緊包圍在了一起，華野一時找不出戰機，只能逐步后退。
作為華野全軍的戰役指揮員，粟裕密切注視著國民黨軍各部隊的動向，他把自己關在房間里，反復地看著地圖和送來的情報，想要尋找國民黨軍的破綻。粟裕認為敵人雖然在兵力上占有很大優勢，戰略戰術上也改進很大，但是在國民黨軍內部，存在著嫡系和雜牌部隊，主力和非主力部隊，上級和下級，官兵之間的矛盾。
雖然蔣介石希望能夠憑借兵力優勢很快結束戰斗，但是他的戰場指揮員，尤其是各兵團司令和軍師首腦，各整編師（軍）長之間的關系也不和，很多將領都力求保存實力，邀功請賞，一旦和我軍接觸，大多數國民黨軍部隊并不會拼命，反而會立刻收縮靠攏，甚至是見死不救。在充分考慮了這些因素后，粟裕決定殲滅最囂張且戰位最為突出的整編74師。
為了干凈徹底迅速地殲滅整編74師，粟裕拿出了華野戰斗力最強悍的五個縱隊擔任主攻，這五支部隊分別是葉飛一縱，陶勇四縱，王必成六縱，王建安八縱，許世友九縱，陳銳霆的特種兵縱隊也配屬主攻部隊作戰。華野剩下的四個縱隊，韋國清二縱，何以祥三縱，成均七縱，宋時輪十縱擔任阻擊任務。
1947年5月13日下午，粟裕下令華野各縱隊開始行動，對整編74師展開包圍。但是張靈甫并沒有慌，他把重武器留在了垛莊（只派一個團看守），自己率領主力上了孟良崮，希望用整編74師為誘餌，吸引解放軍主力來攻，最后來一個中心開花，和國軍的增援部隊一起擊敗華野。蔣介石也是這個想法，他覺得這是尋求已久的決戰良機，想要一戰解決山東的問題。
不過讓張靈甫沒有想到的是，戰斗剛開始，埋伏在魯南的華野六縱就攻占了垛莊，斷了整編74師的后路。但是華野的處境依然很危險，當時華野雖然是五倍于整編74師的兵力優勢，但是國民黨軍的10余個整編師（軍）共三十多萬大軍正對華野展開包圍，這些部隊近的距離整編74師只有不到十公里，遠的也才三天的路程。
不過讓蔣介石沒有想到的是，在這些國民黨軍增援部隊中，只有一支雜牌部隊—黃百韜的整編25師拼死增援，其余的部隊都在觀望，尤其是張靈甫的老上級（整編83師師長李天霞）巴不得看張靈甫倒霉。戰斗進行到5月16日下午，終于將整編74師全殲，張靈甫被華野官兵擊斃。
