1945年8月，隨著抗日戰爭落下帷幕，晉冀魯豫野戰軍在晋南陸續展開反擊日偽軍作戰，但就在此時，國民黨軍閻錫山的晉綏軍卻以3個師的兵力進入長治地區，妄圖以此為屏障，打通白晋鐵路，意圖將勢力拓展至整個晉東南，為了防止我軍反撲，國民黨軍在長治周邊屯留、長子、潞城、壺關等地都佈置重兵，並以另一路配合蔣介石國民黨軍沿平漢鐵路向石家莊、北平推進。

值此收割抗戰勝利果實之際，為了保住這一來之不易的勝利，我軍决心在長治反擊閻錫山所部，由於敵人在長治周邊縣市密集防禦，我軍在戰前就製定了兩套作戰模式，即如果可攻城的情况下就攻城，如攻城不成，就圍城打援，總而言之要爭取殲敵一部，只有打疼了敵人，敵人才不會對我軍產生別的心思。

晉冀魯豫野戰軍抽調太嶽、太行兩支縱隊攻擊3萬餘人兵力，加上配合的地方民兵等5萬多人，發起上黨戰役，首戰即以太行縱隊一部進攻屯留，並將主力伺機埋伏在長治到屯留的公路上伏擊敵人。

戰鬥一開始就陷入胶著狀態，屯留守軍雖然僅有一個教導團一千餘人的兵力，但是除了少部分偽軍收編而來的部隊外，大部分都是受過訓練的精銳骨幹，太行縱隊三個團的兵力，分別從屯留三個方向進攻，激戰一晝夜，卻沒能取得勝利。

與此同時為了馳援屯留，長治國民黨軍派出6000多人的兵力，沿著公路開進，但由於過於忌憚我軍圍點打援的能力，囙此一路之上緩慢前行，就怕中埋伏。更為關鍵的是，由於伏擊部隊過早的暴露，導致長治這一路援軍一與我軍接觸，就立刻縮了回去。既然打援不順利，那麼乾脆直接攻城，為了拿下屯留，太行縱隊將預備隊769團也投入戰鬥，最終經過一番激戰，屯留守軍全軍覆沒。

按照預定計畫，打下屯留以後，我軍立刻沿著敵長治週邊陣地的佈防，連續進攻長子、潞城、壺關，雖然遭遇到一定的困難，特別是缺乏重武器，但是在我軍不斷發揚刻苦的前提下，這四個縣城相繼被解放，由於畏懼我軍圍點打援，長治守軍自屯留一接觸，居然沒有敢再派出援軍，隨著我軍幾路大軍包圍了長治，長治的國民黨軍終於開始慌張。

史澤波更是連續向閻錫山請求援兵，為了保住長治，閻錫山調集了大量的援軍，其中彭毓斌率領的23軍、83軍8個師從太原南下，另外由偽軍改編而來的4個團的兵力，也從沁縣出動，援軍總計兵力有2.3萬人，同樣由於懼怕我軍圍點打援，彭毓斌的援軍一路上走的非常慢，這給我軍全殲援軍所部，提供了機會。

與此同時，我軍也急忙改變了部署，有原來攻打長治的主力抽調大部分去圍攻彭毓斌，為了麻痹國民黨軍，我軍在撤離之前，還曾裝模作樣的扛著雲梯做了一次攻城演練，就這樣彭毓斌剛走到屯留以西，就被我軍團團包圍，2萬大軍全軍覆沒，彭毓斌本人陣亡，隨後我軍調集主力繼續圍攻長治，10月7日，史澤波趁大雨連夜突圍，中途被我軍圍追堵截，最終被俘，值得一提的是，上黨戰役還促成了高樹勳在邯鄲起義，作為解放戰爭第一戰，上黨戰役起到至關重要的意義。