長沙城中的湘軍將領們還在討論水師進軍方向的時候，湘潭之戰已經打響了。清軍方面的主將是湘軍初期的第一悍將塔齊布。

湘軍當中，猛將眾多。其中最猛的，前期為塔齊布，後期為鮑超。塔齊布作戰很有特色。每次開戰，他喜歡背著一把火槍、兩把腰刀，手裡拿著長矛以及套馬杆，單槍匹馬沖入敵軍陣中。一般不允許別人跟隨，一定要跟隨的，必須武功超群，否則會遭到他的鞭打。塔齊布就是這麼一比特很獨、很猛的將領。

塔齊布雖然很猛，但沒有謀略。每次開戰之前，從不說怎麼進兵，怎麼接應，怎麼埋伏，往往使得部下不知所措。開戰之時，就知道單槍匹馬向前沖。

塔齊布軍中，有關謀略、管理方面的事情，都由另一名將領周鳳山處理。周鳳山的特點與塔齊布相反，懂謀劃，但膽識不够。塔齊布、周鳳山能力互補，確保了這支部隊的戰鬥力。

塔齊布率軍殺至湘潭郊外的高嶺。太平軍出城迎戰。塔齊布手裡拿著大旗，率先沖入太平軍陣中。湘軍阿兵哥見主將如此勇猛，也紛紛向前沖去，奮勇殺敵。不一會兒，湘軍就擊斬了太平軍九名將領。太平軍潰敗，逃往城中。塔齊布率軍追至城下。

第二天，太平軍出城尋找湘軍決戰。塔齊布、周鳳山定下誘敵深入的計策，在一座山的左右兩邊設下伏兵，配備眾多大炮，然後以少數兵力引誘太平軍。

湘軍的誘敵部隊且戰且退，將太平軍引入山中。這時候，兩邊大炮齊轟，擊殺太平軍百餘人。突然遭遇重創的太平軍，隊形很快就亂了。這時候，埋伏在兩側山上的湘軍沖出，與太平軍展開白刃戰。

太平軍自起事以來，很少遇到敢與他們近距離接戰的清軍。所以，當湘軍沖下來與他們白刃相對的時候，他們都被嚇倒了。不一會兒，太平軍就敗下陣來，往城內退去。

與此同時，前往湘潭的湘軍水師五營部隊也與太平軍展開了大規模的廝殺。這五營，包括褚汝航、夏鑾、楊載福、彭玉麟各自帶的一營。

褚汝航、夏鑾是這五營湘軍的正、副首領，但這兩人帶出來的隊伍綠營習氣很濃，戰鬥力不行。要打勝仗，還是得靠楊載福、彭玉麟帶出來的隊伍。他們才是真正的精兵！在湘潭之戰中發揮重要作用的，正是楊、彭的隊伍。

看到湘江兩岸太平軍船隻多達數千艘，有些湘軍阿兵哥有些害怕了。這時候，楊載福手下一個叫周清元的阿兵哥站出來，高聲喊道：“長毛搶來的民船不能作戰。咱們放一把火就能把它們燒光，何必怯懦！”這個周清元，就是之前勸向榮合圍臨資口的那個周清元。

周清元在這裡所說到的民船不能戰，非常重要。太平軍船隻雖多，但都是徵集來的民船。民船上沒有辦法安炮，因為民船的底板無法承受大炮發射時所產生的後坐力。沒有大炮，就不能遠距離襲擊敵人。所以，這些民船在實戰中毫無用處。事實上，太平軍也只是用它們來運兵運糧而已。

湘軍水師的戰船則不一樣。因為經過了特殊處理，湘軍水師的戰船底板能够承受後坐力，所以能够安炮，因而能遠距離轟擊敵人。並且，湘軍水師的大炮都是洋炮，其威力是相當大的。所以，這些戰船在實戰中的價值非常大。

周清元駕舢板沖入太平軍船隻中。太平軍並無攻擊湘軍的工具，只好拿船上裝載的瓷碗襲擊周清元。周清元一把抓住瓷碗，朝太平軍中扔過去，正中一名太平軍將領。太平軍從來沒有見過這麼勇猛的對手，因而對湘軍水師產生了畏懼情緒。

見太平軍膽氣已喪，楊載福、彭玉麟督率阿兵哥駕駛舢板沖入太平軍船隻中，到處拋撒火球。在激戰中，楊載福多次受傷，但仍奮勇向前，極大地鼓勵了湘軍的士氣。

經過4月27日、28日兩天的焚燒，太平軍臨時徵集來的船隻幾乎全部被焚毀。太平軍撤退至城南窑灣一帶。至4月29日，太平軍又徵集來幾百艘民船，準備運兵向上游撤退。

太平軍的動向在湘軍的掌控之中。4月30日淩晨，楊載福、彭玉麟率領湘軍水師長驅直進，追擊太平軍船隊。兩軍在湘潭下攝司遭遇。

湘軍水師開炮轟擊，太平軍船隻四散逃離。楊載福、彭玉麟見太平軍已亂，督率阿兵哥駕駛舢板沖入太平軍船隻中，到處放火。頃刻間，除了行動迅速及時逃離的少數船隻外，太平軍的其他船隻全部被燒毀。

大火騰空而起的時候，太平軍方面負責湘潭一戰的將領林紹璋與數百太平軍弃船登岸。5月1日黎明，這些人從湘潭西門乘梯子登城牆入城，卻被湘軍襲擊。湘軍奪下他們的梯子，乘勢攻入城中。湘潭落入湘軍之手。

林紹璋率領殘部朝靖港方向逃去，沿途遭到王錱等部湘軍襲擊。最終到達靖港的太平軍，僅僅剩下了四人。

湘潭之戰是太平軍自起兵以來的第一場大規模的慘敗。日後，李秀成在總結太平天國歷史時，將湘潭大敗稱之為“天國十誤”之一，可見其重要性。