城陵矶大胜，湘军们士气高涨，在岳州稍作修整后便进军武汉。延长江东下途中，轻而易举就顺流扫清了残敌，到达武汉。
武汉有着独特的战略位置，直到如今也是重要的交通枢纽。自古以来，便是兵家的必争之地。
争夺武汉，对于曾国藩来说是尤为关键的一步。因为武汉地处长江、汉水交汇处，是长江中游水陆的交通核心，更是湘军从湖南东下讨伐太平军的必经咽喉。如果武汉仍由太平军掌控着，湘军始终要面临太平军顺江反攻湖南的威胁。只有拿下武汉，湘军才能彻底解除西线侧翼隐患，掌握长江中游治江权，为后续沿江东下攻九江、安庆、天京建立起前沿战略基地。
再加上，湘军本是曾国藩自筹粮饷的地方团练，还未得到朝廷更多的支持。若是攻克了武汉，便能借此向朝廷证明湘军的战斗实力，借此争取官方军饷补给、军械调拨等。并且先定湖南、再取武汉，附和曾国藩“稳扎稳打，层层推进”的战斗策略。
八月二十一日，曾国藩指挥湘军水师先清理武昌城下的太平军水师。太平军指挥官一见湘军，便乘坐彩船奋勇迎战。曾国藩随即悬赏湘军，谁夺取彩船便“赏钱百缗”，这笔奖赏，足以让士兵立刻冒死争攻彩船。太平军寡不敌众，争相溃逃。紧接着，凭借炮火的优势，湘军水师迅速控制了江面，切断了太平军武昌与汉阳之间的联系，与陆军对武昌形成了合围之势，武昌守军防线全面崩溃。
八月二十二日，负责守卫武昌的太平军将领石凤魁、黄再兴，见湘军气势汹汹，彻底丧失了信心，都没通知汉阳水营一声，就连夜带领精壮弃城逃跑了。汉阳、汉口守军一收到武昌失守的消息，也跟着跑路了。这下好了，汉阳水营的太平军对武昌失守毫不知情，没有做任何防御准备。等到湘军攻克武昌后顺势渡江，来了个正面猛攻后，汉阳太平军水营将士被打了个措手不及。由于汉水河身较窄，太平军水师船只被挤在一起，退无可退，导致千余只战船被焚毁，大部分士兵战死或被俘。这一战，太平军仅剩的西线水师几乎彻底消亡，长江中游江面控制权完全落入湘军手中。
武汉收复当日，曾国藩便拟了《水陆大捷，武昌、汉阳两城同日克复折》以六百里加急驰奏朝廷。虽然此前，湖广总督杨霈一得知消息，就率先上报了咸丰，但咸丰还不敢相信，执意要等到曾国藩、塔齐布的正式战报送达。
过了六天，这份战报终于送到了咸丰手里。他接报后大喜，随即便按惯例授予曾国藩兵部侍郎之衔，并拟授其署理湖北巡抚一职。不过发出这道批示前，咸丰又召见了军机大臣们，通报这个好消息。这时，一位汉族军机大臣俯身上前，说了一句话，让咸丰又收回了成命。这句话，也改变了曾国藩的命运。
