1854年(咸丰四年)3月，左宗棠又应湖南巡抚骆秉章之邀，第二次入佐湖南巡抚幕府，长达6年之久。

其时，清王朝在湖南的统治已岌岌可危，太平军驰骋湘北，长沙周围城池多被占领，而湘东、湘南、湘西广大贫苦农民，连连举事，此伏彼起。

左宗棠焦思竭虑，日夜策划，辅佐骆秉章“内清四境”、“外援五省”，苦力支撑大局。

同时，革除弊政，开源节流，稳定货币，大力筹措军购：军械、船只。

骆秉章对他言听计从，“所行文书画诺，概不检校。”由于左宗棠的悉心辅佐和筹划，不但湖南军政形势转危为安，出省作战连连奏捷，其它各项工作也取得显著成效。

左宗棠出佐湘幕，初露峥嵘，引起朝野关注，时人有“天下不可一日无湖南，湖南不可一日无左宗棠”之语，一些高官显贵在皇帝面前竞相举荐，咸丰皇帝亦给予了极大的关注。

但也因此而引起了一些人的忌恨和诽谤，特别是湖南永州镇总兵樊燮的构陷，险些使左宗棠性命不保，幸得胡林翼、郭嵩焘等人的仗义执言，潘祖荫、肃顺等大臣的披沥上陈，才使一场轩然大波得以平息。

1856年(咸丰六年)，左宗棠因接济曾国藩部军饷以夺取被太平军所占武昌之功，命以兵部郎中用。

1860年(咸丰十年)，太平军攻破江南大营后，左宗棠随同钦差大臣、两江总督曾国藩襄办军务。并在湖南招募5000人，组成“楚军”，赴江西、安徽与太平军作战。

1861年(咸丰十一年)，太平军攻克杭州后，左宗棠由曾国藩疏荐任浙江巡抚，督办军务。

1862年(同治元年)，左宗棠组成中法混合军，称“常捷军”，并扩充中英混合军，先后攻陷金华、绍兴等地，升闽浙总督。

1864年(同治三年)3月，左宗棠攻陷杭州，控制浙江全境。论功，封一等恪靖伯。

旋奉命率军入江西、福建追击太平军李世贤、汪海洋部，至1866年(同治五年)2月，左宗棠攻灭李世贤等于广东嘉应州(今梅州)。

在镇压太平天国后，左宗棠倡议减兵并饷，加给练兵。

1866年(同治五年)上疏奏请设局监造轮船，获准试行，即于福州马尾择址办船厂，派员出国购买机器、船槽，并创办求是堂艺局(亦称船政学堂)，培养造船技术和海军人才。

时逢西北事起，旋改任陕甘总督，推荐原江西巡抚沈葆桢任总理船政大臣。

一年后，福州船政局(亦称马尾船政局)正式开工，成为中国第一个新式造船厂。