南京城依山傍水修建，東北有鍾山，西北臨長江，南邊有秦淮河環繞，北邊有玄武湖阻絕。山水渾然一體，雄偉壯麗，氣勢磅礴，有“鍾山龍蟠，石城虎踞”之稱。
南京城周長三十七公裏，平均高度約十四米，城基全部是花崗石，上麵都是城磚。這些磚由江南二十八府一百一十八州縣按規格燒製，有中華門、水西門、漢西門、光華門、通濟門、太平門、和平門、金川門、新化門、中山門、清涼門、定淮門、興中門十三座城門。其中中華門最為雄偉壯觀，前臨長幹橋，後通鎮淮橋，三道甕城環繞，四座拱門相連，各門均有千斤閘和雙杠木門。
南京城第一道甕城上麵立有旗杆，杏黃旗上飄揚著鬥大的“太平天國”四個大字，十裏之外可以望見。
同治元年五月十五日，曾國荃率水陸兩萬人馬，曾貞幹統兵一萬五千人馬進駐金陵城外雨花台，開始圍攻南京。
曾國藩建議曾國荃說：“湘軍孤懸雨花台，進不能攻，退不能守，不如退兵。”
曾國荃並不同意大哥觀點，說：“湘軍自興兵之日起，人人以攻克南京為目標，今天不乘勝進抵金陵，與軍不利。今逼近金陵，屯駐雨花台，也足以牽製長毛，我軍人數不多，雖然形勢危急，但也沒有其他萬全之策。”
曾國藩與左宗棠交換意見。左宗棠認為可以在雨花台屯軍，伺機進攻金陵，湘軍圍攻南京的作戰方略被確定下來。
湘軍進抵雨花台之初，太平軍抄了湘軍的後路，斷了湘軍的糧道、郵路，曾國荃內外信息不通，湘軍將士一片嘩然，前景堪憂。
為了配合曾國荃奪取南京，鮑超奉命與彭玉麟協同作戰，在江北進攻南京。
至此，曾國藩統兵十萬，左宗棠、李鴻章各率軍數萬，加上湖北、江西的湘軍，人數已經達到三十萬。其餘分布在貴州、廣西、陝西、山東又有數萬之眾。曾國藩殫精竭慮，日夜在案桌前徘徊，與下屬一起研究如何攻取金陵。