光緒八年正月二十五日，按照左宗棠的部署，金順派參讚大臣升泰前去接收伊犁。
左宗棠知道朝廷邊患之大，莫過於新疆。新疆地廣人稀，防務空虛。沙俄覬覦西北，步步為營。左宗棠奏請朝廷設置新疆省，朝廷同意。
新疆建省，朝廷任命劉錦棠為首任新疆巡撫，劉錦棠成為收複新疆的大功臣，加兵部尚書銜，仍擔任欽差之職。左宗棠將湘軍留在新疆屯田，又招募內地百姓到新疆屯墾。
新疆初複，劉錦棠馬上設立善後局，召集流民修複渠道、坎兒井，發給他們種子，恢複農業生產，新疆的經濟慢慢恢複，社會秩序也日趨安定。
卻說漏網之魚伯克胡裏、白彥虎逃入俄國以後，經常派兵騷擾新疆。
白彥虎派心腹金山率領五百人馬從阿克蘇西邊入侵，劉錦棠率精兵一千兩百人，從喀什噶爾出發，全殲該部，活捉金山。
伯克胡裏又派親信阿裏達什率四百八十人從喀什西部入侵，劉錦棠率領兩千人馬，在布魯特人的幫助下全殲該敵，打死阿裏達什。
原阿古柏部將艾克木汗聯合布魯特頭人阿布都勒哈瑪，率兩千三百人進入博斯塘特勒克。劉錦棠出動四千湘軍，在博斯塘特勒克山穀設伏，殲敵兩千，艾克木汗、阿布都勒哈瑪在一百多名騎兵的保護下逃往俄國。
過了半年，艾克木汗、阿布都勒哈瑪又率領兩千人馬進攻烏什恰提卡倫，奪取了塔什庫爾幹塔吉克縣城。劉錦棠出英吉沙爾，襲擊塔什庫爾幹塔吉克縣城，艾克木汗大驚失色，倉皇出逃。湘軍四天四夜追敵八百裏，越過千年冰川，在卡拉塔什達阪追上敵人，艾克木汗、阿布都勒哈瑪全軍覆沒。
從此以後，伯克胡裏、白彥虎再也不敢踏入新疆半步。
劉錦棠對當官不感興趣，收複伊犁以後，他向朝廷上奏折說年老多病，膝下無人照顧，長年征戰，自己腿腳受傷，不能走路，向朝廷辭去所有官職，回湖南老家種田。朝廷同意。