事實上，在人們熱烈談論教育改革的時候，伴隨著洋務運動的勃興，洋務學堂已經如雨後春筍般在全國各地陸續開辦。
同治元年（1862年），同文館在北京創建，標誌著中國近代新式教育邁出了第一步。20多年執教同文館、後來擔任了總教習的丁韙良認為，“有希望革新這古老的帝國的是新教育，新教育的肇端是同文館”，同文館是新教育潮流的“最初的源泉”⑻。據統計，到1896年，各地開辦的洋務學堂多達34所，培養的畢業生也有1000多名。像近代思想家嚴複、民族英雄鄧世昌、哲學家張君勱、戲曲理論家齊如山和外交家張德彝、汪鳳藻、陸徵祥等，都出自洋務學堂。
當時，洋務學堂分為兩大類型。第一類，主要以傳授“西文”的方言學堂即外國語院校，如京師同文館、廣州同文館、上海廣方言館、武昌自強學堂、兩江方言學堂等。晚清雖是“癟三”，但“精神勝利法”仍然在起作用，時時處處還以“上國天朝”自居，而將西方視為“蠻夷之邦”，“蠻夷之邦”的語言當然是“方言”了；第二類，就是以傳授“西藝”的實業學堂，如馬尾船政學堂、北洋水師學堂、江南水師學堂、旅順口魚雷學堂等。1895年10月2日，天津海關道盛宣懷通過直隸總督王文韶，稟奏清光緒皇帝設立新式學堂。光緒帝禦筆欽準，成立天津北洋西學學堂，並由盛宣懷任首任督辦；1896年，北洋西學學堂正式更名為北洋大學堂。北洋大學（天津大學的前身）由此成為中國近代第一所工科大學。
洋務學堂是新生事物，被守舊派視為“旁門左道”；所傳授的科學技術，也被貶之為“奇技**巧”。體仁閣大學士、理學大師徐桐振振有辭地說：“立國之道，尚禮義不尚權謀；根本之圖，在人心不在技藝。……康乾之世非有機器也，然而廩溢庫充，民豐物阜”。1867年，北京地區春季大旱，瘟疫流行；6月10日，又刮起沙塵暴，飛沙走石，遮天避日，兩個時辰內，大白天的紫禁城猶如黑夜。隨即，諫議大夫楊廷熙上疏道：“天象之變，必因時政之失。京師中街談巷議，皆以為同文館之設，強詞奪理，師敵忘仇，禦夷失策所致。”