義和團組織最早是在白蓮教的基礎上產生的。嘉慶時期的白蓮教起義失敗後，幾十年間，白蓮教的各個支派繼續暗暗流傳。在京津、山東、河南、山西等省有八卦教、經陽教、榮華教的秘密結社，都屬於白蓮教係統，其中以八卦教傳播最廣。清朝官方規定：凡傳習八卦教的，不但要查拿禁止，而且為首的要處以極刑，在這種高壓政策下，八卦教徒便用傳習
拳術來隱秘自己。
中日甲午戰爭時，山東有些地區已有義和拳組織的活動。戰後幾年在魯南活動的大刀會，也同義和拳組織有聯係。這種組織有過“拳會”“紅拳會”“義和拳會”等名義，參加義和拳的以農民、手工業者最多，他們平時在家裏從事各自的生產勞動，在勞動之餘，在一起練習武術。加入義和拳組織，需要履行一種儀式：練拳時要先跪在地上給師傅磕頭，麵朝南發誓，還要口中叨咕咒語。師傅告訴徒弟，隻要按照這種方法練下去，就會練成“神拳”，能躲避槍炮的射擊，刀槍不入，所向無敵。這種因對西方火炮的野蠻而產生的幻想迷信對當時無知的民眾產生了很大的吸引力，人們紛紛加入義和拳的行列。在山東，由於德國軍隊入侵膠州灣，德國教會變本加厲地盤剝，教會勢力不斷擴張，橫行鄉裏，魚肉百姓，終於激起了大規模的農民反帝愛國運動。
1898年10月，山東冠縣義和拳首舉義旗，揭開了義和團運動的序幕。
冠縣城的梨園屯與京津威縣交界，這裏的天主教民在法國傳教士的指使下，與村民長期爭用玉皇廟基，並於1897年春在舊廟基上重建教堂，結果“村民大嘩，群起抗拒”。村民閻書勤、高元祥等，綽號“十八魁”，率眾驅逐教民，拆毀教堂，重建玉皇廟。他們還邀請威縣著名梅花掌首領趙三多前來護廟，趙三多率領拳眾在梨園屯亮拳設廠。傳教士要挾清政府鎮壓拳民，山東巡撫張汝梅一麵派兵鎮壓，一麵建議清政府“將拳民列諸鄉團之內，聽其自衛身家，守望相助”。於是，1898年10月，趙三多等人在冠縣蔣家莊率眾起義，豎起了“助清滅洋”的旗幟，並改稱義和團，率眾直攻紅桃園教堂，與前來鎮壓的清軍多次搏鬥，隊伍發展到千餘人。隨後，起義軍分為兩路，一路由閻書勤率領，活動在了魯交界地區，繼續打擊教會勢力；一路由趙三多率領，沿運河北上，勢力擴展到京津南部