柴進對林衝說道：“兄長無處可去，不如就上梁山。”原來山東濟州有個水鄉，名叫梁山泊，方圓八百裏。白衣秀士王倫、摸著天杜遷、雲裏金剛宋萬、旱地忽律朱貴在那裏落草，手下有七八百小嘍囉，以打家劫舍為生，柴進曾資助他們，因此有些交情。林衝帶上柴進的舉薦信，趁夜去了。一路淒風冷雪，行了半月有餘，終於到了梁山腳下，林衝在酒店裏吃了酒，想著自己有家難尋、有國難投，傷感不已，借筆在牆上寫道：“仗義是林衝，為人最樸忠。江湖馳聞望，慷慨聚英雄。身世悲浮梗，功名類轉蓬。他年若得誌，威鎮泰山東。”
梁山上古樹陰森、山影連綿，水泊大浪滔天，實在是個險惡的去處。林衝進了聚義廳，王倫不冷不熱地接待了他。原來這王倫隻是個落第秀才，生怕鎮不住林衝，因此找借口讓他離開。林衝好聲好氣地懇求王倫收留，杜遷、宋萬也幫著說情。王倫便讓林衝隨便殺個人，權作交投名狀。林衝隻好答應。在山下等了一日，不見人影。第二日有三百多客商經過，又不敢動手。第三日終於見到一個單身行人，林衝剛跳出去，那人便飛一般地跑了。
林衝無奈至極，自歎命苦。終於，一個手提樸（讀pō）刀、臉帶青印的大漢路過，撞見林衝，大喊一聲：“殺不盡的賊！”提刀便與林衝鬥了起來，竟是四十回合不分勝負。王倫遠遠看見，連忙勸住二人。原來那青麵漢名叫楊誌，綽號青麵獸，是楊家將後人、楊令公之孫，曾經中過武舉，做到殿司製使官。
林衝的性格究竟有多複雜？
按照《水滸傳》全書結構來看，最開始是高俅發跡記，然後是史進小傳、魯智深傳、林衝傳。前文出場的好漢都是豪爽的人：王進遭受欺壓，立刻選擇走為上策；史進為朋友兩肋插刀、家也不要；魯智深為一個素不相識的女子打死鄭屠丟了前程，又為一個女子打了周通，還要為林衝去打高俅；李忠等人雖然略顯市儈，卻也是說落草就落草，也算瀟灑自在……唯獨到了林衝這裏，他的表現很容易讓人不適應，這個好漢看起來非常懦弱——妻子被高衙內調戲，他不敢打；自己被陸虞候陷害，他沒怎麽執著於報仇；刺配滄州的一路，更是逆來順受、極盡謙卑。若論單打獨鬥，林衝基本是無敵的，他明明可以殺死奸人帶妻子逃跑。可他沒有這樣做，而是一忍再忍，忍到能寫下休書暗示妻子改嫁高衙內的地步。顯然，林衝的性格與魯智深完全不同。