公元184年，张角眼看起事的时机差不多了，就准备在这一年的三月五日举行大起义，命令各方首领及信徒开始着手准备。一大方的渠帅马元义潜入京城洛阳，发展了宦官中常侍封谞、徐奉为内应，准备里应外合。可是在起义前一个月，太平道教徒济南人唐周叛变，向东汉政府告密，起义计划泄露。张角鉴于起义之事已暴露，当机立断，连夜通知三十六方，即刻举行起义。于是，轰轰烈烈黄巾起义爆发了，以势不可当的姿态席卷全国。
汉灵帝一见太平道如此厉害，慌了手脚，赶紧让大将军何进率左右羽林军驻扎在都亭，把京师守住；又命令自函谷关、大谷、广城、伊阙、轘辕、旋门、孟津、小平津等各京都关口，都驻扎上军队，这下才稍微放心点了。接着就下诏各地严防，命各州郡准备作战、训练士兵、整点武器、召集义军。
这时候有个叫皇甫嵩（东汉末名将）的上谏要求解除党禁，拿出皇宫钱财及西园良马赠给军士，提升士气，而吕强（东汉宦官）又对灵帝上言：“党锢之祸积怨日久，若果与黄巾合谋，恐怕已经无救了。“汉灵帝接纳提案，于是大赦党人，发还各徙徒，要求各公卿捐出马、弩，推举众将领的子孙及民间有深明战略的人到公车署接受面试。
然后拜卢植为北中郎将，命护乌桓中郎将宗员任其副手，率领北军五校（即屯骑、越骑、步兵、长水、射声五营）的将士，前往冀州与张角主力周旋。又拜皇甫嵩为左中郎将、朱儁为右中郎将，各领一军，讨伐颍川一带的黄巾军。
汉军在首战并未得利，这年四月，朱儁军就被黄巾波才（黄巾军将领）击败，把朱儁围困在长社（古县名，治所在今河南长葛东）。皇甫嵩赶紧过来支援，一起进驻长社防守，却被波才率大军围城，汉军人少，士气低落。
五月，京师又派曹操率军支援皇甫嵩。不过援军快到时，皇甫嵩已心生一计，傍晚时分吹起大风，皇甫嵩命士兵手持火把暗暗出城，利用黄巾军营寨周围的杂草，用火攻大破敌人，大呼进攻，城上亦举出火把响应，皇甫嵩以鼓助战，冲入敌阵，黄巾军大乱，四处奔走。加上曹操的援军到了，黄巾军被皇甫嵩、朱儁和曹操三面夹击，大败。
皇甫嵩与领朱儁军继续进击汝南、陈国的黄巾军，追击波才到阳翟，并在西华大败彭脱（黄巾军将领），剩下的军队想逃到宛城，却被朱儁的部下孙坚抢先登城，于是大军前后夹击，大破黄巾军。至此，豫州一带的黄巾军基本被荡平。