汉灵帝见太平道如此厉害，忙于三月戊申日以何进为大将军，率左右羽林五营士屯于都亭，整点武器，镇守京师；又自函谷关、大谷、广城、伊阙、轘辕、旋门、孟津、小平津等各京都关口，设置都尉驻防；下诏各地严防，命各州郡准备作战、训练士兵、整点武器、召集义军。刘备便是在此时受到商人张世平、苏双资助组织起义军投靠校尉邹靖讨贼立功的，曹操，孙坚也在此时初显锋芒。

同时朝廷又派出当世名将皇甫嵩，朱儁，卢植等率精兵镇压，大军势如破竹，在各大世家豪强的地方武装配合下，一度大破黄巾军。

黄巾军虽声势浩大，但毕竟是一群乌合之众，几乎都是由吃不起饭的平民百姓组成，拿的是木棍，锄头，猎叉等简陋武器，穿的是麻衣，粗布甚至衣不蔽体，又缺乏军事人才，军纪散漫。凭借人海战术每攻下一城后都要大肆掠夺一番，全然忘记了他们本来也贫苦百姓，这样的军队不败才奇怪呢！

凉州虽然未被黄巾波及，但镇守在边境的董卓和其麾下几万精锐大军却被调走镇压黄巾军。韩遂自然不会放过这么好的机会，十万雄兵进围陇西，并得到了陇西太守李相如，酒泉太守黄衍等人的响应。汉庭命凉州刺史耿鄙率六郡之兵讨伐韩遂，马腾为前部先锋，执掌两万兵马。

结果两军尚未交战，在进军途中忽然发生叛乱，耿鄙被部下别驾所杀，八万大军群龙无首。马腾也痛恨十常侍卖官受贿之举，再加上不愿和结义兄弟韩遂交锋，索性杀了别驾，收拢官军，聚众六万余人与韩遂军合在一处。两兄弟又联合汉阳豪强王国，轻而易举的就攻下了凉州多郡之地，可以说整个凉州有一大半在二人掌握之下。

随后韩遂，马腾又推举王国为首领，大军进攻陈仓而不下，士卒疲惫撤军西归时被大胜黄巾而来皇甫嵩追击大破，斩首万余级。事后归咎责任，韩遂杀了王国，又劫持了汉阳名士阎忠为首领。韩遂为拉拢阎忠，甚至把大女儿韩琼许给阎忠之子阎行为妻。

可好景不长，没过多久，联军内部又出现内讧，马腾的士兵大多为凉州本地官军，而韩遂大军则由羌兵，山贼，土匪等胡虏组成，烧杀淫掠无恶不作。凉州与鲜卑，匈奴，羌、氐接壤，几十年来战火不断，尤其这些游牧民族几乎每年都要挥军侵犯边界，以抢夺钱粮，妇女，可谓是罪恶滔天。