韩遂也算是东汉末年的军阀之一，虽然实力并不算非常强劲，但也不能小看。韩遂和马腾原本都归顺了曹操，但是马超却让韩遂抗曹，最后还失败了。看的出来韩遂也并不想制作一个为曹操打工的人，而是希望自己也能成为一方之霸，或者成立自己的国都。当然当时每位大军阀都有这样的想法，但是最后能做到的也只有三位。
汉灵帝死后，洛阳形势越发混乱。先是大将军何进被杀、袁绍诛杀宦官，然后是董卓进京掌握政权，废少帝为弘农王，立陈留王刘协为帝。由于董卓这支劲旅离开凉州，因此，尽管皇甫嵩的军队仍与韩遂等对抗，但也使得凉州各割据势力的压力骤然得到缓解。
此时的韩遂集团将何去何从呢?《后汉书董卓传》中说：“卓之入关，要韩遂﹑马腾共谋山东。”作为昨日不共戴天的死敌投来的橄榄枝，韩遂 “见天下方乱，亦欲倚卓起兵。”为了表示诚意，韩遂和马腾也迅速行动起来：“遂、腾率众诣长安。会卓死，李等以遂为镇西将军，遣还金城;腾为征西将军，遣屯。”
通过“率众诣长安”的举动，韩遂集团终于完成了转型。由以前的非法武装变成了镇西将军属下的政府军了。韩遂也终于顶着镇西将军的头衔风风光光地回到了故乡金城。而其真实的目的还是之前的“见天下方乱，亦欲倚卓起兵”。并不是向东汉政权投降，只是想利用此举为日后在凉州及三辅地区的割据寻找一个合法的理由。
献帝兴平元年(公元194年)，马腾与当时控制中央政府的李傕、郭汜交恶，刀兵相见。韩遂与马腾合兵一处，共同对抗李傕、郭汜。这场战争，除了有马腾与李傕之间的私人恩怨之外，还有汉末朝臣和地方诸侯的影子。
《后汉书董卓传》中说，参与这场战争的除了马腾、韩遂之外，尚有前凉州刺史种邵、侍中马宇、右中郎将刘范、中郎将杜禀等朝中官吏;《后汉书刘焉传》中也记载：“兴平元年，征西将军马腾与范谋诛李傕，焉遣叟兵五千助之。”
诸多力量的介入，只能说明一个问题，所谓马、李之间的私人恩怨只不过是一个幌子，这场集合了多种政治势力参加的战争的真正目的，对于马腾、韩遂而言，既可以赢得勤王的美誉，为自己的将来谋得更大的政治利益，又可以展示自己的势力，削弱甚至消灭李傕、郭汜的力量，以便独霸凉州。
在这场战争中，韩遂还与李傕、郭汜集团的主要成员之一樊稠有一段意味深长的传话：“天下反复未可知，相与州里，今虽小违，要当大同，欲共一言。”这就更加说明了韩遂对于这场战争的投机心理。
尽管这场战争以韩遂和马腾的失败而结束，但由于始作俑者是马腾而非韩遂，因此相对来说韩遂的损失也就比较小。而且事后韩遂和马腾得到了一个意外的收获。李傕、郭汜在这场战争之后，发现了马腾、韩遂等凉州地方势力对自己的潜在威胁，不得不进行安抚，任命马腾为安狄将军，韩遂为安降将军，这也就等于再一次正式承认了两人在凉州及三辅地区的合法地位。