女婿阎行前往洛阳拜谒曹操，曹操厚待阎行，上表朝廷授任阎行为犍为太守。阎行趁机提出让其父亲入朝任职，一是向曹操表示忠心，二是能让父亲享受荣华。阎行返回西凉后，面见韩遂，将曹操要其入朝为官的话转告韩遂，并劝韩遂送一个儿子入朝为质。韩遂对阎行出使期间的自我主张，略有不满，说："暂且再观望几年再说吧。"后来阎行父母启程赴京时，韩遂突然决定让一个儿子随行。
公元211年三月，曹操派钟繇汇同大将夏侯渊合兵讨伐汉中张鲁。因曹军需要经过马超、韩遂防地，马超怀疑曹军"名伐张鲁，实掠西凉"，遂与韩遂结为父子关系，联合抗曹。面对马超、韩遂的反叛，曹操于该年七月，亲自率军西征。九月，曹操采取贾诩所献离间之计，到阵前与韩遂交谈。会面结束后，马超等人问韩遂："曹操同你说了啥？"韩遂答："没说啥啊。"马超便起了疑。又一天，曹操书信一封给韩遂，内中涂抹多处，似是韩遂看后所改，马超更加置疑。待到曹操约战时，两人不加协作，以致大败，韩遂、马超不得已败逃凉州。
莅年五月，稳操胜券的曹操，将韩遂在京都的亲人全部杀光。之后，韩遂女婿阎行投曹，韩遂退走羌中。公元215年，韩遂率羌胡兵卒数万，打败夏侯渊留下守护的阎行。不久逝世（一说被部下杀害），享年70余岁。
民间有言："关西出将，关东出相"。作为关西人的韩遂，无疑是个枭雄。但因于汉末三国是个群星璀璨时代，因此他的智商也就没能发挥出极致。事实上，西凉那么几个水平高超之人，如贾诩、李儒等，都被董卓带走了，而贾诩之后选择事奉曹操，更是点了韩遂的死穴。
韩遂的死穴就是：他屡屡"背刺"上级，惟因如此，他也担心自己被马超"背刺"，这就促使他成全了曹操的离间计。
此所谓"害人者，必害己"也！