对刘备牙根痒痒。
莅年，不满张鲁阳奉阴违的曹操，亲率十万大军西征汉中。闻知曹军兵锐，张鲁欲降曹操，但其弟张卫不肯，率兵坚守要隘阳平关，曹军虽然力攻，但久难拿下。拖不起时间的曹操下令撤军，不想曹军在慌不择路回撤过程中，意外误入张卫的指挥部，于是曹军改撤为攻，一下子夺下阳平关。
听说阳平关丢了，张鲁复萌降意。但阎圃劝他，说你现在投曹，曹操一定不会重用你，不如先到少数民族地界暂栖，再与曹操谈判。张鲁认同。撤前，有人提议把仓库中难以带走的金银财宝放火烧了。张鲁阻道："我已有归顺朝廷之意，今天离去，只是避其锋芒，仓库宝货，应归国家所有。"督令部下将所有宝物妥藏完毕，方才离开。
刘备听说张鲁逃亡，听从黄权建议，遣派黄权前去迎接。张鲁得知此情，愤怒地说："我宁为曹公附属，也不愿做刘备的座上客。"
曹操仿学刘备收马超之招，买通见钱眼开的杨松，离间张鲁与手下大将庞德，致庞德走投无路降曹。接下去杨松又把亲自出城征战的张鲁堵在城外，协助曹操俘虏张鲁。已知张鲁保护财宝过程的曹操，不仅没有为难张鲁，反而任命其为镇南将军，封阆中侯，食邑一万户。张鲁部下除杨松被斩，其他皆予续用。不久张鲁举家迁往邺城，曹操封张鲁五子与阎圃等人为列侯，又让儿子曹宇娶张鲁女儿为妻。
公元216年，张鲁去世，谥号原侯，葬于邺城。但有人称，道力无边的张鲁，实卒于公元245年。另有《真诰》载，"五斗米道系师"张鲁曾在公元259年复生，大笑而亡。公元1308年，元武宗孛儿只斤海山追封张鲁为"正一系师太清昭化广德真君"。
有学者认为，传世《老子想尔注》的作者，应为张鲁，而非张陵。张鲁门徒众多，至东晋时，五斗米道发展至北方和中原地区。