Rudolf entstammte dem obersächsischen Adelsgeschlecht derer von Rex. Er war ein Sohn des sächsischen Politiker, Offizier und Domherr zu Meißen, Karl von Rex und dessen Ehefrau Hermsdorfer, die Gutsbesitzerin Margarete von Metzradt (* 23. Oktober 1836; † 9. Januar 1931), Tochter des Rudolf von Metzradt-Hermsdorf und der Amalie Marie von Nostitz und Jänkendorf-Oppach. Sein einziger Bruder war der Oberhofjägermeister und Landesälteste Viktor von Rex.
Am 24. August 1894 wurde er zum Rittmeister befördert. Am 24. November 1903 wurde er außer Dienst gestellt.
