Connors wurde bei einem Basketballspiel an der Universität vom Regisseur William A. Wellman entdeckt. Ab 1952 spielte er überwiegend Nebenrollen in Film- und Fernsehproduktionen, darunter 1956 ein kurzer Auftritt in Die zehn Gebote. Bekannt wurde er schließlich durch die Titelrolle in der von 1967 bis 1975 produzierten Krimiserie Mannix. Im Jahr 1970 wurde er dafür mit dem Golden Globe ausgezeichnet. Im Anschluss folgten überwiegend Fernsehfilme und Gastauftritte in Serien. Die Rolle des „Joe Mannix“ verkörperte er 1997 nochmals in einer Folge der Serie Diagnose: Mord.