Oxholm trat erstmals international in Erscheinung, als er bei den Juniorenweltmeisterschaften 1978 die Bronzemedaille im Mehrkampf gewann. Vorher hatte er bereits einige nationale Meistertitel im Sprint und im Mehrkampf gewonnen. Das Jahr 1980 war Oxholms erfolgreichstes. Neben den Gewinnen zweier Bronzemedaillen im Mehrkampf bei den Europa- und Weltmeisterschaften konnte er sich für die Olympischen Winterspiele in Lake Placid qualifizieren. Dort wurde er sowohl über 5000 Meter als auch über 10.000 Meter Dritter. In den folgenden Jahren erreichte Oxholm mehrere Male das Siegerpodest bei nationalen Meisterschaften und platzierte sich bei internationalen Wettkämpfen und Meisterschaften unter den Top Ten. An die Erfolge aus dem Jahr 1980 konnte er allerdings nicht mehr anknüpfen.
Nach dem Ende seiner aktiven Karriere arbeitete Oxholm als Trainer, unter anderem für das norwegische Sprinterteam und als Privattrainer des späteren Olympiasiegers Ådne Søndrål.