Aufgrund der Förderung des ehemaligen Trainers sowie zwischenzeitlichen Präsidenten Frank Holzer (jetzt Aufsichtsratsvorsitzender) und der finanziellen Unterstützung durch dessen Firma Ursapharm als Sponsor hatte sich der Verein auf überregionales Niveau zwischenzeitlich bis in die 3. Liga vorgearbeitet.[3]
Der Verein wurde 1907 als FC Germania Elversberg gegründet, 1914 aufgelöst und 1918 als Sportvereinigung VfB Elversberg wiedergegründet. Nach dem Zweiten Weltkrieg schlossen sich alle Elversberger Sportvereine zur Sportgemeinde Elversberg zusammen, aus der sich 1952 die heutige SV (anfangs unter dem Namen SV Elversberg VfB 07) abspaltete.
Von 1951 bis 1960 sowie in der Saison 1962/63 gehörte die SV Elversberg der drittklassigen Amateurliga Saarland an. Überregional tauchte die SV erstmals 1980 durch den Aufstieg in die Oberliga Südwest auf. Bis 1987 gehörten die Elversberger der höchsten Amateurklasse an, spielten jedoch nie eine Hauptrolle. 1994 stiegen sie erneut in die Oberliga auf, nach zwei Jahren in die Regionalliga, wo sie im ersten Versuch scheiterten, aber 1998 den Wiederaufstieg schafften. Für 15 Jahre war Elversberg ein fester Bestandteil der Regionalliga West/Südwest bzw. Süd bzw. West.
Vor der Saison 2007/08 setzte Elversberg als Ziel den Aufstieg in die neue 3. Liga, was allerdings nicht gelang. Dies hatte zur Folge, dass Elversberg in der Saison 2008/09 in der neuen, viertklassigen Regionalliga West als klassenhöchster saarländischer Verein spielte. Im Jahr 2009 gewann der Verein zum ersten Mal den Saarlandpokal und traf in der ersten Runde des DFB-Pokals 2009/10 auf den SC Freiburg. Die SV Elversberg unterlag dem Bundesligaaufsteiger mit 0:2. Im Jahr 2010 konnte man den Saarlandpokal erneut gewinnen und traf in der ersten Hauptrunde des DFB-Pokals 2010/11 auf Hannover 96. Überraschend siegte Elversberg mit 5:4 nach Elfmeterschießen, nachdem es nach abgelaufener Verlängerung noch 0:0 gestanden hatte. Die SVE war damit für die zweite Runde qualifiziert, wo man mit dem 1. FC Nürnberg erneut auf einen Bundesligisten traf und 0:3 unterlag.
Am Ende der Saison 2012/13 wurde die Sportvereinigung hinter Hessen Kassel Vizemeister der Regionalliga Südwest und sicherte sich damit die Teilnahme an der Aufstiegsrunde zur 3. Fußball-Liga, wo sie in zwei Spielen gegen den Meister der Regionalliga Bayern, TSV 1860 München II antrat. Das Hinspiel wurde mit 3:2 gewonnen. Das für 2. Juni 2013 angesetzte Rückspiel wurde wegen Unbespielbarkeit des Platzes auf den 4. Juni 2013 verschobenen. Durch ein 1:1-Unentschieden gelang den Elversbergern in der Allianz Arena schließlich der Aufstieg in die 3. Liga. Dort belegte die SVE in der Folgesaison den 18. Tabellenplatz und stieg damit nach nur einer Saison wieder in die Regionalliga ab.
