Der in Duisburg geborene Rausch spielte von 1962 bis 1971 für den FC Schalke 04 und trainierte die Mannschaft von 1976 bis 1977, nachdem er zuvor bereits in der Jugend gearbeitet und als Co-Trainer fungiert hatte.
Auch seine Trainerlaufbahn begann Rausch bei den Königsblauen - zunächst als Jugendcoach, dann als Assistent von Max Merkel, den er im März 1976 als Chef ablöste. Ein gutes Jahr später schrammte er mit Schalke nur knapp am Meistertitel vorbei, als ein Punkt auf Borussia Mönchengladbach fehlte. Im Dezember 1977 wurde er nach einer Niederlagenserie entlassen.
Danach betreute Rausch unter anderem Eintracht Frankfurt, Borussia Mönchengladbach und den 1. FC Nürnberg in Deutschland sowie den FC Basel und den FC Luzern in der Schweiz. Zudem arbeitete er in der Türkei, Belgien, Griechenland und Österreich. Mit Kaiserslautern wurde er 1994 Vizemeister. Luzern bescherte Rausch 1989 den einzigen Schweizer Meistertitel. In der Stadt am Vierwaldstättersee lebte er zuletzt mit seiner Frau, in den vergangenen Jahren hatte er mit mehreren Krankheiten zu kämpfen. Rausch erlitt zwei Herzinfarkte und zwei Lungenembolien.