Im Weltcup gelangen Gruber in der Saison 1996/1997 mit einem zweiten und einem dritten Platz in Toblach die ersten Podestplätze. Im Gesamtweltcup erzielte er damit punktegleich mit dem Österreicher Gerhard Pilz den sechsten Rang. In der Saison 1997/1998 sicherte sich Gruber mit drei Siegen in Kronplatz, Oberperfuss und Železniki und einem zweiten Platz in Mölten zum ersten Mal den Sieg im Gesamtweltcup. Diesen Erfolg konnte er in der Saison 1998/1999 mit zwei Siegen in Tiers und Aurach sowie zwei zweiten und einem dritten Platz wiederholen. Gruber gewann die Gesamtwertung vor seinem punktegleichen Landsmann Anton Blasbichler, der ebenfalls zwei Siege, zwei zweite und einen dritten Platz erzielte, dank seines besseren Streichresultates (fünfter Platz im ersten Saisonrennen gegenüber einem siebenten Platz von Blasbichler).
In der Saison 1999/2000 bestritt Gruber nur zwei Weltcuprennen, weshalb er auf den 21. Gesamtrang zurückfiel. Am 14. Januar 2001 feierte er in Lüsen seinen sechsten und letzten Weltcupsieg, nachdem er eine Woche zuvor, zeitgleich mit dem Österreicher Ferdinand Hirzegger, den dritten Platz beim Weltcup in Unterammergau erzielt hatte. Im Gesamtweltcup erreichte er in der Saison 2000/2001 mit weiteren zwei Top-10-Resultaten den sechsten Platz. In der Saison 2001/2002 bestritt er seine letzten beiden Weltcuprennen, kam dabei aber nicht mehr unter die besten zehn.