John Ross begann seine Karriere im Leistungssport als Trampolinturner. Größter Erfolg des vierfachen kanadischen Meisters war der Gewinn der Bronzemedaille im Einzel bei den Weltmeisterschaften 1982 in Bozeman.
Nachdem er die Sportart gewechselt hatte, gab Ross im Dezember 1986 im Alter von 25 Jahren sein Debüt im Freestyle-Skiing-Weltcup. Von Januar bis März 1988 gelangen ihm seine ersten vier Platzierungen unter den besten zehn, darunter ein fünfter Rang. Neun Monate danach belegte er als Zweiter in La Plagne seinen ersten Podestplatz und feierte bereits im nächsten Springen am Mont Gabriel den ersten und einzigen Weltcupsieg seiner Laufbahn. Bei den Weltmeisterschaften am Oberjoch wurde er Zwölfter. 1989/90 hatte Ross seine stärkste Weltcup-Saison. In acht Springen war er nie schlechter klassiert als Achter und schaffte einen zweiten und zwei dritte Ränge. Damit erreichte er als Vierter der Aerials-Disziplinenwertung ein Karrierehoch. Sein größter Erfolg als Skisportler gelang ihm ein Jahr später im Rahmen der Weltmeisterschaften von Lake Placid, wo er hinter Landsmann Philippe Laroche die Silbermedaille gewann. Für Olympische Winterspiele konnte sich Ross aufgrund der starken teaminternen Konkurrenz nie qualifizieren. In den letzten beiden Wintern seiner Karriere schaffte er noch fünf Top-10-Plätze, ehe er Ende Februar 1993 seinen letzten Weltcup bestritt.