Rousseau bol pevnou súčasťou tímu Canadiens v najslávnejšom období klubu, ktorého farby aktuálne háji aj Juraj Slafkovský. V roku 1962 získal Calderovu trofej pre najlepšieho nováčika sezóny, bol známy ako rýchly korčuliar a kreatívny hráč s tvrdou strelou.
V NHL odohral 942 zápasov základnej časti, prvých 643 za Montreal (1960 až 1970), potom 63 za Minnesotu North Stars (1970 až 1971) a napokon nastúpil na 236 duelov za New York Rangers (1971 až 1974). V priebehu 15 sezón zaznamenal 703 bodov za 245 gólov a 458 asistencií.
Najpamätnejší duel odohral 1. februára 1964, keď strelil v domácom súboji proti Detroitu Red Wings päť gólov a prispel k víťazstvu 9:3. Rousseau je jedným z deviatich Kanaďanov, ktorí zaznamenali minimálne päť presných zásahov v jednom stretnutí NHL.