In 1956 nam Rollins zijn meest geprezen album op: "Saxophone Colossus". Gedurende zijn carrière werkte hij samen met grootheden als Miles Davis, Coleman Hawkins en John Coltrane. Het tijdschrift Downbeat noemde hem ooit het grootste jazztalent van de Verenigde Staten.
Rollins overleed in zijn huis in Woodstock, New York. De doodsoorzaak is niet bekend. Voor Nederlandse fans was zijn laatste optreden in juli 2010 tijdens het North Sea Jazz-festival in Rotterdam. Zijn invloed op de jazz blijft zichtbaar in talloze muzikale generaties.