Tony Rominger, který byl pro své skromné a uvážlivé vystupování přezdíván v pelotonu „Myš“, se narodil v dánském Vejle v roce 1961. Jeho matka byla Dánka a otec Švýcar. Ještě jako dítě se s rodiči přestěhoval do Švýcarska. Vystudoval ekonomickou školu a pracoval jako účetní. S cyklistikou začal poměrně pozdě, když do světa velké cyklistiky nakoukl až ve čtyřiadvaceti letech.
Začínal v malém švýcarském týmu Cilo, ale v roce 1987 přestoupil do italského Chateau d´Ax, kde se potkal např. s Milanem Jurčem, Franceskem Moserem nebo Gianni Bugnem. Následující rok startoval na své první Tour de France, kde v celkovém pořadí figuroval na bezvýznamném 68. místě, ale zaujal skvělými výkony v časovkách, když bral 3. a 2. místo. Hlavně v té předposlední etapě prokázal, že i po třech týdnech těžkého závodění dokáže porazit největší hvězdy té doby. V následujících letech se mu dařilo vyhrávat menší týdenní etapáky, které většinou rozhodoval v časovkách a v horách neměl problém svůj náskok uhájit. Dařilo se mu převážně na jaře a na podzim. Velká horka v kombinaci s alergiemi a astmatem ho omezovala v letních měsících. Možná právě proto nedokázal porazit Miguela Induraina na Tour de France.
Vuelta Espańa, ještě v jarním termínu, byla jeho závodem. Do roku 1994 se španělská Grand tour jezdila na přelomu dubna a května ještě před Giro d´Italia. A bylo to právě v letech 1992 až 1994, kdy Tony Rominger Vueltu ovládl a stal se v té době rekordmanem. Ve stylu závodění byl velmi podobný Indurainovi. Dokázal dominovat v časovkách, ve kterých najel na konkurenty mnoho času a v horách neztrácel tolik na specialisty vrchaře. Byl velmi inteligentní závodník a dokázal si vždy vše dopředu naplánovat a svůj plán dodržovat. V roce 1993, kdy slavil druhé vítězství na Vueltě, kde navíc ovládl všechny soutěže, přijel s nejvyššími ambicemi na Tour de France, kde chtěl narušit nadvládu španělského „boha“ Miguela Induraina. Do Francie přijel skvěle připravený, možná měl překvapivě i lepší formu než Španěl. Vyhrál dvě horské etapy a dokonce porazil Induraina v poslední časovce. Ale stále to bylo málo. Indurain měl kolem sebe komplexnější a vyrovnanější tým a v horách si Švýcara pohlídal. Rominger skončil celkově na druhém místě a navíc ovládl vrchařskou soutěž.
V roce 1995, kdy už jezdil za tým Mapei dominoval na italské Grand tour, kde vyhrál čtyři etapy a k Maglia Rosa přidal i vítězství v bodovací soutěži. S výhrou na Giru v kapse se opět pokusil svrhnout Induraina z trůnu na Tour, ale krátký časový úsek na odpočinek mezi oběma závody byl velkou překážkou. Nakonec z toho bylo osmé místo celkově se sedmnáctiminutovou ztrátou. Porazit Induraina na Tour se mu podařilo až v roce 1996, když skončil na desátém místě jednu pozici před pětinásobným vítězem, který díky nemoci ukončil své kralování na Staré dámě. V roce 1996 se ještě jednou vrátil na Vueltu, která se jela v podzimním termínu. Ovládl vrchařskou soutěž, vyhrál obě časovky toho ročníku a celkově skončil třetí. V celkové klasifikaci se udála věc nevídaná, když celkové pořadí ovládli tři Švýcaři. Vítěz Alex Zülle, druhý Laurent Dufaux a třetí Tony Rominger.
Tony chtěl svou kariéru ukončit v týmu Mapei, ale nakonec přišlo velké překvapení, když přestoupil do týmu Cofidis. Francouzský tým narychlo hledal náhradu za nemocného Lance Armstronga, kterému byla diagnostikována rakovina. V tomto roce už to bylo spíše takové paběrkování a na konci roku 1997 se rozloučil s velmi úspěšnou kariérou. Dokázal ovládnout třikrát Vueltu, jednou Giro. Na Grand tours vyhrál celkem 25 etap. Dvakrát vyhrál Lombardii a dvakrát během 14ti dnů posunul v roce 1994 rekord v hodinovce.