FC Twente (1999-2001 en 2006-2008)
In de eerste periode van Fred Rutten als trainer was FC Twente in opbouw. In die periode waren de Tukkers actief in de middenmoot. Het hoogtepunt was de bekerwinst in het seizoen 2000/01. Rutten vertrok na de zege van de KNVB-beker.
Na vijf jaar bij PSV (waar hij assistent-trainer en hoofd opleidingen was) keerde Rutten terug in Enschede. Met de Wijchenaar aan het roer eindigde FC Twente in het seizoen 2006/07 op de vierde plaats en een seizoen later op de tweede plaats, achter landskampioen PSV. De goede resultaten leverde Rutten een transfer op naar Schalke 04.
Schalke 04 (2008-2009)
In de zomer van 2008 ging de coach aan de slag in Gelsenkirchen. Het avontuur in Duitsland liep niet goed af. Op 26 maart 2009 werd Rutten aan de kant gezet. Die Königsblauen kwamen niet verder dan de achtste plaats in de Bundesliga.
PSV (2009-2012)
Nadat hij jaren onder vleugels van Guus Hiddink assistent was bij PSV, mocht Rutten vanaf de zomer van 2009 op eigen benen staan in Eindhoven. Volgens veel kenners had de coach de op dat moment sterkste selectie van de Eredivisie tot zijn beschikking. In de zomer van 2011 gaf PSV meer dan twintig miljoen euro uit aan nieuwe spelers. Niet verwonderlijk dat er veel kritiek ontstond op het functioneren van Rutten. PSV eindigde onder zijn leiding drie jaar op rij op de derde plaats. In maart 2012 werd Rutten aan de kant gezet en opgevolgd door Phillip Cocu.
Vitesse (2012-2013)
Na een paar maanden rust dook Rutten op bij Vitesse. Hij moest de Arnhemmers helpen bij hun plan om de top van de Eredivisie te bestormen. Rutten en eigenaar Merab Jordania zaten een paar maanden op één lijn, maar rond de winterstop bleven de gewenste versterkingen van de coach uit. Vitesse was lange tijd een kandidaat voor de titel, maar eindigde op de vierde plek. Rutten vertrok in de zomer omdat hij en de Arnhemse clubleiding niet dezelfde visie deelden.
Feyenoord (2014-nu)
Bij Feyenoord waren de verwachtingen niet hooggespannen toen Rutten succestrainer Ronald Koeman verving. De Rotterdammers zagen de nodige basisspelers vertrekken. Rutten kende een zware start, maar Feyenoord ontpopte zich in de eerste seizoenshelft tot een serieuze titelkandidaat. Rutten stelt na de nederlaag dat de titelrace voor Feyenoord al is beslist na het gelijkspel tegen Ajax.
"Er zijn nog 45 punten te verdienen', zegt trainer Fred Rutten vrijdag op een persconferentie. "Daar gaan we voor. Meespelen om de titel, is onmogelijk, doordat PSV en Ajax ongelooflijk veel punten pakken in vergelijking met vorig jaar. We moeten dat accepteren en gewoon de eerst volgende wedstrijd winnen, om zo hoog mogelijk te eindigen."