Van Marwijk had zich in 2004 in de kijker gewerkt bij Feyenoord, met wie hij in 2002 de UEFA Cup veroverde. Dat ging toevallig ten koste van Borussia Dortmund, dat in de finale in De Kuip met 3-2 aan het kortste eind trok.
In de periode dat Van Marwijk bij Dortmund tekende, was de club nog niet zo succesvol als in de afgelopen vijf jaar, toen er onder Jürgen Klopp tweemaal beslag werd gelegd op de Duitse landstitel en bovendien de Champions League-finale werd bereikt.
Van Marwijk kreeg al snel te horen dat Dortmund met financiële problemen kampte en daardoor weinig kon uitrichten op de transfermarkt. In zijn eerste seizoen eindigde de club onder de Nederlandse coach op de zevende plaats in de Bundesliga. Daarmee wist het zich niet te plaatsen voor Europees voetbal. In de DFB Pokal, de Duitse beker, eindigde het avontuur in de achtste finales. 
Van Marwijk had in die periode de beschikking over een redelijk elftal. Spelers als Christian Wörns, Sebastian Kehl, Steven Pienaar en Alexander Frei golden als belangrijke namen. Met Ebi Smolarek had de coach een oude bekende in huis. De twee werkten eerder samen bij Feyenoord.
Ook in het tweede seizoen van Van Marwijk slaagde Dortmund er niet in om Europees voetbal af te dwingen en eindigde ploeg opnieuw als zevende. Het dieptepunt vond plaats in de eerste ronde van de DFB Pokal, toen Eintracht Braunschweig (toen nog derdeklasser) voor een stunt zorgde door de ploeg uit te schakelen.
Hoewel het bestuur zijn vertrouwen uitsprak in Van Marwijk, zou het derde seizoen van de Nederlander slechts enkele maanden duren. Na een nieuwe, snelle bekeruitschakeling en teleurstellende resultaten in de competitie werd Van Marwijk op 18 december 2006 op straat gezet.
