Ancien milieu de terrain (notamment à l'Ajax Amsterdam et au Sparta Rotterdam), il est devenu un très bon entraîneur qui a révélé de nombreux internationaux néerlandais tels Patrick Kluivert , Marc Overmars , les frères Frank et Ronald De Boer , Edgar Davids , Michael Reiziger et Edwin Van der Sar . Il a notamment entraîné l'Ajax d'Amsterdam de 1988 à 1997 (champion des Pays-Bas de 1994 à 1996, vainqueur de la Coupe d'Europe des Champions, de la Supercoupe d'Europe et de la Coupe Intercontinentale en 1995, de la Coupe de l'UEFA en 1992 et de la coupe des Pays-Bas en 1993). Champion d'Espagne en 1998 et 1999, vainqueur de la Coupe d'Espagne en 1998 et de la Supercoupe d'Europe en 1997 avec le FC Barcelone. En 2009, il a conquis son 4eme titre de champion des Pays-Bas avec AZ Alkmaar. Il a été l'entraîneur du Bayern Munich, avec qui il a remporté le championnat et la Coupe d'Allemagne en 2010 (finaliste de la Ligue des champions en 2010). Vainqueur de la coupe d'Angleterre avec Manchester United en 2016. Sélectionneur de l'équipe des Pays-Bas de 2000 à 2001 et de 2012 à 2014 puis une nouvelle fois fin 2021, il termina 3eme de la Coupe du monde avec les Oranje en 2014 (non-quailifié en 2002, sa grosse désillussion). Il est l'un des rares entraîneurs au monde à avoir remporté le doublé championnat/coupe dans trois pays différents (Pays-Bas, Espagne et Allemagne). Surnommé la "tulipe de fer" à cause de son comportement autoritaire, il a annoncé sa retraite en janvier 2017 à 67 ans après avoir dirigé 336 matchs de Championnat des Pays-Bas, 133 de Liga, 63 de Bundesliga, 76 de Premier League et 95 de Ligue des champions. Après un retraite de cinq ans et ayant vaincu un cancer un cancer de la prostate, il a été rappelé en été 2021 pour diriger l'équipe des Pays-Bas pour la Coupe du monde 2022 (quart de finaliste). Il quitte son poste d'entraîneur après la défaite des Oranje.