1996 wechselte er auf die Trainerbank und schloß sich 10 Jahre später als Co-Trainer der Nationalmannschaft an. Hier wurde er bei den Weltmeisterschaften 2006 und 2010 jeweils Dritter und beendete dort seine Karriere 2014 mit dem Gewinn der Weltmeisterschaft in Brasilien.
Im Sommer 2019 kehrte er auf die Trainerbank zurück und führte den FC Bayern München 2020 gleich mit dem Gewinn des Sextuples zum erfolgreichsten Jahr der Vereinsgeschichte. Nacheinander gewann er mit den Bayern die Deutsche Meisterschaft, den DFB-Pokal, die Champions League, den nationalen Supercup, den UEFA Supercup sowie die Klub-Weltmeisterschaft.
Nach der erfolgreichen Titelverteidigung in der Bundesliga 2021 verliess er den FC Bayern und übernahm die deutsche Nationalmannschaft nach dem Achtelfinal-Aus bei der EM 2021. Bei der folgenden WM 2022 in Katar reichte nach der Niederlage gegen Japan (1:2) und dem 1:1 gegen Spanien der Sieg im letzten Spiel gegen Costa Rica (4:2) nicht, um das Aus in der Vorrunde abzuwenden. Im September 2023 wurde seine Amtszeit vorzeitig beendet.
Unter Trainerlegende Matt Busby wurde er unter anderem mit Bobby Charlton und George Best 1965 und 1967 Englischer Meister. Im darauf folgenden Jahr gewann er zudem den Europapokal der Landesmeister durch einen 4:1-Sieg nach Verlängerung im Finale gegen Benfica Lissabon.
Zwischen 1958 und 1974 lief er 55 Mal für die schottische Nationalmannschaft auf. Mit seinen 30 Treffern ist er bis heute gemeinsam mit Kenny Dalglish (der allerdings 102 Spiele dafür benötigte) Rekordtorschütze Schottlands. Er beendete seine Nationalmannschaftskarriere nach der WM 1974 in Deutschland.