Su primer puesto como entrenador fue el del filial del Barcelona, el Barcelona B, en junio de 2007. El equipo jugaba en Tercera División. El 8 de mayo de 2008, el presidente Joan Laporta anunció que Guardiola se haría cargo del primer equipo para la temporada 2008-09, en sustitución de Frank Rijkaard. Firmó por dos temporadas el 5 de junio y días después se despidió del filial con su ascenso a Segunda B.

En su primera temporada, la 2008-09, el Barça firmó un récord histórico en la primera vuelta de Liga, con 50 puntos de 57 posibles, y su equipo le endosó 2-6 en la segunda al Real Madrid en el Bernabéu para finalizar con el título, el tercero de la campaña tras vencer al Ath. de Bilbao en la final de la Copa del Rey y al Manchester United en la Liga de Campeones.

Luego, el equipo sumó otros tres nuevo títulos hasta finalizar el año 2009: la Supercopa de España, de nuevo frente a los de San Mamés, la de Europa, contra el Shakhtar Donetsk ucranio, y el Mundial de Clubes, ante el Estudiantes de la Plata.

Con este palmarés estableció un récord inigualable, seis de seis. Guardiola fue elegido mejor entrenador del año por la Federación Internacional de Historia y Estadística del Fútbol (IFFHS), el equipo encabezó la clasificación de la IFFHS, seis de sus jugadores fueron incluidos en el equipo ideal de la UEFA (Alves, Puyol, Xavi, Iniesta, Messi e Ibrahimovich) y él su entrenador del conjunto.

En mayo de 2009, fue absuelto de dopaje en Italia por la Corte de Justicia Federal de la Federación Italiana de Fútbol, aunque el CONI persistió y reabrió la causa en julio. Pero el 29 de septiembre el Tribunal Nacional Antidopaje dio por cerrado el caso al no aceptar el recurso contra la sentencia absolutoria de Guardiola.

El 20 de enero de 2010 se anunció el compromiso del técnico de permanecer al menos un año más en el banquillo, aunque el contrato tendría que esperar hasta pasadas las elecciones en el club y que el nuevo presidente acuerde las condiciones con él.

El 8 de diciembre de 2011, los azulgranas sumaron un nuevo título al proclamarse campeón del Mundial de Clubes, después de derrotar en la final al Santos (4-0), en Yokohama. Días después, en enero de 2012 revalidó el galardón de mejor entrenador del mundo de la IFFHS y relevó a Mourinho como mejor entrenador de la FIFA de 2011.

En la temporada 2009-10, el equipo fue semifinalista de la Liga de Campeones frente al Inter de Mourinho y revalidó el título de campeón de la Liga española. El 21 de agosto se proclamó campeón de la Supercopa de España frente al Sevilla.

Tras las elecciones en las que llegó a la presidencia Sandro Rosell, el 14 de julio firmó contrato hasta junio de 2011. Luego, el 8 de febrero de 2011 se comprometió por un año más, hasta junio de 2012.

En la 2010-11, en 18 días se enfrentó en cuatro ocasiones al Real Madrid de Mourinho, con el que tuvo un cruce de duras declaraciones. Empató en Liga en el Bernabéu, perdió la final del Rey, pero eliminó a los blancos en las semifinales de la Liga de Campeones. Finalizó la campaña con su tercer título liguero y sumó su segunda Copa de Europa frente al Manchester United.

El Barcelona de Pep Guardiola derrotó al Real Madrid en unas semifinales con aroma a guerra en la Champions League y venció en la final al Manchester United.

El entrenador se despedirá el 25 de mayo tras la final de la Copa del Rey ante el Athletic en el Vicente Calderón. Será la posibilidad de levantar su título número 14 con el Barça.

Además de los títulos deportivos, el 25 de agosto de 1992 (tras el oro olímpico) el FC Barcelona le hizo entrega de la insignia de oro y brillantes del club. El 7 de julio de 1996 recibió la medalla de plata de la Federación Catalana de Fútbol, en mayo de 2010 la medalla de oro de la Real Orden del Mérito Deportivo y el 8 de septiembre de 2011 recibió la Medalla de Honor del Parlament catalán, su máxima distinción.
Es embajador de la candidatura electa de Catar al Mundial de fútbol de 2022