Gallardo inició su carrera como técnico en Nacional, de Uruguay, club donde se retiró como futbolista en la temporada 2010/2011.

En el club uruguayo dirigió 39 encuentros y ganó un título (Campeonato Uruguayo 2011-2012), con 23 victorias, 7 empates y 9 derrotas.

Su segunda experiencia la hizo en River Plate, desde el 6 de junio de 2014, en reemplazo de Ramón Díaz, quien renunció de forma sorpresiva a su cargo.

El "Muñeco" cumplió el sueño de dirigir al equipo donde se formó como jugador y con el paso del tiempo se convirtió en el entrenador más ganador de la institución con 14 títulos: Copa Sudamericana (2014); Copa Libertadores (2015 y 2018); Suruga Bank (2015); Recopa Sudamericana (2015, 2016 y 2019); Copa Argentina (2016, 2017 y 2019); Supercopa Argentina (2018 y 2021); Liga Profesional de Fútbol (2021); Trofeo de Campeones (2021).

El ex volante del seleccionado argentino dirigió a River en 411 ocasiones, con 221 triunfos, 109 empates y 81 derrotas.