Gaviria fue alcalde de Medellín entre 1983 y 1984 y ministro de Obras Públicas desde 1990 hasta 1992. En el sector privado se destacó como presidente de Acerías Paz del Río, Uniban, gerente administrativo de Conconcreto, director de Planeación Económica de Enka de Colombia y rector de la universidad Eafit, a la cual renunció en 2003 para asumir la gerencia General de Empresas Públicas de Medellín (EPM), en la administración del alcalde Sergio Fajardo.	“En enero de 1996, Juan Felipe Gaviria Gutiérrez, ingeniero civil de la Universidad Nacional, fue nombrado como rector. Y, desde ese momento, propuso varias transformaciones, empezando por la aprobación de nuevos estatutos en el Consejo Superior.​ Entre otros logros de su rectoría están la creación de la Escuela de Ciencias y Humanidades y el impulso a la investigación con la inclusión de los grupos existentes en el escalafón creado por Colciencias; en el campo cultural los avances también fueron evidentes con la creación de la Orquesta Sinfónica y el Fondo Editorial”, reza en un perfil suyo publicado por la universidad antioqueña.