Mendy se formó en la cantera del Le Havre, en cuyo primer equipo debutó en 2015. En la temporada 2016/17 fue elegido mejor lateral izquierdo de la Ligue 2, lo que le catapultó al Olympique de Lyon, al que llegó en el verano de 2017 y en el que ha jugado los dos últimos años.