Nello stesso anno, battendo in finale la stessa Dinamo Kiev per 2-1, vinse anche la Coppa dell'URSS, trofeo che si aggiudicò anche nel 1975 con lo stesso punteggio ma contro lo Zorja.
Il 1975 fu l'anno dei migliori risultati a livello europeo: la squadra armena partecipò alla Coppa dei Campioni per la prima volta e venne eliminata ai quarti di finale dai tedeschi del Bayern Monaco, che avrebbero poi vinto il torneo, e il suo centravanti, Ēdoward Margarov, vinse la classifica dei marcatori della competizione con 5 reti segnate assieme a Gerd Müller.
Nel 1976 l'Ararat concluse al secondo posto il campionato primaverile dell'URSS e il suo attaccante Arkadi Andreasyan vinse la classifica dei marcatori.
Negli anni successivi l'Ararat non riuscì a ripetere le ottime prestazioni ottenute nei primi anni settanta, ma mantenne posizioni di medio-bassa classifica, conservando comunque la categoria fino al 1991.