Nitton sjömän dödades och ytterligare 30 skadades när jagaren av typ 42 träffades direkt under Falklandskriget den 25 maj 1982.
Eftersom fartyget sjönk på bara 20 minuter, tog det med sig många dokument och utrustning som var "av betydelse för säkerheten i Förenade kungariket", sade Clive Gale.
Han var en del av ett 39-starkt Royal Navy team som genomförde ett antal dyk på sjunkna fartyg, inklusive HMS Coventry, under en fyramånadersperiod som börjar på hösten 1982.
Han påminde sig HMS Coventry - sökandet och sade: " Vi var mycket medvetna om att vi dök på en krigsgrav och de offer som sjönk med fartyget.
"Vi besökte faktiskt deras grav och det stannar hos dig."
Att utföra Operation Blackleg var ett fysiskt krävande och farligt uppdrag för de inblandade, med några dyk som varade i upp till åtta timmar.
"Vi var 8.000 miles från någon form av räddningsanläggning," Mr Gale tillade.
"Det fanns fortfarande fientligheter med Argentina och att kapa det allt det fanns en 500lb (227kg) oexploderad bomb i vraket någonstans.
"Hela uppdraget var fullt av nära missar.
"Att skära in i en stålstruktur under vattnet fångar syre och om man träffar den med en gnista exploderar den ganska våldsamt.
"En kille tappade framplåten ur hjälmen och drunknade nästan.
"Jag slogs medvetslös och fick dras tillbaka in i klockan av en kollega till mig."
Gale medger att uppdraget, 300ft (91m) under havets yta, var att "återupptäcka eller förstöra vissa föremål".
Men vissa saker som kom tillbaka från HMS Coventry, som spikkorset, fanns inte med på den officiella listan.
"Jag tog av den stora mässing plakett medan någon annan hittade klockan och korset av naglar hittades", fortsatte han.
"Alla dessa saker som verkligen var personliga för fartyget företaget presenterades sedan för Coventry Cathedral efter att vi hade avslutat jobbet."
En dykare som genomsökte vraket HMS Coventry efter att det sänktes under Falklandsöarna har beskrivit hur han blev tillsagd att se till att hemlig information från fartyget inte hamnade i fel händer.