Clive Weatherhoggs advokat berättade överklaga domare att åklagare nu medgav att det hade skett ett missfall av rättvisa över tvång anklagelse.
Överprövningsdomare var också överens om att en jury var felriktad över anklagelser som gällde de bilder som skickats till släktingar.
Mr Weatherhogg, 43, fängslades i maj förra året efter att ha befunnits skyldig av en jury.
Man har förstått att han nu kommer att bli frisläppt från fängelset.
Sheriff George Way hade överfört fallet från Dundee Sheriff Court till Högsta domstolen i Edinburgh för att behandlas på grund av dess större dömande befogenheter.
Försvarsadvokaten Shelagh McCall QC berättade för Criminal Appeal Court i Edinburgh att kronan medgav att det inte fanns tillräckliga bevis för att bevisa brist på samtycke till tvångsanklagelsen.
Lord Justice Clerk, Lady Dorrian, som hörde vädjan med Lady Paton och Lord Turnbull, sade: "Vi är nöjda koncessionen är välgjord."
Lord Turnbull sade att den information som förmedlades till domstolen verkade visa att även vid ett tidigare förberedande märkningsstadium i fallet fanns det oro över bristen på bekräftelse.
Lady Dorrian sade att överklagandedomarna också var nöjda med att de missriktade inriktningar som sheriff Way gav till jurymedlemmarna över anklagelserna om de bilder som skickades till släktingar var "materiella och utgjorde ett justitiemord".
Mr Weatherhogg, från Guthrie, nära Forfar, Angus, hade nekat till anklagelserna under rättegången, men medgav en separat anklagelse om att ladda upp filmen till internet.
Han satt i fängelse i fyra år av Lady Wolffe med ytterligare 18 månader för åtalet han erkände.
Förhöret om överklagandet meddelades att Weatherhogg hade suttit häktad sedan mars förra året och avtjänat 18 månaders fängelse, med beaktande av bestämmelserna om förtida frigivning.
En man som suttit fängslad i sex år för att ha tvingat en kvinna att ha sex med en främling och skickat "hämndporr" till sin familj har fått fällande domar krossade.