"På en nästan daglig basis, vi beskrivs det värsta hotet - vare sig det är till Nato som helhet, eller till Europa, Amerika eller andra länder," Mr Medvedev sade.
Han citerade Natohövdingen Jens Stoltenbergs tal och filmer som skildrade Rysslands start på ett kärnvapenkrig.
"Ibland undrar jag om detta är 2016 eller 1962," Mr Medvedev sade.
Det kalla kriget var en period av ideologisk konfrontation mellan det forna Sovjetunionen och västländerna. Det började efter andra världskriget och slutade med att det sovjetledda kommunistiska lägret kollapsade 1989.
De 45 år av spänningar präglades av spionage- och proxykrig som inbegrep klientstater - allt som ägde rum med den kunskap eller rädsla för den kärnvapenkatastrof som det verkliga kriget skulle medföra.
Nato-alliansen bildades 1949 för att skydda västländerna.
De sex viktigaste ögonblicken i det kalla kriget återupplevdes
Hur det kalla kriget slutade 1989
BBC News, kan du stoppa tredje världskriget?
Ryssland har nyligen utsatts för stark kritik mot sina flyganfall till stöd för Syriens president Bashar al-Assad och över sin roll i grannlandet Ukraina, som kulminerade med annekteringen av Krimhalvön 2014.
I en intervju med BBC vid samma konferens i München sade Stoltenberg att Ryssland hade bytt gränser med våld och blivit mer bestämt - och att Nato måste kunna reagera på hot.
"Vi befinner oss inte i en kallkrigssituation, men inte heller i det partnerskap som vi upprättade i slutet av det kalla kriget", sade Stoltenberg.
Han sade att Nato inte ville ha en upptrappning utan en förstärkt politisk dialog med Ryssland.
Tidigt denna månad sände BBC ett program med titeln tredje världskriget: Inuti krigsrummet, som föreställer sig ett hypotetiskt ryskt angrepp på sina baltiska grannar - Natomedlemmar - och kärnvapenkonfrontation.
Rysslands premiärminister Dmitry Medvedev har sagt att stammar mellan Ryssland och väst har drivit världen "in i ett nytt kallt krig".