Yankovic disse che convertire queste canzoni in polka era «il modo in cui Dio intendeva quelle canzoni».
Yankovic non incluse un medley nel suo primo album, ma lo incluse nel suo secondo album, In 3-D, riconoscendo che avrebbe funzionato solo se avesse usato canzoni famose.
Il risultato "Polkas on 45", che conteneva brani di Devo, Deep Purple, Berlin e The Beatles, divenne popolare, e il medley polka divenne un punto fermo di tutti i futuri album di Yankovic tranne uno.
Yankovic ha contribuito con canzoni originali a diversi film ("This Is the Life" di Johnny Dangerously;