Heinrich Boere, som sitter i rullstol, fördes med ambulans från sitt sjukhem i Tyskland till ett fängelsesjukhus.
Han dömdes i mars 2010 efter att ha erkänt morden.
En tysk domstol avslog ett överklagande mot hans fängelsestraff och en medicinsk expert sade att han var lämplig att avtjäna sitt straff vid en "lämplig" anläggning.
Under rättegången hade Boere erkänt morden 1944, men sade att han hade handlat på order av sina överordnade.
Han sköt ihjäl Fritz Bicknese, kemist och far till 12; Frans Kusters, en holländsk motståndsmedlem som ägde en cykelaffär; och Teun de Groot, som hjälpte judar att gömma sig.
Boere hävdade att han riskerade att skickas till ett koncentrationsläger om han vägrade att utföra skottlossningen.
– Jag agerade aldrig 1944 med känslan av att jag begick ett brott, berättade han för domstolen under rättegången, men tillade att han 65 år senare såg saker ur ett annat perspektiv.
Domaren Gerd Nohl sa att alla tre morden hade utförts "på helt slumpmässiga grunder" och utgjorde mord.
Boere föddes i Tyskland av en nederländsk far och en tysk mor men växte upp i den nederländska staden Maastricht.
Han anslöt sig till Waffen SS när nazisterna övervann hans hemstad 1940.
1947 flydde han från en krigsfånge i Nederländerna och återvände till Tyskland.
En domstol i Amsterdam dömde honom till döden för morden i hans frånvaro 1949, men detta omvandlades senare till livstids fängelse.
Han utlämnades aldrig och en tysk domstol fastslog på 1980-talet att den nederländska rättegången hade varit orättvis eftersom Boere inte hade varit närvarande.
I april 2008, mer än 60 år efter morden, åtalades han i Tyskland.
Efter juridiska argument om huruvida han var tillräckligt bra för att ställas inför rätta dömdes han till slut förra året.
En 90-årig man har börjat ett livstidsstraff för att ha skjutit ihjäl tre holländska civila när han var medlem i en nazistisk SS-styrka under andra världskriget.