Wellington Zoo sa att Lanky hade artrit och hade kämpat för att försörja sin egen vikt. Han hade slutat äta eller tagit sin medicin.
Han avlivades "för sitt bästa", sade djurparken i ett uttalande på måndag.
En australiensisk pelikan, Lanky, var den längsta levande invånare i Wellington Zoo, som anlände dit 1978.
"Lanky hade regelbundna läkarundersökningar och vi kunde hantera artrit i hans anklar med smärtlindring och anti-inflammationer, men hans hälta ökade under de senaste månaderna," sade djurparken.
Hans senaste vägran att äta var i kontrast till hans aptit i bättre dagar, när han konsumerade ett kilo fisk per dag, ibland "smyga mat från sina grannar" i hans favorit hemsökelse Monkey Island, sade Senior Keeper Phil Wisker.
Pelikaner från Australien dyker ibland ner i Nya Zeeland, men Lanky var den enda permanent i landet.
Han kom ursprungligen till Wellington från Adelaide Zoo i Australien, efter att ha räddats med tre andra vilda pelikaner från en lokal torka, sade djurparken.
"Alla vi här på Zoo är ledsna att se Lanky gå, eftersom han har varit en riktig karaktär och mycket älskad av alla som har tagit hand om honom under de senaste årtiondena," sade det.
Nya Zeelands enda bofasta pelikan har avlivats efter att ha bott på Wellington Zoo i nästan 40 år.