Den nionde amerikanska Circuit Court of Appeals sade att det inte skulle blockera ett lägre domstolsbeslut som stoppade beslutet.
Trump svarade med en arg tweet säger nationell säkerhet var i fara och det skulle finnas en rättslig utmaning.
Men den 3-0 enhälliga domen sade att regeringen inte hade bevisat terrorhotet motiverat återuppliva förbudet.
Härskandet innebär att människor från Iran, Irak, Libyen, Somalia, Sudan, Syrien och Jemen med visum kan fortsätta att resa in i USA.
Och flyktingar från hela världen, som också var föremål för ett tillfälligt förbud, är inte heller längre blockerade.
Fallet kommer nu sannolikt att hamna i högsta domstolen, USA:s högsta domstol.
De avvisade Justitiedepartementets argument att presidenten var ensam om att fastställa invandringspolitiken.
Domstolen sade också att det fanns "inga bevis för att någon främling från något av de länder som namngavs i ordningen" hade begått en terrorattack i USA.
De sa att båda sidor hade gjort övertygande fall.
"Å ena sidan har allmänheten ett stort intresse för nationell säkerhet och en vald presidents förmåga att genomföra politik.
"Och å andra sidan har allmänheten också ett intresse av fritt flöde av resor, av att undvika separation av familjer och av frihet från diskriminering."
Men de sa att lagen berövade utländska ankomster deras rättigheter enligt konstitutionen.
Trump svarade på utslaget genom att twittra hans meningsskiljaktigheter, och gav sedan ett ljud uttalande som säger att det var ett politiskt beslut.
Justitiedepartementet, som gjorde framställningar till appellationsdomstolen på Vita husets vägnar, sade i ett uttalande att det var "översyn av beslutet och överväga sina alternativ".
Washingtons statsåklagare Bob Ferguson, som hade stämt över förbudet, sa att det var en fullständig seger för staten.
New York City Mayor Bill De Blasio sade: "Här i New York - den säkraste storstaden i Amerika - kommer vi alltid att skydda våra grannar, oavsett var de kom ifrån eller när de kom hit. Det är våra värderingar."
Donald Trumps advokater gjorde inte sitt mål. Enligt tre domare i Nionde Kretsen försökte de faktiskt inte ens framföra sitt fall. I stället för att förklara varför det tillfälliga reseförbudet behövdes hävdade administrationen att presidentens behörighet i invandringsfrågor var så omfattande att de inte behövde förklara varför ordern var nödvändig.
Enligt domstolen kunde regeringen inte säga varför Mr Trumps förbud riktade ett trängande nationellt säkerhetshot att en tillfällig vistelse av ordern skulle förvärras. Advokaterna för de utmanande staterna, å andra sidan, övertygade domarna om att ett återinförande av ordern i detta skede skulle skapa ytterligare kaos genom att inkräkta på rätt process rättigheter för dem på amerikansk mark, oavsett deras invandringsstatus.
Genom att avge ett enhälligt, osignerat yttrande undviker domarna anklagelser om partisk partiskhet, eftersom en av de tre var republikaner.
Mr Trump twittrade en skarp "Se dig i domstolen" efter beslutet - men vilken domstol?
Ett överklagande till Högsta domstolen verkar troligt, även om ett bättre drag för presidenten kan vara att kämpa i den lägre domstolen tills domare Neil Gorsuch ansluter sig till en konservativ majoritet på bänken.
Den verkställande ordningen, i slutet av Mr Trumps första vecka i ämbetet, hade väckt protester och förvirring eftersom människor stoppades vid USA:s gränser.
En vecka senare utfärdade en federal domare i Seattle ett tillfälligt besöksförbud som stoppade förbudet i dess spår, efter det att staten Washington och Minnesota stämde.
Justitiedepartementet vädjade till den 9:e kretsen i San Francisco, som hörde muntliga argument denna vecka.
Advokater som företräder den amerikanska regeringen hävdade att förbudet var ett "lagligt utövande" av presidentens auktoritet.
Men de två amerikanska staterna sade att förbudet hade skadat universiteten i deras stater och diskriminerat muslimer.
Domarna i målet vid den nationella domstolen prövade inte frågan om lagens konstitutionella karaktär eller om dess förtjänster, utan bara om frågan om dess återinförande.
Den lägre domstolen i Seattle måste fortfarande diskutera sina meriter och det finns andra rättsliga utmaningar i hela landet.
En amerikansk appellationsdomstol har avvisat president Donald Trumps försök att återinföra hans förbud mot besökare från sju huvudsakligen muslimska länder.