På längre sikt kan den genomsnittliga kostnaden för hushållen uppgå till 6400 pund, enligt Centrum för ekonomiskt resultat.
Det sägs att en minskning av handeln skulle kosta ekonomin "mycket mer" än vad som skulle uppnås genom lägre EU-bidrag.
Men Voice Leave beskrev påståendena som "ridiculous" och saknade "trovärdighet".
Centre for Economic Performance (CEP) är en tankesmedja baserad på London School of Economics.
När CEP drar sina slutsatser utgår man från att ungefär hälften av Storbritanniens handel är med EU och att Storbritannien som medlem i EU drar nytta av att det finns färre handelshinder.
Det står att Storbritannien efter Brexit skulle göra mindre handel med EU eftersom det skulle bli högre tullar på varor. Men det skulle också finnas andra icke-tariffära handelshinder, såsom att brittiska exportörer till EU måste bevisa att deras varor tillverkades i Förenade kungariket.
På längre sikt skulle Förenade kungariket också dra mindre nytta av den framtida marknadsintegrationen inom EU.
Enligt forskarna förhandlar Storbritannien i bästa fall om ett avtal med EU som liknar Norges.
Norge är medlem i Europeiska ekonomiska samarbetsområdet och har ett frihandelsavtal med EU, så det finns inga tullar på handel mellan de två.
Det finns dock vissa icke-tariffära handelshinder. Efter att ha dragit av de besparingar som Förenade kungariket skulle göra inte längre behöver göra bidrag till EU:s budget, säger forskarna att det skulle bli en minskning av Förenade kungarikets inkomster med 1,3 procent - vilket motsvarar 850 pund per år per hushåll.
Analys: Anthony Reuben, BBC Reality Check
Problemet är att alla sådana förutsägelser innebär att man gör stora antaganden om vad som skulle hända om Storbritannien lämnade EU.
Slutsatserna är ytterst känsliga för sådana antaganden. Till exempel fördubblas förlusterna om man går från "optimistisk" till "pessimistisk" slutsats om vilken typ av handelsavtal en post-Brexit UK skulle nå med EU.
Läs mer här: Skulle Brexit kosta varje hushåll £850?
I värsta fall utgår forskarna från att Storbritannien inte kan förhandla fram ett nytt handelsavtal med EU, och all handel mellan Storbritannien och EU styrs av Världshandelsorganisationens regler. Detta säger de skulle innebära större ökningar av handelskostnaderna.
Det skulle innebära en minskning av Förenade kungarikets inkomster på 2,6 procent - eller 1 700 pund per hushåll, enligt CEP.
– I det optimistiska scenariot där inkomsterna krymper med bara 1,3 procent skulle vi - precis som Norge och Schweiz - behöva betala in i EU:s budget och acceptera EU-bestämmelser som vi inte hade något att säga till om när vi beslutade, säger Thomas Sampson, en av författarna till rapporten.
"Vad mer skulle det fortfarande finnas fri arbetskraftsinvandring.
"Med tanke på politiken gör detta det pessimistiska resultatet mer sannolikt", tillägger han.
På längre sikt säger rapporten att den minskning av handeln som Storbritannien upplever utanför EU skulle minska produktiviteten. Detta skulle innebära en minskning av BNP med mellan 6,3 %, eller 4,200 pund per hushåll, och 9,5 % eller 6400 pund per hushåll.
CEP:s slutsatser har dock hårt motbevisats av Leave-kampanjanterna.
"Dessa löjliga påståenden saknar trovärdighet eftersom de kommer från samma ekonomiska vise som sade att vi skulle vara bättre än att skrota pundet", sade den verkställande direktören för Voice Leave, Matthew Elliott.
Bland de punkter som är föremål för omröstning är antagandet i betänkandet att handeln skulle minska till följd av att man lämnar EU. Det står att det är fel.
"De viktigaste påståendena grundar sig på att man lämnar EU "minskar handeln". Till och med EU-vänliga förespråkare medger att Storbritannien skulle ha små svårigheter att träffa ett frihandelsavtal med EU efter tillbakadragandet, "det fortsätter.
Det sägs att antagandena om icke-tariffära handelshinder i rapporten var "extremt pessimistiska".
Det attackerar också CEP för att ha fått finansiering från Europeiska kommissionen. CEP säger att mindre än en tiondel av dess inkomster kommer från den källan.
Tidigare i fredags berättade medgrundaren av börsmäklaren Hargreaves Lansdown för BBC att "okända" av att lämna EU kunde bidra till att stimulera Storbritannien".
Peter Hargreaves, som stöder Storbritanniens utträde ur facket, berättade för BBC Radio 4's Today-programmet att en nystart kunde hjälpa Storbritannien att förnya sig.
Han sade att efterfrågan på brittiskt mode och bilar, liksom Storbritanniens attraktionskraft som marknad för EU, skulle garantera goda handelsavtal.
Om Storbritannien lämnar Europeiska unionen kan de brittiska hushållen i genomsnitt hamna så mycket som 700 pund om året sämre, har en tankesmedja sagt.