Rees säger att de kände att det var "inget drama" som släpade 14-7 på halvtid.
Men nederlaget lämnade Ospreys - och Walesisk regional rugby - utan en top-tier knockout plats sedan 2010.
Och när de följer i Pro12, erkände kapten Alun Wyn Jones Ospreys står inför en tuff uppgift att göra 2016-17 turneringen.
De är för närvarande sjunde i Pro12 tabellen, fyra poäng bakom Ulster, som upptar den sjätte och sista Champions Cup kvalificering plats.
Wales Lock Jones sade: "Vi måste nu fokusera på en tuff Six Nations period eftersom vi för närvarande inte är i stånd att spela i denna tävling i år."
Hanno Dirksen korsade i öppningsperioden mot Exeter och Ospreys fick ett straffförsök som gav dem sent hopp.
Men två försök för Thomas Waldrom och James Short förutom Kai Horstmanns öppnare såg av besökarna.
Rees sade Ospreys kände "ren besvikelse" över att inte ta tillfället i akt att göra framsteg mot den andra plats laget i Aviva Premiership.
"Vi talade på halvtid att det inte fanns något drama, vi kunde bygga oss in i spelet och skapa lite tryck utan att överdriva det mot Exeter," sade Rees.
"Och jag tror att vi gjorde det i början av andra halvan, även i slutet när vi var 26-17 ner. Om vi kan förneka deras arbete i 22 du kommer att få en ny chans och som potentiellt tar dig igenom.
"Vi visste allt det där. Al [Jones] fick meddelanden - han var ganska tydlig, men det är överflödigt ändå. "
Jones sade: " Det var inte den idealiska början. Två snabba försök satte oss på den bakre foten, men i samma andetag var det förmodligen bästa tiden att ha dem eftersom vi har ytterligare 70 minuter kvar att gå.
"Tyvärr jagade vi nog lite för mycket.
"Vi förde oss tillbaka in i strid, men spelet kom bort från oss och vi hade för mycket att göra."
Ospreys gick in i den sista runda toppen av Pool 2 efter att ha tjänat två bonuspoäng i nederlag på Clermont Auvergne och Bordeaux-Begles och slå både franska Top 14 lag och Exeter på deras Liberty Stadium hem.
Jones sade: " Det är en hel del känslor inblandade i de föreställningar vi har haft. Vi har nog levt på känslor och utfört känslor, men du har inte råd att göra det i den här tävlingen.
"Jag minns att jag var borta i London Irländare i samma tävling. Vi gick ut där med ett team som förmodligen var på papper långt överlägsen och hade samma resultat, så jag tror att Gruff har spikat det på huvudet med ordet "devastated".
"Jag sa till killarna i slutet att ingen av er här [media] sa att vi skulle vara i strid för att komma ur poolen och det är sant. Jag minns att jag gjorde intervjun i början av säsongen och någon skrattade, vilket är bra.
"Och det handlar inte om att trotsa oddsen eller bevisa andra människor fel, det handlar om att arbeta för varandra och försöka göra något annorlunda.
"Vi har gjort en poäng om alla de stora namn som har gått igenom denna tröja och inte fick oss i den position som vi har.
"Ultimat vi har vacklat igen och vi har inte gjort det [gone through], men jag kan säga kredit till laget och vi är stolta över att ha kommit så nära."
Ospreys backar tränare Gruff Rees säger att de var "emotionellt förkrossade" på att missa på en europeisk Champions Cup kvartsfinal genom att förlora till Exeter.