Biologer studerade en grupp av Sydney bläckfiskar utanför Australiens östkust och observerade en rad beteenden som kan tyda på komplexa sociala signaler.
Bläckfiskar som står högt, blir mörka och sprider sitt nät i en "Nosferatu pose" visar sannolikt aggression.
Omvänt kan bläckfiskar ha en blek färg efter att ha förlorat en strid eller när de försöker undvika konflikter.
Tidigare trodde man att bläckfiskar till stor del var ensamma varelser. Förändringar i kroppsfärg och annat beteende tolkades som taktik för att undvika rovdjur.
Men professor Peter Godfrey-Smith sade att den unika studien, baserad på 53 timmars film och publicerad på fredag i tidskriften Current Biology, gav ett nytt perspektiv på bläckfiskbeteende.
"[En aggressiv] bläckfisk kommer att bli mycket mörk, stå på ett sätt som accentuerar dess storlek och det kommer ofta att försöka stå på en högre punkt," Prof Godfrey-Smith, som medförfattare till rapporten, sade.
"Det ovanliga är uppenbarligen inte ett fysiologiskt svar. Den får den att se så stor ut som möjligt, med armarna uträckta under och manteln, den bakre delen av djuret, upphöjd över huvudet.
"Den mörka färgen produceras i konsert med dessa storleksreducerande beteenden. Det finns ingen särskild fysiologisk anledning till varför mörker ska förknippas med aggression, men det ger intryck av ett större objekt."
Forskarna, baserade i Australien och USA, dubbade ställningstagandet "Nosferatu pose", hänvisar till den klassiska 1920-talet skräckfilm, eftersom spridningen av bläckfiskens nät påminde om en vampyr cape.
Bläckfiskar bleknade ofta medan de drog sig tillbaka från angripare och producerade också högkontrastmönster som kallas deimatiska displayer.
De kontrasterande mönstren observerades oftast när bläckfiskar försökte återvända till sin håla efter att de hade tvingats ut, eller i närvaro av en aggressiv individ.
"Förutsatt att det finns en stor, aggressiv kille där och du vill komma tillbaka in i vår lya, om du närmar dig med en blek färg det kan tolkas som en icke-konfrontationsbeteende," Prof Godfrey-Smith sade.
Studien visade också att två bläckfiskar med mörka färger sannolikt skulle kämpa om de befann sig nära varandra, medan en mörkare bläckfisk sannolikt skulle stå på marken mot en ljusare bläckfisk.
En annan bläckfisk, bläckfisken, uppvisar en liknande uppsättning drag, med aggressiva hanar som förmörkar deras ansikten och blekare hanar som drar sig tillbaka från striderna.
Det ovanligt höga antalet bläckfiskar som levde tillsammans i kolonin utanför Jervis Bay, söder om Sydney, tillät en mer djupgående observation av interaktioner än vad som tidigare varit möjligt.
Prof Godfrey-Smiths medförfattare David Scheel och hans elever kammade igenom 53 timmars film och observerade 186 interaktioner mellan bläckfiskarna.
Detta inkluderade Nosferatu pose, tillsammans med nå, brottning och parning.
Att titta på dessa långa filmer var "mycket mer utmattande än jag trodde", sa Prof Godfrey Smith.
"Det är mycket svårt att identifiera en individ från minut till minut, eftersom de ändrar färg och form.
"Om bläckfisken vandrar ut ur ramen, finns det inte mycket du kan göra."
Octopuses kan ha mer komplexa sociala interaktioner än vad man tidigare trott, en ny studie har hittat.