Videon, filmad av Smith och hämtad av en tidning, verkar visa honom skratt medan pensionerad gymnast Luke Carson imiterar islamiska bön praxis.
Smith, som vann pommel häst silver på Rio 2016, senare sade han "djupt ledsen" för sina "tanklösa handlingar".
Brittiska gymnastiker sa: "Vi kommer att undersöka de rapporterade beteendena."
I ett uttalande tillade det styrande organet: "Medlemmar som bryter mot vår uppförandekod kan ställas inför avstängning eller utvisning från vår organisation."
Smith, som har vunnit medaljer vid de senaste tre olympiska spelen, har redan kritiserats två gånger i år av brittiska gymnastiker.
I april bad 27-åringen om ursäkt för att förhöra domare vid British Championships, där han blev slagen till pommelguld av Max Whitlock.
Han blev också reprimanded i juni för att publicera en bild på sociala medier av en amerikansk gymnast, som var 16 när fotografiet togs, åtföljd av en kommentar brittiska gymnastik sade var "opassande för en deltagare".
Den tillrättavisningen skulle finnas kvar i hans register i två år med den tillagda varningen "kan ytterligare försummelser leda till ännu större konsekvenser".
Smith är en av Storbritanniens mest kända gymnaster och vann BBC show Strictly Come Dancing 2012.
Han tar en paus från sporten och turnerar istället som gästkändis på Keep Dancing scenproduktion.
Fyrfaldig olympisk medaljör Louis Smith kan möta "suspension eller utvisning" av brittiska Gymnastik över en video där han uppenbarligen hånar Islam.