Mullah Mansour utsågs till ny ledare på torsdag, efter det att den tidigare ledaren Mullah Omar hade avlidit.
Men en talesman för talibanerna sade till BBC att han inte hade utnämnts till "av alla talibaner", vilket stred mot sharialagen.
Ljudmeddelandet sa att fighters skulle förenas som "division i våra led kommer bara att behaga våra fiender".
Det sades också att talibanerna skulle "fortsätta vår jihad tills vi får ett islamiskt styre i landet".
Den 30 minuter långa inspelningen - där ett gråtande barn hörs vid några tillfällen - släpptes till journalister av talibanernas talesman Zabiullah Mujahid på lördagen.
Det första offentliga budskapet från den afghanska talibanernas nye ledare, mulla Mansour, visar att hans sätt att göra saker och ting kommer att skilja sig från hans reklusiva föregångare, mulla Omar, som förlitade sig på att utfärda skriftliga uttalanden.
Inspelningen är ett tal som han höll till en samling av till synes dussintals av sina anhängare, efter sitt möte på torsdag.
Inför motstånd mot hans val från flera högt uppsatta talibaner är den nya ledaren nu fokuserad på att befästa sin makt och etablera sin auktoritet.
Talet kräver gång på gång enighet och syftar i första hand till att lugna ner meningsskiljaktigheterna.
Mullah Mansour säger att hans nya roll inte är ett "kungadöme" utan ett enormt ansvar.
Han försöker också framställa sig som en tolerant, förlåtande och försonlig person vars beslut kommer att vara "baserat på islamisk sharia". Det verkar inte finnas någon större politisk förändring från det förflutna.
I sitt tal låter han avslappnad och verkar inte läsa från anteckningar.
Talibanernas ledare har inte rådfrågats
Vissa talibaner har anklagat pakistanska kretsar för att ha påtvingat dem mulla Mansour, som är känd för sitt stöd för fredssamtal.
Men i ljudmeddelandet avfärdade Mullah Mansour fredssamtalen som "propagandakampanjer från fienden".
Åtminstone en talibanfraktion skulle ha föredragit att mulla Omar efterträddes av sin son.
En annan talibantalesman, mulla Abdul Manan Niazi, sade att de som valde Mullah Mansour inte hade följt reglerna.
"Enligt islamiskt styre och principer, när en ledare dör, en Shura (råd) kallas, då dess ledare utses," tillade han.
Den nye ledaren för den afghanska talibanerna, Mullah Akhtar Mansour, har krävt enighet i ett ljudmeddelande och sagt att gruppen kommer att fortsätta kämpa.