Sammantaget gör de fattigaste eleverna sämre i vetenskap och matematik ämnen inom områden med selektiva skolor, föreslår forskning för Royal Society, Storbritanniens oberoende vetenskapliga akademi.
Nya grammatiker kommer sannolikt att hjälpa "endast en liten del" av de fattigaste eleverna, sägs det.
Ministrarna vidhåller att deras förslag kommer att förbättra den sociala rörligheten.
Ett statligt samråd om planer för mer selektiv utbildning avslutades tidigare denna månad.
"Social rörlighet är en komplex fråga", säger professor Tom McLeish, ordförande i Royal Society's Education Committee.
– Vi stöder regeringens åtagande att se till att alla studenter uppfyller sin potential, oavsett bakgrund.
"Vi är dock oroade över att den strategi för selektiv utbildning som beskrivs i grönboken endast kan stödja det lilla antal elever med hög kompetens som går i selektiva skolor, på bekostnad av missgynnade elever som inte gör det."
Forskare från Institutet för utbildningspolitik, på uppdrag av Royal Society, tittade på effekterna av selektiv utbildning på uppnåendet av de mest missgynnade ungdomarna - de på gratis skolmåltider - i STEM-ämnen (vetenskap, teknik, ingenjörsvetenskap och matematik).
Forskarna fann att gratis skolmåltider elever presterade mindre bra i GCSE matematik i områden där det fanns selektiva skolor.
I icke-selektiva områden 2015 fick 48,1 % av de kostnadsfria skolmåltiderna ett C eller mer, jämfört med 72,3 % av de elever som inte var berättigade till måltiderna.
Men i selektiva områden var skillnaden större, och endast 43,9 % av de kostnadsfria skolmåltiderna fick minst ett C, jämfört med 74,8 % av de elever som inte fick måltiderna.
Forskarna fann att gratis skolmåltider för elever i selektiva skolor presterade mycket bra, med 98 % fick minst ett C, jämfört med 99,2 % av icke-fria skolmåltider elever.
Gratis skolmåltider utgör dock endast 3 % av de selektiva skolorna, så deras prestationer är inte tillräckliga för att göra någon skillnad för "en övergripande negativ inverkan på uppnåendet av alla gratis skolmåltider elever i GCSE matematik i selektiva områden", säger forskarna.
De fann också att färre gratis skolmåltider i selektiva områden tog dubbel- eller trippelvetenskap vid GCSE.
"Vi har inte funnit några bevis för att den allmänna skolstandarden för gratis skolmåltider i STEM-ämnen i England skulle förbättras genom en ökning av antalet platser i selektiva skolor", avslutar Royal Society.
Dr McLeish tillade att det bästa sättet att hjälpa varje elev att uppnå sin potential är att se till att de undervisas av "välutbildade, motiverade och understödda, specialiserade vetenskapslärare".
Han sade att stöd är nödvändigt för att hjälpa lärare att "dra ut den naturliga nyfikenhet och kreativitet som växer från en kunskapsram inom vetenskapen".
I synnerhet föreslår Royal Society partnerskap mellan universitet, skolor och företag som skulle kunna involvera universitetspersonal som undervisar deltid och till och med bedriva en del av sin forskning i skolor.
De bästa forskarna fruktar att planer för fler grammatikskolor i England inte kommer att öka missgynnade elevers betyg.