Jihadisterna beslagtog byggnader på östra kanten av den angränsande staden Tadmur på torsdag, men deras tryck uppges ha stoppats av den syriska armén.
Syriens antikviteters hövding varnade för att om IS tar Unescos världsarvslista kommer det att förstöra allt där.
Gruppen har plundrat och rivit flera antika platser i Irak.
Palmyra har redan lidit en del skada under det fyraåriga inbördeskriget.
Det ligger i ett strategiskt viktigt område på vägen mellan huvudstaden, Damaskus och den omtvistade östra staden Deir al-Zour, och nära gasfält
På torsdagen sade det syriska observatoriet för mänskliga rättigheter att IS-militisterna höll på att anfalla Tadmur, den moderna staden intill ruinerna av Palmyra.
Tjugosex civila i en by utanför Tadmur dödades kort sagt av IS - åtminstone 10 genom halshuggning - på torsdag efter att ha anklagats för att ha samarbetat med president Bashar al-Assads regering, sade Abdul Rahman.
IS hävdade själv på Twitter att den hade tagit kontroll över norra och östra delarna av Tadmur och att den hade skjutit ner ett syriskt flygvapen i området.
Homs provinsguvernör Talal Barazi bekräftade att al-Sukhanah, en stad i nordost, hade fallit på onsdag och sade 1.800 familjer från staden skyddade i Tadmur.
Det syriska observatoriet sa att mer än 70 soldater och 40 militanter hade dödats i slaget om al-Sukhanah.
Palmyra reser sig ut ur öknen och flankeras av en oas och innehåller de monumentala ruinerna av en stor stad som var en av de viktigaste kulturella centrumen i den gamla världen, enligt Unesco.
Platsen, varav de flesta går tillbaka till det 1: a till 2: a århundradet när regionen var under romerskt styre, domineras av en stor, kolonnaderad gata.
I södra änden av 1.1km gatan är det stora templet Bel, anses vara en av de viktigaste religiösa byggnader i det 1: a århundradet i öst och av unik design.
Syriens chef för antikviteter, Maamoun Abdul Karim, sade att om Palmyra skulle falla för IS, skulle det vara en "internationell katastrof".
"Det kommer att bli en upprepning av barbariet och barbariet som vi såg i Nimrud, Hatra och Mosul", berättade han för AFP nyhetsbyrå.
De gamla platserna i norra Irak sprängdes nyligen av IS-militanter, som kontrollerar områden på båda sidor om gränsen mellan Syrien och Irak.
En USA-ledd koalition har genomfört flygstrejker mot jihadistgruppens ståndpunkter sedan september. Den säger dock att den inte samordnar sina handlingar med Assads regering.
Palmyra, en av Mellanösterns arkeologiska juveler, sägs vara hotad av militanter från Islamiska staten (IS) i Syrien.