Valery Gergiev, en anhängare till Rysslands president Vladimir Putin, dirigerade Mariinskijs symfoniorkester, från Sankt Petersburg, på Palmyras romerska teater.
I juli förra året publicerade IS film på nätet som visar några av dess fighters som utför mord i den antika teatern.
Syriska styrkor, uppbackade av ryska flyganfall, återtog den historiska platsen.
Palmyra i bilder
Gergiev ledde orkestern genom verk av Johann Sebastian Bach, Sergei Prokofiev och Rodion Schedrin, framför en skara ryska soldater, regeringsministrar och journalister.
Bilder från konserten, som sändes i rysk statlig television, avbröts då och då av bilder på militära aktioner - som visade rysk militär uppbackning för syriska regeringsstyrkor när de befriade Palmyra från IS-militanter.
Gergiev var tills nyligen huvuddirigent för Londons symfoniorkester och är musikregissör för Münchens filharmoniska orkester.
Under 2014 stödde han Vladimir Putin när det gäller annekteringen av Krim från Ukraina. Under 2008 uppträdde han i huvudstaden i Sydossetien när Ryssland och Georgien slogs om territoriet.
Maestron beskrev konserten som en protest mot barbariet och våldet som uppvisats av Islamiska statens militanter som hade använt stadens romerska amfiteater för att avrätta fångar.
Den ryske presidenten talade också till publiken genom videolänk från sitt residens i Sotji i Svarta havet.
Han kallade terrorismen en smitta som världen behövde göra sig av med och sade att konserten över huvud taget var "överraskande".
"Dagens agerande innebar stora olägenheter och faror för alla, att befinna sig i ett land i krig nära där fientligheterna fortfarande pågår. Det har krävt stor styrka och personligt mod från er alla", sade han.
Storbritanniens utrikesminister Philip Hammond sade emellertid att konserten var "ett smaklöst försök att distrahera uppmärksamheten från miljontals syriers fortsatta lidande. Det visar att det inte finns några djup som regimen inte kommer att sjunka till".
Det handlar om mer än bara musik.
Genom att organisera en konsert i ruinerna av Palmyra vill Ryssland att världen ska se till att den ger ett positivt bidrag i Syrien: att skapa fred och stabilitet i landet och, när det gäller Palmyra, rädda ett Unesco-arv.
Moskva kommer att hoppas att bilder av dess klassiska musiker i Syrien kommer att förstärka budskapet att Ryssland är en kraft för gott.
Ett sådant musikaliskt budskap kommer att tas emot väl hemma. I flera månader nu har rysk TV försäkrat tittarna om att Rysslands militära ingripande i Syrien har gynnat världen genom att ta sig an internationell terrorism.
Men västerländska tjänstemän är fortfarande misstänksamma mot Rysslands avsikter. Moskva har anklagats för att inte ha gjort tillräckligt för att rein i syriska regeringsstyrkor. Ryssarna förnekar detta och anklagar Amerika för att inte använda sitt inflytande med den syriska oppositionen för att stoppa striderna.
En av solisterna på konserten var cellisten Sergei Roldugin, en vän till Putin's, som nyligen utsågs till ägare till offshorebolag i de så kallade Panama Papers. Han förnekar all synd.
Islamic State förstörde ett antal monument under dess 10-månaders ockupation av Palmyra och dess associerade Unesco världsarv.
Två 2000 år gamla tempel, en valv och begravningstorn lämnades i ruiner.
Den jihadistiska gruppen, som också har rivit flera pre-islamiska platser i grannlandet Irak, anser att sådana strukturer är avgudiska.
Medan vissa värdefulla monument förstördes, lämnades en stor del av den historiska platsen oskadad.
Det är inte första gången Gergiev uppträder i en krigshärjad stad.
I augusti 2008 tog den infödda Ossetian dirigent Mariinsky Theatre Symphony Orchestra till ruinerna av Tskhinvali i den separatistiska georgiska regionen Sydossetien, kraftigt skadad i det korta rysk-georgiska kriget det året.
Gergiev genomförde också en välgörenhetskonsert i Tokyo för offren för kärnkraftskatastrofen i Fukushima 2012, och han ledde en välgörenhetskonsertturné för att samla in pengar till offren för den ryska skolmassakern i Beslan 2004.
En berömd rysk dirigent har lett en konsert i ruinerna av Palmyra i Syrien, som återtogs från den så kallade islamiska staten (IS) i mars.