Åtminstone en bombare sprängde sig själv utanför Sayid Mohammed bin Ali al-Hadi, som sedan stormades av beväpnade män, sägs det.
En annan bombare sägs ha sprängt sig själv bland flyende tillbedjare.
Samtidigt har dödssiffran från söndagens självmordsbombning i Bagdad återigen höjts, från 281 till 292.
Iraks premiärminister Haider al-Abadi avskedade de tre högsta säkerhetstjänstemännen i Bagdad på fredag.
De var chef för Bagdads säkerhetskommando, chef för inrikesdepartementets underrättelsetjänst för Bagdad och tjänsteman med ansvar för Bagdad på den nationella säkerhetsrådgivarens kontor.
IS sa att fem av dess medlemmar hade genomfört razzian på platsen i Balad. Den militanta gruppen följer en extrem form av Sunni Islam och riktar sig ofta till Shias, som den betraktar som avfällingar.
Omkring 50 personer skadades i attacken, sade polisen och medicinska källor.
Islamic State: Den fullständiga historien
Dyrkarna markerade Eid al-Fitr-festivalen och firade slutet på den islamiska heliga månaden Ramadan, då platsen kom under granateld.
Den första bombaren träffade sedan en marknad vid ingången till helgedomen.
En tredje bombare sköts ihjäl innan han kunde detonera sin sprängväst, enligt rapporter.
Det kom fyra dagar efter att IS genomförde den dödligaste bombningen i Bagdad, 70 kilometer söder om Balad, sedan den USA-ledda invasionen 2003.
Den attacken riktar sig mot ett shoppingkomplex i det främst shiamuslimska distriktet Karrada.
ÄR militanta över stora delar av norra och västra Irak för två år sedan, men regeringsstyrkor har sedan dess återvunnit en stor del av territoriet.
Som svar på slagfältets bakslag, däribland den senaste förlusten av den västra staden Falluja, har militanterna intensifierat sina attacker mot civila.
Den irakiska regeringen har anklagats för att inte göra tillräckligt för att skydda sina medborgare och har ökat säkerheten i Bagdad som svar på det senaste våldet.
Självmordsbombare och revolvermän har dödat minst 35 personer i en attack av den så kallade islamiska staten (IS) vid en Shia-helgedom i den irakiska staden Balad.