Offret skadades dödligt utanför en fastighet på Daniel Hill Terrace i Upperthorpe, nära stadens centrum.
Folk i området sa att mannen var antingen i, eller nära, en svart Mercedesbil han hade kört när han blev skjuten.
Poliser, ringde till platsen vid 13:35 GMT, hittade mannen med en skottskada i bröstet. Beväpnad polis spärrade av området.
Offret fördes till Northern General Hospital men dog av sina skador.
Invånarna sa att mannen tillhörde en familj som bor nära platsen för skottlossningen.
De sade att släktingar hade samlats för en familjefest när attacken inträffade.
Många kom ut ur huset för att försöka hjälpa honom efter att ha hört skottet, sade grannarna.
Det har varit ett antal skottlossningar i Sheffield under de senaste veckorna, även om alla tidigare incidenter har skett i norra delen av staden och inte nära Upperthorpe-området.
På måndagen blev en 25-årig man allvarligt skadad när han sköts på gatan i Shiregreen-området.
Tidigare denna månad blev ett äldre par chockerat när skott avfyrades genom deras vardagsrumsfönster i Southey Green-området - en incidentpolis tror att det var ett fall av felaktig identitet.
I januari avfyrades skott mot hus i två separata incidenter på samma gata i High Green.
En 23-årig man har dött efter att ha blivit skjuten på en Sheffield-gata.