У 1943–1944 Сєров керував операціями з депортації чеченців, волзьких німців, кримських татар і калмиків. Одночасно з 1945 по 1947 рік — заступник начальника СМЕРШу в радянській зоні окупації Німеччини, уповноважений НКВС / МВС СРСР по Групі радянських окупаційних військ у Німеччині, заступник головнокомандувача Групи радянських окупаційних військ у Німеччині у справах цивільної адміністрації. 24 лютого 1947 — 13 березня 1954 року — 1-й заступник міністра внутрішніх справ СРСР. 13 березня 1954 — 8 грудня 1958 року — голова КДБ СРСР.