Ben Heatons försök sätta besökarna framför innan John Davies och Scott Turner gick över för att hjälpa till att ge Featherstone en 13-6 halvtid ledning.
Turner tog sitt andra försök innan Ben Johnston tog sig igenom för att minska underskottet för Halifax.
Anthony Thackeray sparkade sitt andra fall mål för natten och Josh Hardcastle försök gjorde spelet säkert.
I slaget om de två Championship sidor, Scott Murrell skickade Heaton klart att sätta Halifax framåt, men ledningen varade bara fyra minuter som Keal Carlile snurrade ur en tackling för att sätta upp Davies.
En lysande finish från Turners och Thackerays fallmål på halvtid gav värdarna en sjupunkts ledning.
Turner gav bollen utegångsförbud i hörnet för sitt andra försök, men Halifax slog tillbaka med ett fint soloförsök från Johnston.
Hardcastle gick över från scrum med sju minuter kvar som Featherstone blev det första laget i nå kvartsfinalen.
Fjädersten: Hardman, Turner, Ulugia, Taulapapa, Briscoe, Thackeray, Aston, Moore, Carlile, Cooper, Knowles, Davies, Lockwood.
Ersättningar: Wildie, Griffin, Taggar, Hardcastle.
Halifax: Sharp, Saltonstall, Bunt-Hall, Tyrer, Worrincy, Murrell, Robinson, Tangata, B. Moore, Cahalane, Grady, Heaton, Fairbank.
Ersättningar: Morris, Boyle, Barber, Johnston.
Domare: Chris Campbell (RFL).
Featherstone slog Halifax för att nå Challenge Cup kvartsfinalen för första gången på 20 år.