Barnen, som tidigare hade bott i områden som kontrollerades av Boko Haram, hölls i en militär barack i den nordöstra staden Maiduguri, berättade en talesman för FN för BBC.
Uppgifter om barnens ålder och hur länge de hålls i förvar har inte lämnats.
Armén har inte gjort några kommentarer.
Grupper för mänskliga rättigheter hävdar att det inte finns någon lämplig rättslig process för civila, inklusive barn, som hålls fängslade av armén som en del av sina insatser mot uppror.
"Vi fruktar att det fortfarande finns barn som är åtminstone tillfälligt fängslade eftersom de släpps från Boko Haram områden av armén men sedan hålls ett tag," Manuel Fontaine, regional chef för FN: s barnfond (Unicef) i Central- och Västafrika, berättade Reuters nyhetsbyrå.
Tidigare denna månad släpptes 21 av de mer än 200 Chibok skolflickor som kidnappades av Boko Haram för två år sedan och återförenades med sina familjer.
Nigeria har bekämpat en sjuårig uppror mot Boko Haram, med armén återta en stor del av territoriet under islamistiska militanternas kontroll under de senaste 20 månaderna.
"Boko Haram tog mina barn"
Stad delad av Boko Haram arv
På patrull mot Boko Haram
Vilka är Boko Haram?
FN säger att det har förhandlat om frisläppandet av 876 barn i Nigeria, som hölls av armén över möjliga kopplingar till islamistiska militanter.