Moorways stängdes för allmänheten 2016 men fortsatte att användas av simklubbar fram till slutet av januari.
Beslutet fattades i ett försök att spara omkring 350.000 pund per år.
Rådsledare Ranjit Banwait sa att oavsett kostnaden för en ny pool, var det viktigt att få det rätt.
Moorways, som byggdes för mer än 40 år sedan, har kämpat med underhålls- och arbetsmiljöfrågor.
Derbys andra stora pool, på Queen's Leisure Centre, är för närvarande stängd på grund av strukturella problem, även om två andra pooler fortfarande är öppna för allmänheten i centrum.
Avslutningen av Moorways motsattes av framstående simmare Ross Davenport, som vann två guldmedaljer vid Samväldesspelen 2006, och OS-mästaren Adam Peaty, som nu tränar utanför staden.
Banwait sade: "För att börja arbeta med poolen har vi lagt 20 miljoner pund åt sidan som en första summa pengar.
"Eventuellt kommer arbetet att kosta mer än så, vi tittar för närvarande på designen... om det innebär att det kommer att kosta mer kommer vi att sätta dessa pengar på plats.
"Det viktigaste är att vi får detta rätt, den här poolen kommer att byggas och det kommer att finnas där i generationer framöver."
Den nya 50m-poolen förväntas byggas till 2020.
En ersättning för en av Derbys kommunala simbassänger kan kosta mer än de 20 miljoner pund som den lokala myndigheten uppskattar.