Scotland Office minister Lord Dunlop talade när House of Lords debatt Skottland Bill.
Samtalen mellan Förenade kungariket och de skotska regeringarna om den finanspolitiska ramen fortsatte under helgen, även om inget avtal ännu har tillkännagetts.
Lord Dunlop sa att samtalen var på en "känslig och kritisk punkt".
Men han berättade för kamrater att "betydande framsteg" hade gjorts.
Peers gick med på att gå vidare med en detaljerad granskning av de nya befogenheterna i lagförslaget om Skottland, trots bristen på enighet om den finanspolitiska ramen.
Tory f.d. skotsk sekreterare Lord Forsyth hade begärt att den sista dagens utskottsdebatt skulle skjutas upp tills den finanspolitiska ramen offentliggjordes.
Men han drog tillbaka sitt krav efter motstånd från både regeringen och Labour.
Labours före detta kansler, Lord Darling, sade att det var "djupt beklagligt" att parlamentet fortfarande inte visste hur den finanspolitiska ramen skulle se ut.
Lord Darling sa att det fanns "massiva överväganden" att ta hänsyn till vid fastställande av skatt och välfärd.
Han tillade: " Jag kämpar för att se hur det kommer att fungera. Om vi inte får det rätt, kan vi helt enkelt lagra upp problem för framtiden, ge rika och bördiga grunder för dem som söker agg och missnöje som ett sätt att leva."
Scottish Finance Sekreterare John Swinney höll samtal med sina brittiska motsvarigheter i London på fredag.
Swinney sade efteråt att framsteg hade gjorts, men vissa "betydande frågor" fanns kvar innan man kunde komma överens om en slutlig överenskommelse.
Den två regeringen har varit låst i utdragna diskussioner om hur blockbidraget som Holyrood får bör justeras när nya skattebefogenheter delegeras till Skottland.
Alla avtal måste uppfylla principen om "ingen skada" - tanken att varken Förenade kungariket eller de skotska regeringarna ska förlora ekonomiskt bara som ett resultat av beslutet att delegera.
Swinney och den skotske ministern David Mundell kommer båda att infinna sig inför det skotska parlamentets delegationsutskott i tisdags, där de kommer att uppmanas att lägga fram sina ståndpunkter.
I och med att det skotska parlamentet upplöstes nästa månad inför valet i maj, hade de fysiska planeringsenheterna i utskottet varnat för "mycket betydande konsekvenser" för deras förmåga att granska eventuella förslag om samtalen inte avslutades den 19 februari.
Men chefen för finansdepartementet Greg Hands har sagt att han inte kommer att kunna infinna sig inför Holyroods finanskommitté på onsdag för att ge bevis till MSPs om samtalen.
David Hands, som har förhandlat på den brittiska regeringens vägnar under samtalen, hade tidigare sagt att han skulle vara "mycket glad" över att komma fram inför den fysiska planeringen av kust- och havsområden när en överenskommelse väl hade nåtts.
I ett brev till utskottet sade han: "Jag tänker helt och fullt uppfylla detta åtagande. Tyvärr kan jag inte delta i ert utskott den 24 februari på grund av parlamentets angelägenheter.
"Jag ser fram emot att träda fram inför ert utskott när ramarna är överenskomna."
Som svar sade kommissionsledamot Kenneth Gibson till David Hands: "Detta verkar tyda på att ni inte tror att en överenskommelse kommer att nås om den finanspolitiska ramen innan dess."
Han uppmanade David Hands att tänka om och sade: "Om så verkligen är fallet är det viktigt att finansutskottet får tillfälle att höra från båda regeringarna varför det inte har varit möjligt att nå en överenskommelse."
Den skotska regeringen har redan varnat för att den kommer att sätta stopp för lagförslaget om Skottland genom att rekommendera en vetorätt för fysisk planering om det inte går att nå en överenskommelse om den finanspolitiska ramen.
En överenskommelse om de finansiella arrangemangen som kommer att ligga till grund för Skottlands nya decentraliseringsbefogenheter "verkar inom räckhåll", har en brittisk minister sagt.