Tornato a Rochester Will incontrò difficoltà nel suo lavoro dovute alla convinzione dei pazienti secondo cui Will era troppo giovane per sostituire il padre nella sua professione. Col tempo, dimostrando le sue capacità, tale timore svanì e il dr. Will fu accettato e spesso elogiato dai suoi pazienti. I Mayo però avevano da sempre avuto la passione per la chirurgia, infatti lo stesso Will assisteva agli interventi del padre più volte. Sebbene però il dr. W.W. Mayo avesse grande fiducia nelle abilità chirurgiche del figlio, poiché più volte lo aveva osservato eseguire un intervento, era ancora restio a fargli eseguire una rimozione di un tumore ovarico. Will non si oppose mai al giudizio del padre e cercò di sviluppare una propria abilità. Decise di continuare gli studi e si recò a New York per frequentare la clinica chirurgica del dr. Henry B. Sands, il cui lavoro al Roosevelt Hospital era in quegli anni tra i più richiesti negli Stati Uniti. Si interessò alla peritonite e ad i suoi ascessi. Molti studi avevano dimostrato i terribili risultati di tale infiammazione, ma da dove aveva origine era ancora un mistero. Alcuni studiosi fecero progressi circa questa patologia come William Parkes e Henry Sands. Le lezioni del dr. Sands si tenevano di pomeriggio e Will si presentava sempre in anticipo per assicurarsi un posto da cui poter osservare l'intervento. Una sera Sands gli chiese di accompagnarlo a far visita ad un paziente. I due trovarono le condizioni del paziente allarmanti in quanto l'uomo era febbricitante e vomitava spesso. Diagnosticarono la peritiflite e decisero di operarlo. In seguito Sands mostrò il suo interesse per i casi di tale patologia di cui Will aveva esperienza e approvò la procedura adottata da lui e dal padre: inserire un ago nella regione iliaca per trovare il pus, lasciarlo lì come guida, incidere l'ascesso e drenare. Nel 1886 Reginald Fitz pubblicò un articolo che spiegava che la peritiflite originava dall'appendice. Egli spiegò che se i sintomi dell'infiammazione non sparivano entro 24 ore allora l'appendice doveva essere esportata. I chirurghi però non adottarono tale procedura fino al 1889, anno in cui Charles McBurney scoprì il punto di McBurney, che poteva rivelare la presenza dell'infiammazione se sottoposto a pressione. All'alba della chirurgia moderna, Will assieme al fratello si impegnò nello studio della chirurgia e dei progressi altrui, tentando di migliorare ed applicare ciò che vi era di positivo. Fu tra i primi chirurghi ad eseguire un'appendicectomia. Proprio per essere così ben informato sui progressi in ambito chirurgico, Will divenne noto come "il medico che riusciva dove gli altri fallivano". Il numero dei suoi pazienti crebbe sempre più e grazie a questo egli accumulò esperienza e pratica. Nel 1885 tornò a New York per un altro corso presso il Policlinico sotto il tutorato del dr. Arpad Gester, da cui apprese le tecniche dell'antisetticismo. Nel 1884 si sposò con Hattie Damon.