Non molto tempo dopo che il Carolina del Sud lasciò l'Unione, fatto che avvenne nel 1861, Holmes iniziò a pubblicare degli articoli – il primo dei quali fu la canzone patriottica “Una voce del Nord Leale” – in appoggio alla causa dell'Unione. Sebbene egli avesse precedentemente criticato gli abolizionisti reputandoli traditori, in questo periodo la sua principale occupazione fu il supporto dell'Unione. Nel settembre di quell'anno, pubblicò un articolo intitolato “Bread and Newspapers” nel quale egli s'identificò orgogliosamente come Unionista. Scrisse: “La guerra ci ha insegnato, come nient'altro può fare, ciò che noi possiamo essere e siamo.” Egli esortò perfino la classe più abbiente ad avere “coraggio […] sufficientemente grande per l'uniforme che pende così larga intorno ai loro corpi esili.” Holmes era anche personalmente interessato nella guerra: il maggiore dei suoi figli, Oliver Wendell Holmes Junior, si arruolò nell'esercito contro la volontà del padre nell'aprile del 1861 e fu ferito per tre volte in battaglia, procurandosi anche una ferita da arma da fuoco al petto durante la “Battaglia di Ball’s Bluff” nell'ottobre del 1861.