Коли у квітні 1861 р. розпочалася Громадянська війна, Голмс добровольцем вступив на службу до військ північних штатів. Протягом війни (1861—1864 рр.) він служив лейтенантом, а згодом капітаном, брав участь у багатьох боях, був тричі поранений.