L'educazione di Baillie è avvenuta alla "Old Grammar School of Hamilton" (ridenominata "Hamilton Academy" nel 1848), all'università di Glasgow e a quella di Oxford dove, nel 1789, ottenne il titolo di dottore in medicina (MD), dopo essere stato nominato "Snell Exhibitioner" nel 1779. Alla morte dello zio William Hunter nel 1783, ricevette in eredità £5,000, la casa in Great Windmill Street, oltre all'adiacente scuola medica e al museo. Alla scuola Baillie insegnò dal 1783 al 1803.