O Gmail no Google, é uma máquina virtual que é executada sobre a infraestrutura do Google Cloud Platform, e ela se expande automaticamente utilizando mais máquinas físicas conforme demanda de recursos computacionais.
A replicação de dados no Google é feito através de uma plataforma de banco de dados distribuídas entre os data-centers em todo o mundo. Sua conta de e-mail provavelmente está hospedada aos pedados em cada parte dos continentes, e você nem perceberá isto.
É claro que se você utilizar POP3 para resgatar as mensagens do Google e manter os e-mails em PST, estará dispensando toda a segurança e replicação de dados que o Google faz por você, mantendo seus e-mails em seu HD mecânico não tolerante à falhas.
Além disto, um arquivo PST pode ser aberto por qualquer pessoa, e o webmail do Google opera sempre com SSL e sempre exigirá senha para acessar os e-mails.
O conceito do Google para os e-mails é: não apague, arquive. Assim você conta com a melhor ferramenta que existe para busca: experimente buscar algum e-mail e ele poderá aparecer em instantes para você.