Charles Hutagalung
Charles sendiri sebenarnya bukan pendiri The Mercy’s, karena sebelum bergabung dia merupakan anggota dari band Bhayangkara Nada di Medan. Charles Hutagalung kemudian bergabung di kubu The Mercy’s baru pada tahun 1970, di mana grup ini masih dikenal berlatar belakang sebagai band yang hanya bermain di klub malam dan band pesta-pesta di kota Medan dan pernah show di negara tetangga Malaysia. Band The Mercy’s sendiri dibangun oleh sekelompok anak muda yang berasal dari satu daerah di Medan, Sumatera Utara yang mempunyai satu visi yang sama, membentuk band pesta. The Mercy’s didirikan tahun 1969 di Medan dengan anggota awal Erwin Harahap, Rinto Harahap, Rizal Arsyad (Mantan suami Iis Sugianto), Reynold Panggabean (Mantan suami Camelia Malik) dan Iskandar alias Boen panggilan akrabnya, di bawah pimpinan Rizal Arsyad. Grup ini selalu mengikuti tren perkembangan musik mancanegara, sehingga mereka sering mengacu pada band The Beatles, The Bee Gees, The Hollys, C.C.R maupun Monkeys. Sesekali mereka juga membawakan lagu-lagu band nasional, seperti Koes Plus dengan hit-nya Telaga Sunyi.
Rinto Harahap
Tak lama kemudian Charles memutuskan kembali bergabung dengan The Mercy's dan menyelesaikan beberapa album yang telah menjadi kontrak mereka dengan produser rekaman. Setelah The Mercy's menyelesaikan album ke-10 dan beberapa album Pop Melayu, Pop Mandarin, dan Pop Anak-anak yang di produksi Remaco, Charles Hutagalung kembali hengkang pada tahun 1976. Kali ini ia mendirikan sebuah grup band sendiri bernama The GE & GE. Langkahnya mundurnya Charles diikuti oleh Albert Sumlang yang memilih mendirikan band dengan saudara-saudaranya yang diberi nama Albros dan juga bersolo karier.