Charles Hutagalung
Charles sendiri sebenarnya bukan pendiri The Mercy’s, karena sebelum bergabung dia merupakan anggota dari band Bhayangkara Nada di Medan. Charles Hutagalung kemudian bergabung di kubu The Mercy’s baru pada tahun 1970, di mana grup ini masih dikenal berlatar belakang sebagai band yang hanya bermain di klub malam dan band pesta-pesta di kota Medan dan pernah show di negara tetangga Malaysia. Band The Mercy’s sendiri dibangun oleh sekelompok anak muda yang berasal dari satu daerah di Medan, Sumatera Utara yang mempunyai satu visi yang sama, membentuk band pesta. The Mercy’s didirikan tahun 1969 di Medan dengan anggota awal Erwin Harahap, Rinto Harahap, Rizal Arsyad (Mantan suami Iis Sugianto), Reynold Panggabean (Mantan suami Camelia Malik) dan Iskandar alias Boen panggilan akrabnya, di bawah pimpinan Rizal Arsyad. Grup ini selalu mengikuti tren perkembangan musik mancanegara, sehingga mereka sering mengacu pada band The Beatles, The Bee Gees, The Hollys, C.C.R maupun Monkeys. Sesekali mereka juga membawakan lagu-lagu band nasional, seperti Koes Plus dengan hit-nya Telaga Sunyi.
Rinto Harahap
Menariknya, belum setahun terbentuk, grup ini sudah mendapat tawaran show di Malaysia. Ketika ada undangan untuk show di Penang, Malaysia pada tahun yang sama, Iskandar memutuskan tidak ikut. Ia memilih mengundurkan diri karena kuliahnya di Fakultas Kedokteran tidak mengizinkannya untuk meninggalkan bangku kuliah (Kini menjadi akhli bedah saraf).[7] Posisinya lalu digantikan oleh Charles Hutagalung yang saat itu telah keluar dari bandnya sebelumnya '''Bhayangkara Nada'''. Formasi lengkap pemain The Mercy’s kemudian berubah adalah menjadi Erwin Harahap (Gitar Melody), Rinto Harahap (Gitar Bass), Rizal Arsyad (Gitar Rhythm), Reynold Panggabean (Drum), dan Charles Hutagalung (Keyboard, Organ). Dengan masuknya Charles, The Mercy’s menjadi sebuah band yang terasa berbeda dari sebelumnya. Ia memiliki kemampuan bermain keyboard yang baik serta kualitas suara yang bagus untuk ditampilkan sebagai front line man. Posisi Rinto tidak lagi menjadi vokalis utama, namun masih kerap berbagi lagu dengan Charles untuk dibawakannya. Mereka melewatkan hampir tiap malam mengisi acara di Night Club Chusan Hotel di Malaysia. Pada tahun pertama terbentuk, The Mercy's memang masih berpetualang dari satu klub malam ke klub malam yang lain, mulai dari Medan hingga ke Penang, Malaysia.