Charles Hutagalung
Charles sendiri sebenarnya bukan pendiri The Mercy’s, karena sebelum bergabung dia merupakan anggota dari band Bhayangkara Nada di Medan. Charles Hutagalung kemudian bergabung di kubu The Mercy’s baru pada tahun 1970, di mana grup ini masih dikenal berlatar belakang sebagai band yang hanya bermain di klub malam dan band pesta-pesta di kota Medan dan pernah show di negara tetangga Malaysia. Band The Mercy’s sendiri dibangun oleh sekelompok anak muda yang berasal dari satu daerah di Medan, Sumatera Utara yang mempunyai satu visi yang sama, membentuk band pesta. The Mercy’s didirikan tahun 1969 di Medan dengan anggota awal Erwin Harahap, Rinto Harahap, Rizal Arsyad (Mantan suami Iis Sugianto), Reynold Panggabean (Mantan suami Camelia Malik) dan Iskandar alias Boen panggilan akrabnya, di bawah pimpinan Rizal Arsyad. Grup ini selalu mengikuti tren perkembangan musik mancanegara, sehingga mereka sering mengacu pada band The Beatles, The Bee Gees, The Hollys, C.C.R maupun Monkeys. Sesekali mereka juga membawakan lagu-lagu band nasional, seperti Koes Plus dengan hit-nya Telaga Sunyi.
Reynold Panggabean
Pada tahun 1972, The Mercy’s memutuskan hijrah ke Jakarta. Bermula dari datangnya dewa penolong dari "tulang" ‘Herman Tobing (adik Ibu dari Erwin & Rinto Harahap). Ia menyurati mereka dan mengajak pindah ke Jakarta, berjanji akan mencarikan tempat wadah bermusiknya. Charles, Rizal, dan Rinto memanfaatkan kesempatan tersebut pertama kali. Erwin bersama Reynold pun bergabung dengan formasi yang telah lebih dulu merintis manggung di Jakarta, karena harus menyelesaikan masalah administrasi di Medan. Pada mulanya di ibukota mereka masih tampil di beberapa kelab malam, membawakan lagu-lagu yang mereka ciptakan sendiri. Kemudian mereka mengisi serangkaian show secara berkala di empat tempat, seperti Tropicana, LCC, Paprica, dan Mini Discotique. Kesempatan baik ini dimanfaatkan betul oleh The mercy’s dengan memperkenalkan lagu ciptaan mereka seperti ‘"Untukmu", "Hidupku sunyi", "Love" dll. Di tempat terakhir inilah, The Mercy's mampu menembus dominasi band asal kota-kota besar, seperti Jakarta dan Bandung. Mereka yang datang dari sebuah band lokal asal Medan menjadi band nasional sejajar dengan The Rollies, Gipsy, dan The Pros. Setelah di Jakarta, pasang surut yang melanda blantika musik Indonesia juga dirasakan oleh The Mercy's hingga periode kesempatan memasuki dunia rekaman. Rizal Arsyad kemudian memilih mengundurkan diri karena hendak meneruskan sekolahnya ke Jerman. Kepemimpinan The Mercy’s pada saat itu pun beralih kepada Erwin Harahap.