1939年生於台灣基隆。1964年畢業於國立臺灣藝術大學（前國立藝專），主修作曲；師事蕭而化教授，音樂理論；師事許常惠教授、盧炎教授。1972年獲德國雷根斯堡音樂學院全額獎學金赴德留學，師事席格蒙博士（Dr. Oskar Sigmund），1975年以最優異成績畢業。曾兩度獲得金鼎獎，並曾獲中山文藝創作獎、吳三連文藝創作獎等，作品包括管弦樂、室內樂、鋼琴曲、聲樂曲與合唱等百餘首，經常發表演出於國內外；其作品「梆笛協奏曲」於1983年由羅斯托波維奇指揮美國國家交響樂團於臺北國父紀念館演出，並以衛星實況轉播至美國PBS公共電視網，深獲國內外人士好評。
1986年獲美國國務院傅爾布萊特學術獎助赴美進行研究，並於紐約林肯中心等地區舉行四場個人作品發表會，亦得到紐約時報及其他地區極佳樂評；紐約時報知名樂評家Bernard Holland就曾寫道：「…綜觀馬水龍先生發表的作品，他突破了東西方音樂的藩籬，並揉合了東西方音樂不同之表現手法與傳統特質，予以平衡處理，成功的表達他自我文化內涵與思想，而不落俗套，實為難能可貴…。」他是第一人於美國紐約林肯中心作整場個人作品發表會的臺灣作曲家。1991年被列入「世界名人錄」及「五百名人錄」。1992年被列入世界音樂辭典（CONTEMPORARY COMPOSERS），1994年獲文建會獎助至美國進行學術研究，並於北伊大、耶魯、哈佛等大學作專題演講。1999年，榮獲第三屆國家文化藝術基金會文藝獎─音樂類得主。2000年亦被列入葛式音樂辭典（GROVE’S DICTIONARY），同年榮獲總統府特授予二等景星勳章。2007年獲頒行政院文化獎、國立台南大學名譽博士、國立臺北藝術大學名譽博士。
馬水龍曾任教於臺南科技大學（前台南家專）音樂系、東吳大學音樂系，曾任國立臺灣藝術大學（前國立藝專）音樂系主任，及國立臺北藝術大學（前國立藝術學院）音樂系創系主任、教務長、校長，教育部學術審議會常務委員及科技顧問室顧問、行政院文化建設委員會委員及文建會基金管理會委員、總統府介壽館音樂會規劃委員、亞洲作曲家聯盟總會執行委員兼副主席、亞洲作曲家聯盟臺灣總會及臺灣作曲家協會理事長、臺灣音樂著作權人聯合總會董事長、總統府國策顧問、行政法人中正文化中心董事、財團法人國家文化藝術基金會董事、財團法人邱再興文教基金會執行長等。現任國立交通大學音樂研究所講座教授、國立臺北藝術大學音樂系暨研究所教授、亞洲作曲家聯盟臺灣總會榮譽理事長、財團法人邱再興文教基金會「春秋樂集」創辦人，並擔任此活動之顧問。