噶玛寺是由第一世大宝法王噶玛巴杜松虔巴所创建,距今已有800多年的历史,噶玛噶举派的教名也因噶玛寺寺名演变而约定俗成,它是早期噶玛噶举派宗教和政治的活动中心.噶玛寺在历史上影响深远,其建筑别具一格,文物古迹众多,是康区著名的古刹之一,对后期噶玛噶举派的形成产生过深远的影响.尤其是第二世噶玛活佛噶玛巴希时代,噶玛噶举派在康区形成了很大势力.
公元1187年噶玛噶举派的又一重要寺院楚布寺建立,该派的宗教和政治中心随之转移到卫藏的楚布寺,昌都地区的噶玛祖寺逐渐趋于衰落.但作为祖寺,在宗教上还有重要的象征意义.据说噶玛巴活佛系统每次转世灵童坐床前,象征噶玛派宗教和政治地位的黑色金边帽应在噶玛寺举行象征性戴帽仪式.
按当地传说,噶玛・堆松钦巴初到此地时,首先从山顶看到建寺地基附近的"俄东塘"有上千名仙女翩翩起舞的动人场面.后来"俄东塘"成为噶玛寺历代活佛讲经的道场.此地当时已有一个叫"泽巴"的家族,噶玛・堆松钦巴找到泽巴家后请求让他在此地修行,泽巴家不仅答应,并允许噶玛・堆松钦巴在此地建寺院.堆松钦巴修筑的第一座佛殿叫"喇嘛拉康",此外还建有三座佛殿.到噶玛巴希时,开始修建噶玛寺的大佛殿.噶玛寺的整体建筑以大佛殿作为主体,大佛殿有150柱的建筑面积,围绕着佛殿建了历代噶玛巴活佛的卧室,强巴佛殿,以及八邦司徒活佛卧室等作为配殿,大经堂正门挂着藏汉两种文字刻写的门匾,内容是:"大明皇帝迎请如来大宝法王西天大善自在佛室楼".经堂均用石块砌成墙,墙面整齐无缝.大经堂的屋顶中央立有铜质法轮,两边为孔雀,据说这种经堂顶饰只有噶玛寺和德格印经院两处,具有特殊的宗教象征意义.由于噶玛寺建寺时间早,佛殿内的壁画形成也相对较早,壁画的色彩,线条,人物造型堪与布达拉宫和萨迦寺壁画媲美,具有很高的艺术价值.经堂内殿有一个叫"喇嘛拉康"的小殿,是噶玛・堆松钦巴时建的早期殿堂,墙面画有整个噶举派的诸大师和噶玛噶举派的历代活佛,噶玛寺的大殿为单檐歇山形式,屋顶覆盖琉璃瓦.屋檐正中是藏族工匠设计建造的"波森格巴登"(狮爪型飞檐);左边为汉族工匠的"甲却森哲得"(龙须型飞檐);右边为纳西族工匠建造的"羌隆钦纳得"(象鼻型飞檐).大殿内一尊17米的弥勒佛,是目前昌都地区唯一保留下来的最大的泥塑像.体现了汉,藏,纳西三个民族工匠智慧的结晶.
寺院外面的右上角有三座高大的泥石结构佛塔,中间是噶玛・堆松钦巴的舍利塔,右边是八邦司徒卓格日钦的"察察"塔,左边是堆松钦巴的得意门生克巴旺格多杰的灵塔.塔的旁边还有一座灵塔殿,俗称无柱殿,殿内供有噶玛巴希的佛牙,墙面上方画有历代噶玛活佛的像,下方画有八邦寺历代司徒活佛的像,其中司徒画像中有汉族使臣到过噶玛寺的历史画面.
噶玛寺作为噶举教派的一座古老寺院,注重学经和修行相结合.僧人进寺后主要伴随着戒律阶梯的晋升进入高僧行列.刚入寺的出家者叫"班德",要想进入"格院"的行列,必须修行三年三月三天,然后才有机会晋升为堪布等寺院的高级执事人员.