他於1950年代加入所羅門，很快在債券部門嶄露頭角，1963年成為合伙人，1978年更當上董事長，建立資產證券化部門。1981年美國國會通過法案令資產證券化急速發展，房地產證券市場規模迅速擴張，令所羅門盆滿缽滿。
1981年，他以5.54億美元把公司所有合伙人股份售予Phibro，讓所羅門變成上市公司。Gutfreund據報因上市賺了4000萬美元。1985年，他登上《商業周刊》封面，標題為「華爾街之王」。1986年其收入達310萬美元，是華爾街投行總裁之冠。自他掌舵以來，公司資本由2.09億美元增至1987年股災前的34億美元。