山體中間由於被許多條河流切割作用，形成很多陡峭山谷，是穿越太行山的天然通道，也是重要關口。山中眾多雄關中，著名的有位於河北的紫荊關，山西的娘子關、虹梯關、壺關、天井關等。山西高原的河流經太行山流入華北平原，流曲深澈，峽谷毗連，多瀑布湍流。河谷及山前地帶多泉水，以娘子關泉為最大。河谷兩崖有多層溶洞，著名的有陵川的黃圍洞、晉城的黃龍洞、黎城的黃崖洞和北京房山的雲水洞等。在太行山深山區河北贊皇縣，有世界最大的天然迴音壁。
太行山中多東西向陘（橫谷），著名的有軍都陘、薄陽陘、飛狐陘、井陘、滏口陘、白陘、太行陘、幟關陘等，古稱太行八陘，為穿越太行山脈的8條通道。