산둥성의 부유한 지주집안 출신으로 본명은 장숙평(張叔平)이다. 1924년 상하이 대학에 들어가서 사회학을 공부하였고, 1925년 중국공산당에 가입했다. 이후 상하이 지역에서 노동운동과 지하운동에 종사했다. 1931년 중앙당의 조직부장으로 임명되어, 이후 당의 보안과 정보 조직의 수장이 되었다.

1933년 당에 의해 모스크바로 파견되어 소련의 보안과 정보에 관련된 기술을 공부하였다. 이때 왕밍과 알게되었고, 왕밍의 원조로 중국공산당의 중앙위원회의 위원이 되었다. 이때 한창이던 스탈린의 숙청을 흉내내어 소련내의 중국공산당 멤버 중 성향이 의심스러운 자들을 트로츠키주의자로 낙인찍어 강제수용소(굴라그)로 보내거나 처형하기도 하였다.

1935년 이름을 캉셩으로 바꾸고 중국공산당의 본부가 있던 옌안으로 돌아왔다. 이때 재빨리 권력이동의 흐름을 눈치채고 왕밍을 떠나 마오쩌둥의 편에 서서 왕밍을 공격하는 데 앞장섰다. 마오는 그 보답으로 그를 당의 보안을 책임진 사회부의 수장으로 앉혔다. 그는 이 조직을 맡아 일본이나 국민당의 첩자로 낙인찍어 수많은 인사들을 처형하였고, 그중에는 님 웨일즈의 저서 아리랑의 주인공인 조선인 독립투사 김산도 있었다. 

1942년부터 마오와 캉은 당에 마오사상을 뿌리내리기 위한 정풍운동을 주도하여 왕밍과 장궈타오의 잔당을 뿌리뽑으려고 했고, 이에 따라 수많은 인사들이 스파이, 배신자의 명목으로 체포나 고문을 당하고 처형되었다. 캉이 옌안에서 이끈 이러한 "적색테러"는 너무 지나치고 광범위했기 때문에, 이후에 캉은 공개적으로 사죄하고 한직으로 좌천되었지만, 나름대로 보안에 기여하여 1930년대 빈번했던 공산당의 정보누출은 거의 없어졌다. 그 결과 국민당측에서 옌안의 전략전술은 거의 알아차릴 수 없어 공산당의 최종승리에 기여했다. 또한 같은 산둥 출신이던 장칭을 마오에게 소개하였고, 장칭과 마오는 후에 결혼하였다.

산둥 지역으로 좌천된 캉은 국공내전 기간 동안 그지역의 토지개혁을 주도하였지만, 중화인민공화국 성립 이후에도 류샤오치, 저우언라이의 견제와 나쁜건강 때문에 좀처럼 권력의 핵심으로 나올 수 없었다. 1959년 펑더화이의 실각과 관련된 "반우파투쟁"과 1960년 중소 공산당의 결렬로 인해 다시 마오의 신임을 받아 권력을 핵심에 진입하였다. 이후 공안기관인 중국공산당 중앙조사부장을 맡아 장칭과 함께 문화대혁명을 주도하였고, 공포분위기 조성을 위해 "내몽골인민당 사건"과, "윈난성 당서기 자오쩬민 스파이사건"을 조작하여 수많은 인사들을 죽음으로 내몰았고, 류샤오치,덩샤오핑,펑더화이의 박해에도 관여하였다. 캉은 옌안시절의 좌천을 교훈삼아 이러한 박해작업에서 직접 손에 피를 묻히지 않고 홍위병의 손에 맡겨 책임을 교묘히 회피하였고, 그에 대한 마오의 신임도 높아져서 린뱌오의 몰락 이후 1974년에는 당부주석에 취임하고, 당서열 4위까지 오르기도 하였다.

이후 저우언라이와 덩샤오핑을 겨눈 음모적인 운동을 준비하던 중 1975년 암으로 사망하였다.
중국공산당의 본사는 어디에 있나요?
옌안