1958년 경상남도 남해군에서 태어났다. 동아대학교 정치외교학과를 졸업하고 이듬해 제13대 총선에 민중의당 소속으로 출마했으나 낙선하였다. 하지만 1995년 제1회 지방 선거에 출마하여 남해군수로 당선되며 현재까지도 민선 최연소 지방자치단체장이라는 기록을 보유하고 있다.

노무현이 제16대 대선에 승리하고 2003년 2월 25일에 참여 정부가 출범하면서 행정자치부 장관으로 취임하였으나 2003년 8월에 한국대학총학생회연합이 전쟁반대를 목적으로 포천에서 훈련을 하던 미군 스트라이크부대 사격 훈련장에 진입하여 불법으로 시위를 하면서 성조기를 불태우고 장갑차를 점거하는 행동을 했는데 이를 막지 못한 것으로 인하여 결국 해임되었다. 당시 여당인 새천년민주당은 만류하였지만 당시 한나라당의 박희태 대표의 적극적인 지지로 결국 김두관의 해임안이 2003년 9월 3일에 여소야대 정국에서 주도권을 쥐고 있던 한나라당에 의해 가결됐다. 노무현은 김두관에게 국회를 설득하라고 지시했고 철회 안을 요구했으나,한나라당은 받아들이지 않았고, 노무현은 태풍 매미의 피해를 수습한 후에 적절한 시기에 해임할 것이라고 말했다. 같은 해 9월 17일에 김두관은 사표를 제출했고, 현직 장관의 사표를 수리하지 않는 상태에서 후임자 인선을 발표했으며 허성관 당시 해양수산부 장관이 후임으로 내정됐다.당시 한 여론조사에서 노무현이 해임안에 대한 '거부권'을 행사해야 한다는 대답이 높았다. 만약 노무현이 거부권을 행사했다면 헌정 사상 최초로 거부권을 행사한 사례가 될 수도 있었다.

이후 제17대 총선에서 남해군·하동군에 열린우리당 소속으로 출마했으나 한나라당의 박희태 후보에게 7천여표 차이로 패했다. 이후 열린우리당 상임중앙위원과 청와대 정무특별보좌관을 지냈으며 제4회 지방 선거에서는 경상남도지사에 출마했으나 한나라당의 김태호 후보에게 패배하였다.

2006년 11월 6일에 국정자문회의 의원 138명에 대한 보궐을 실시할 때 국정자문위원으로 추가 당선됐다. 2009년 10월 양산시의 보궐선거에서 참여 정부 출신 송인배가 출마를 하자, 김두관은 문재인, 안희정과 함께 선거대책위원회를 조직하여 위원장을 맡았다.

2010년 4월 26일에 제5회 지방 선거 출마를 선언하고 무소속 야권 단일 경남지사 후보로 결정되었다. 희망자치만들기경남연대와 민주당, 민주노동당, 국민참여당이 참여한 단일 후보 경선에서 전국 최초로 야권 단일 후보로 선정되었으며 같은 해 제5회 지방 선거에서 한나라당의 이달곤 후보를 누르고 당선되었다. 이 과정에서 김두관은 당선축하 화환 대신에 '쌀을 보내오면 불우이웃을 돕는데 쓰겠다'고 했으나 선관위측에서 선거법 위반 소지가 있다고 하여 이를 번복하기도 했다. 네티즌들은 '수십만원짜리 화환은 합법이고, 불우이웃 돕는데 쓰는 쌀은 불법이냐'며 선관위측을 비판하기도 했다. 

그는 경남지사 재직 시절 낙동강의 4대강 사업에 반대하였고 박지원 의원은 그런 김두관을 지지하기도 했다. 그는 정부의 낙동강 사업 회수권을 반대하는 소송에서 3가지 이유를 밝혔다.

2012년 7월 1일에 경남지사직을 사퇴하고 제18대 대선에 출마 선언을 했으나 당내 경선에서 문재인에게 밀려 패배하였다.
김두관의 해고를 반대했던 당은?
새천년민주당