六盘水市在没有成为地级市之前，其所辖区县分属安顺地区和毕节地区。

1964 年，根据中共中央工作会议精神，国家计委和煤炭工业部经过调查对比，决定在贵州西部煤藏丰富的六枝、盘县、水城三县境内建立煤炭基地，成立六盘水特区。1970 年 12 月，六盘水地区成立，六枝、盘县、水城三个县划归六盘水地区管辖。1978 年 12 月 18 日，经国务院批准，六盘水撤地建市。