春秋战国时期，今遵义县为夜郎东北小君长国鳖国地，秦时以鳖国地置鳖县，唐时，今遵义县地先后命为建安县、恭水县、罗蒙县，贞观十六年改罗蒙为遵义，遵义县名从此开始。景龙四年（公元710年），以播州为都督府。明万历二十八年（公元1600年），播州宣慰使杨应龙被明廷李化龙 率师讨平，二十九年“改土归流”，分播州地置遵义、平越两军民府，遵义军民府仍隶属四川，辖遵义等4县1州，今遵义县境域从此奠定。1949年，11月21日，中国人民解放军解放遵义县，11月25日建遵义县人民政府，原遵义城区建为遵义市。1954年4月28日，中共遵义县委、遵义县人民政府机关由遵义市迁驻南白镇，1958年11月12日撤销遵义县建置并入遵义市，1961年8月16日恢复遵义县建置。 遵义县历史文化悠久，人文荟萃，是“沙滩文化”的发祥地，清朝后期，出现了黎庶昌、郑珍、莫友芝等杰出文人学者。