单县古称单父，由舜帝的老师单卷居住地而得名。

周成王封少子臻于此，为单子国。东周春秋初期，属宋国，后为鲁国单父邑。战国初期，复属宋国。宋灭，改属齐国。秦置单父县，属砀郡，此为单县建县之始。汉代三次为县侯国，一次为县王国。隋朝恢复单父县。唐末置辉州。明洪武元年(1368年)撤单父县，其地直属单州。次年7月，降单州为单县，单县由此定名，一直沿用至今。民国期间，先后属济宁道、曹濮道和国民党山东省第二专署、第十一专署。1939年，日本侵略军建伪单县公署。1940年3月，共产党在单县东南部张寨一带建立单县抗日政府。1943年7月，在单县东北部建立金曹县抗日政府。1944年6月，在单县西南部建立临河县抗日政府；9月以单县东南蔡堂、吴溜地区为依据建立砀山县(1947年曾一度改为华砀县)。1945年12月，临河县改为单虞县。1946年2月，撤销金曹县。1949年2月，砀山、虞城（东虞城）两县黄河故道以北地区，划归单虞县。1949年8月，平原省湖西专署机关进驻单县城，同时，撤销单虞县，恢复原建置，统称单县。1952年11月，随湖西专区改属山东省。1953年8月湖西专区撤销，单县归属菏泽专区。1958年12月，菏泽专区撤销，改属济宁地区。1959年7月，菏泽专区恢复，复属菏泽专区，现属菏泽市。

1994年12月29日，撤销浮岗集乡、李新庄乡，设立浮岗集镇、李新庄镇(鲁政函民字[1996]67号)。

1998年11月9日，撤销李半庄乡，设立莱河镇(鲁政函民字[1998]32号)。1998年底，单县辖37个乡镇。 1999年12月22日，撤销杨楼乡，设立杨楼镇(鲁政函民字[1999]37号)。

2001年，单县辖14个镇、6个乡：时楼镇、单城镇、莱河镇、孙溜镇、郭村镇、高韦庄镇、浮岗镇、黄岗镇、杨楼镇、蔡堂镇、朱集镇、终兴镇、徐寨镇、李新庄镇、谢集乡、高老家乡、曹庄乡、龙王庙乡、张集乡、李田楼乡。

2002年5月14日，省政府批复同意：单县撤销龙王庙乡，设立龙王庙镇，其行政区域和人民政府驻地不变。截至2002年12月31日，单县辖16个镇、4个乡。

县政府驻地原单城镇于2007年撤销，现设为南城、北城、东城、园艺四个街道办事处。县城区面积108.2平方公里，人口52.8万人，其中非农产业人口48万人。

2010年10月撤销李田楼乡，以其原行政区域设立李田楼镇，镇政府驻原李田楼乡政府驻地；撤销谢集乡，以其原行政区域设立谢集镇，镇政府驻原谢集乡政府驻地；撤销孙溜镇，以其原行政区域设立东城街道办事处，办事处机关驻孙溜镇政府驻地。

至此，单县共辖4个街道办事处、16个镇、2个乡：南城街道办事处、北城街道办事处、园艺街道办事处、东城街道办事处、时楼镇、莱河镇、郭村镇、高韦庄镇、浮岗镇、黄岗镇、杨楼镇、蔡堂镇、朱集镇、终兴镇、徐寨镇、李新庄镇、谢集镇、龙王庙镇、张集镇、李田楼镇、高老家乡、曹庄乡。县委、县政府驻地是园艺街道湖西大厦。