古时候徐州是现在的江苏省、山东、安徽地域。徐州是古代九州之一。徐州作为一个地理分区,基本在淮河以北、山东泰山南端、江海往西,涉及到江苏北部、安徽北部、山东南部地区,的为鲜红色黏土。三国时期徐州是省一级的行政区域,而当时治所在彭城,治所就等于是政府部门所在城市,彭城就是现在江苏省徐州市。
徐州有悠久的历史,6000多年以前,徐州先辈就在此周转辛勤劳动。三国时,三国曹操迁徐州知州部于彭城,彭城始称徐州。南北朝时期各朝代曾设彭城国或徐州,国都或治所多的是彭城。
民国初,废徐州府,府地附郭铜山县,后曾设张贵道,治所在铜山(徐州)。抗战胜利后,国民党仍置徐州市,属江苏省。有名的三大战役之一的淮海战役主要是以徐州为核心进行的。
1949年因江苏省还未完全释放,徐州市暂由山东托管。1953年划回江苏省,并同时成立徐州会员专区。专署驻徐州市。1958年,缘由江苏省辖的徐州市划入徐州会员专区领导干部。1970年,徐州会员专区改叫徐州地域。