山东，最初作为一个地理概念，主要指崤山、华山或太行山以东的黄河 流域广大地区。至金代设置山东东、西二路，“山东”始作为政区名称。清初设置山东省，“山东”才成为本省的专名。山东行政区划溯源，与全国一样。大致萌芽于夏代。在氏族部落基础上联成的一些“方国”。

今山东地域范围的方国，文献 上记载的有130多国。其中，夏 后氏后国和夏世侯伯之国13个 ，商氏后国和商氏侯伯之国15个 ，东夷族氏族部落演进为国者100多个。西周沿袭以血缘关系为基础的分封制，对原商王朝统治的广大地区实行“封邦建国”。

今山东地区的封国主要有：太公吕尚（姜子牙）受封的 齐国和周公旦受封、其子伯禽代受封的鲁国。山东被称 为“齐鲁之邦”或简称“鲁”，即由此而来。齐、鲁两大国之外，还有与周王朝同姓（姬）的曹、滕、郜等国。同时，夏商时期山东境内的古国大多数继续存在于西周。到春秋时期，史籍记载的山东古国有55国之多，主要有齐、鲁、莱、莒、滕等国。战国时期，山东地区主要有齐国和鲁国，并有楚、越、魏、赵、宋等国各一部。齐国作为“战国七雄”之一，占据了今山东的大部分地区。

秦统一后，在山东分置齐、琅琊、 东海、东、薛等郡。西汉初有十 郡六国，东汉分属青、兖、徐、 豫四州，三国时大体略同。西晋初山东分属青、徐、兖、豫（统鲁郡）、冀（统平原、乐陵）五洲。永嘉以后，先后为后赵、前燕、前秦、后燕、南燕、东晋、刘宋、北魏、东魏、北齐、北周所据有。隋统一后，分属青、徐、兖、豫四洲。唐代，河、济以南属河南道，以北属河北道。