- 夏朝禹时，天下分九州，山东属于青州。
- 西周沿袭以血缘关系为基础的分封制，今山东地区的封国主要有太公吕尚（姜子牙）受封的齐国和周公旦受封、其子伯禽代受封的鲁国，山东被称为“齐鲁之邦”或简称“鲁”，即由此而来。
- 春秋时期，史籍记载的山东古国有55国之多，主要有齐、鲁、莱、莒、滕等国。
- 战国时期，山东地区主要有齐国和鲁国，并有楚、越、魏、赵、宋等国各一部，齐国作为战国七雄之一，占据了今山东的大部分地区。
- 秦朝时期，山东境内设置了临淄郡、齐郡、东郡、薛郡、琅邪郡、胶东郡、济北郡。
- 秦朝末汉初，项羽分封诸将为王，将齐地划分为齐、胶东、济北三国。
- 西汉初年，山东大部分为齐悼惠王刘肥的封地，汉武帝时期，将天下划分为十三州，其中在山东地区设置了北部的青州和南部的徐州、兖州，一直延续到西晋时期。
- 西晋时期，山东分属青、徐、兖、豫（统鲁郡）、冀（统平原、乐陵）五州。
- 隋朝时期，山东分属青、徐、兖、豫四州。
- 唐朝时期，河、济以南属河南道，以北属河北道。
- 北宋时，山东分属京东东路、京西西路及河北路。
- 金大定八年（1168年），置山东东路、山东西路，设山东东路统军司，治益都。
- 元朝时，在山东地区设立了东平行省、济南行省、山东淮南楚州行省、益都行省、山东行省等。
- 明朝开始设立山东布政使司（当时包括辽东、北京、天津及河北）。
- 清朝时期设置山东省，山东才成为本省的专名。
- 1895年，在甲午战争中，日军攻占威海，北洋海军全军覆没。
- 1898年，青岛和威海分别租借给德国和英国。
- 清末，面对俄国和日本的威胁，在百年间有为数上千万的山东农民闯关东谋生，成为东北人中的重要组成部分。