山东泰山足球俱乐部前身是山东队（1956年），1979年夺得第四届全运会冠军，这是山东足球史上第一个全国冠军。1994年中国足球联赛（甲A联赛）实行了职业化，山东队成为中国职业足球甲A联赛创始球队之一，并于1993年12月2日改组正式成立山东泰山足球俱乐部，1998年1月5日正式更名为山东鲁能泰山足球俱乐部。
山东鲁能是中国顶级联赛传统四大豪门之一，与大连实德、上海申花和北京国安的比赛被中国球迷称之为国家德比。山东鲁能曾获得中国顶级联赛冠军4次（1次甲A和3次中超），足协杯冠军6次，中超杯冠军1次。1999年夺得中国职业联赛历史上首个双冠王，2006年夺得联赛冠军和足协杯冠军。2014年获得足协杯冠军。
山东鲁能在中国足坛极负盛名，曾为各系列国字号输送国脚，而且在近年来的中超、中甲各队随处可见鲁能青训出品的队员。2021年，山东鲁能泰山正式改名为山东泰山。
