北魏永安二年（529）分青州置。取胶水为名（《太平寰宇记》）。治东武县（今山东诸城市）。辖境约当今山东胶莱河以西，汶河、潍河以东地区。隋开皇五年（585）改为密州。