章高元驻兵青岛后，为停靠北洋水师舰船和运输军需物资，于1892年在青岛湾修建两座栈桥（码头），即前海栈桥（亦称青岛栈桥、南海栈桥）和衙门桥（又称蜗牛桥）。

德军侵占青岛后，为长期霸占青岛，并作为远东的政治、军事中心和经济掠夺基地，在1898～1908年期间，先后建成小港（1901年）、大港一号码头北岸壁（1904年）、二号码头（1906年）、五号码头（1906年）和四号码头（1908年）。1906年，在五号码头建成1.6万吨浮船坞1座。德占期间，青岛港有7座码头，其中军用码头4座，占57%；有23个泊位，其中军用泊位17个，占74%。

日军第一次侵占青岛后，为达到其军事侵略和经济掠夺的目的，把发展小港放在重于大港的位置。1916～1918年，对小港进行扩建（增建1座浮码头）。同时，全力打捞在日德战争中击沉或自沉的舰船。将在大港打捞出的3艘商船和1座浮船坞，不经中国政府允许，偷运到日本佐世保。

北洋政府和南京国民政府接管青岛后，在重点建设大港的同时，还着眼于小港和海西小码头的建设。1929年后，南京国民政府除修建大港三号码头（1932～1936年）外，还修建青岛船坞、小港码头、薛家岛码头等。在此期间，青岛港名为中国政府管辖，实为日本所控制。日本海军舰船任意在青岛港靠泊。1936年10月至1937年4月，在半年时间里，进港日舰达100余艘，进出港约200余次。日本陆、海军还多次在青岛港强行登陆，镇压和屠杀中国人民。

日军第二次侵占青岛后，为实现其侵华政策的需要，于1939～1943年，修建了大港六号码头。并于1940～1943年，修建大港一号码头南岸壁。日占期间，大港一号至五号码头，除三、五号码头部分泊位允许一般商船停靠外，其余均被日本陆、海军占用。在31个泊位中，军用泊位占25%以上。

日军投降后，美军在青岛登陆。美、蒋相互勾结，把青岛港变为扩大内战的重要基地。军事运输压倒一切，滥占航道、港地、泊位、仓库和堆栈。1945年10月至1946年4月，在大港共系靠舰船5693艘次，美舰则达5459艘次，商船只有234艘次，军舰为商船的23倍。1945年10～12月，用于军事物资装卸的工人数合计为17万人次。此外，在港内还驻有国民党陆、海军及宪兵、警察，控制青岛港。

1949年6月2日青岛解放后，人民解放军陆、海、空军部队相继进驻青岛。由于青岛地理位置十分重要，具有良好的海湾及航行、泊船条件，自50年代起，驻青海军和陆军即在胶州湾等海湾，始建军用码头和基地。