20世纪初，随着青岛市区的规划建设，青岛的公园也逐步发展起来，这些公园都具有欧洲自然式园林风格。

1904年，在会前村旧址建立了植物试验场。1906年，胶澳总督府前小游园完工，被称为“督署前园”。1908年，“督署楼”庭院完成，被称为“督办官邸花园”，又称为“官邸公园”，这是青岛最早具有公园性质的园林绿地。1908年，植物试验场局部开放，有人开始称其为“森林公园”。

1914年，日本第一次侵占青岛后，将“森林公园”定名为“旭公园”，将贮水山东南侧德军操练场坡地称“若鹤公园”，继而又建起“新町公园”、“深山公园”、“千叶公园”，将前时期建的“梯利华兹街心公园”改称“大村公园”，将天后宫前绿地称为“舞鹤公园”。

1922年北洋政府收回青岛后，依次将“旭公园”、“若鹤公园”、“新町公园”、“深山公园”、“千叶公园”、“大村公园”改称为第一、第二、第三、第四、第五、第六公园，将“舞鹤公园”改称“天后公园”。1930年在汇泉湾西北侧建“若愚公园”，1931年改称“海滨公园”。同期在栈桥入口两侧建“栈桥前园”。

日本第二次侵占青岛期间，城市公园近于荒废。南京国民政府第二次统治青岛期间，公园亦受到破坏。

建国后，市区公园建设得到相应的恢复和发展，中共十一届三中全会以后，青岛市区公园建设发展较快，1990年末，市区公园总数为22处，公园总面积达到378.3万平方米。