据《北齐书·文宣帝纪》载，北齐天保七年（556）十一月，皇帝高洋下诏精简州郡县：“并省三州、一百五十三郡、五百八十九县。”即墨县遂废。

隋开皇十六年（596）析置州县，遂重设即墨县。即墨城由原址（平度大朱毛村）向东南迁40公里至今址。重设的即墨县除旧即墨所辖部分区域外，还包括原壮武、不其、皋虞三县之地，隶属东莱郡。《隋书·地理志》“东莱郡·即墨”下注：“后齐（北齐）及不其县并废。开皇十六年复，并废不其入焉。”唐五代至宋金时期，皆隶属东莱郡；元代，即墨县先后隶属益都路、淄莱路、般阳路、莱州府等；明初隶属益都路，洪武九年（1376）归胶州领属莱州府。重设后的即墨县“地环山海，形势壮而幅员阔，建置称雄焉……城池亦云壮矣”。

即墨城东迁后，遂将发源于马兰岭流经县城的一条河称为墨水河。明万历版《即墨志·山川》记载：“旧即墨因临墨水而名，今墨水因邑而名。”

隋代所建即墨城规模，因无文字记载已不可考。据清同治版《即墨县志·城池》记载：“即墨县城，隋开皇十六年建，历唐宋五季，旧志无考。元至正十一年，知县吕俊土筑，周四里，高一丈六尺五寸，厚一丈二尺。门三：东曰望海，南曰景岱，西曰临川。”元至正十一年是1351年，所筑即墨城是一座周长约2000米夯土城，开东、南、西三座城门。从元至正到清同治大约500年期间，即墨城曾先后10次修建。其中明万历六年（1578），知县许铤重修时，用砖包砌三座城门，“上各建重楼，四隅有角楼”。万历二十八年（1600），为防御倭寇，知县刘应旗把夯土城墙外包砌城砖，并将城东门改名为“潮海”、城南门改名为“环秀”、城西门改名为“通济”。此后，东、南、西三座城门门额的名称一直沿用至清代。即墨环秀、通济等街道办事处之名，即源于明清即墨城门额名字。

据明万历、清同治版《即墨县志》记载：明洪武二十四年（1391），即墨县人口（包括军户、民户、匠户、灶户等）共126800人；清同治年间，全县有72571户，人口共374661人，其中即墨“城内三百四十五户，一千六百八十九口，四关共一千七百三十三户，三千五百三十四口”。

明清即墨城“公署以居，令必分司……坊巷棋布于中”。城内以十字大街为中心，划分为四隅三厢，有县衙、孔庙、考院、参将署、城隍庙等建筑以及民宅、商铺等。坐落于即墨市中山街东端路北的即墨县衙，是即墨迁城立衙的历史见证，是山东省唯一现存三堂老县衙。县衙大门后，便是古朴庄重的县衙正堂。正堂也称“大堂”“公堂”，是诉讼、审案场所。正堂上方悬挂“即墨县正堂”牌匾，门口立柱上镌刻施政楹联：“堂外四时春和风甘雨，案头三尺法烈日严霜。”正堂之后为二堂，是县令议事办公和会客之处。二堂后为三堂，是县令与眷属起居之处。即墨县衙在明清两代先后进行过10余次修葺与扩建，逐步形成具有北方特色的古县衙建筑群。

牌坊众多曾是明清即墨县城一大特色。据同治版《即墨县志·坊表》记载：明代即墨城内外共竖牌坊46座（其中节孝牌坊5座），清初至同治年间城内外共竖牌坊62座（其中节孝牌坊55座），累计先后竖起牌坊108座。至清朝末年，即墨城里仍有42座石牌坊，其中功名牌坊33座，节孝牌坊9座，这些牌坊大多是用花岗岩或汉白玉等石料雕砌而成，其雕镌之精美，造型之典雅，堪称即墨城一大胜景。

即墨城南北大街县署前的一座“太保”坊，是明代兵部尚书黄嘉善所立，相传牌坊题字是著名书画家、东阁大学士王铎所书。立于东门里大街的一座牌坊，是为即墨黄氏家族的黄昭、黄正、黄作圣和黄嘉善合立的“四世一品”坊，相传“四世一品”四字是明代礼部尚书、著名书画家董其昌所书。附近有两座牌坊是为明代监察御史蓝章所立的“绣衣”坊和“都宪”坊，还有一座是为蓝章之子蓝田（监察御史）所立的“亚魁”坊。另有三座牌坊乃为即墨周氏家族所立，分别是为成都府通判周被所立的“恩宠贤臣”坊、右参政周鸿图所立的“保釐两省”坊、国子监祭酒周如砥所立的“世恩”坊，“世恩”坊是即墨城古牌坊群中最精美壮观的一座。当年在即墨城内青砖黑瓦、鳞次栉比的古建筑群中，竖立着许多如此高大的石牌坊，是一种颇具历史文化内涵的人文景观。