原始社會逐漸解體以后，青島也進入了奴隸制時代。這時的青島地區屬于東夷族生活的地區，后來建為夷國。商周時期，屬國中有齊、周等國，青島一帶屬齊國。炎帝族四岳的后裔呂尚即姜子牙，被周文王尊為師，后來又被周成王封為齊侯，都臨淄，是齊國的締造者。齊國史上最興盛的時期，是齊桓公、管仲時代。桓公吞并了許多小國，成為歷史上著名霸主。自春秋戰國始，齊國一直不失為大國。齊富漁鹽之利，可見濱海的青島地區早因鹽、漁獵而富庶。
秦始皇一統天下，施行郡縣制，分天下為36郡。今青島膠南和膠縣大部屬瑯琊郡；今平度、即墨、萊陽和嶗山縣屬齊郡。當時的即墨為濱海大邑，轄境包括今平度、即墨、嶗山各縣、萊西一部分和今青島市區，城址在今天的平度縣境內的大朱毛，后稱朱毛城。齊威王元年（公元前356年），威王曾召見即墨大夫，《史記·田敬仲完世家》記威王語：“自子之居即墨也…田野闊，民人給，官無留事，東方以寧”，對即墨大夫給以很高評價。
秦末，在農民起義中，六國貴族也紛紛起義。劉邦破楚以后，逐一降滅戰斗在青島一帶的齊國貴族田橫，不愿降漢，自刎身死，其部下500壯士均皆自殺，實為古代壯烈之舉，至今為人稱頌。田橫據守之海島，后人稱為“田橫島”。
漢高祖劉邦建立了西漢王朝，承襲郡縣制，但同時也分封了一些諸侯王。青島地區分屬瑯琊郡和膠東國。建有即墨、皋虞、長廣、平度、壯武、徐鄉、郁秩、不其、黔陬、計斤、柜、姑幕諸等縣。
 
三國時期，青島地區屬魏，即墨隸北海國，不其屬東萊國。西晉統一后，不其縣屬長廣郡并為長廣郡治。
西晉以后，中國出現南北對峙的南北朝時期。北魏時，即墨和不其均屬光州長廣郡，今平度屬膠東縣。北魏孝莊帝永安二年（公元529年），在膠州灣西部建立了膠州。膠州名取之于膠河，河之名取之于河水似膠，史謂以膠名州始此。膠州轄東武、高密、三昌三郡，州治東武（今諸城）。北齊時廢不其縣，前后歷700年之久。
被隋代重新統一了中國，隋文帝開皇十六年（公元596年）重建了即墨縣，其轄境大大小于齊國始建的即墨邑，僅包括漢代的壯武、不其、皋虞3縣，隸于東萊郡，這一轄境直至清末大體沒有變化。新設置的即墨，在今城址建了新的即墨城，城周4里，高1丈6尺，有3個城門，東為朝海，西為涌濟，南為環秀。在膠州灣西岸的舊黔陬縣址建了膠西縣，舊城俗稱土城口。在原長廣縣一帶建立了膠水縣，到明代改 置平度州唐代武德六年（公元623年），并膠西入高密縣，以其地為板橋鎮，成為膠州灣的重要海港。至北宋，由于宋金對峙的形勢，登州（今蓬萊）、萊州（今掖縣）封海閉港，青島一帶的地位突出，在國內外交通貿易中發揮了顯著的作用。
宋元祐三年（公元1088年），宋朝政府在密州板橋鎮設立了市舶司。市舶司為管理港口、船舶、外商、貿易和稅收的政府機構。密州設市舶司后，成為全國設司的五大海港之一也是北方唯一的對外貿易港。同時，以板橋鎮復升格為膠西縣，并兼臨海軍。宋制，府、州、軍、監并重，板橋鎮的地位可謂重極一時。
宋南渡以后，江北盡為金有。金代，青島地區的建置如宋。但膠西縣已為軍港，成為金海軍根據地。同時，宋金之間從各自利益出發，在膠西開設場，以利互市。這是宋金之間唯一的海上交通往來港口
元代，蒙古太祖二十二年（公元1227年），于膠西縣設膠州，其轄境小于隋代，僅領三縣即膠西、即墨、高密，隸屬益都路。元世祖至元二年一度廢即墨，分置掖縣、膠水，旋復。元定都大都（今北京）后，京師供應，仰賴江南，為此開放了南北海上運輸。為了縮短運程，減少海難，節省航時，提高海舶的周轉能力，開鑿了膠萊運河，溝通膠州灣和萊州灣，從黃海直接進入渤海，這在中外海運史上堪稱偉大的壯舉。
明洪武初省膠西縣入膠州，上屬青州府，9年改屬萊州府，下領高密、即墨縣。洪武二年初建膠城，8年改建為磚城，周4里，高8.33米，有迎陽、鎮海、用城3門。
明初“革元舊制，自京師達于郡縣，皆立衛所，外統之都司，內統于五軍都督府，…一郡者設所，連郡者設衛，大率5600人為衛，千一百二十人為千戶所，百十有二人為百戶所”
現在的青島地區，當時設有鱉山、靈山二衛。山衛，下轄浮山所、雄崖所；靈山衛下轄夏河所等。鰲山衛在即墨縣境，衛城建于明洪武二十一年，周5里，高11.67米，有城門個，即鎮海、迎恩、安遠、維山，其規模大于膠、即二縣城。
靈山衛在膠州境內，明洪武五年建城，周3里，高8.33米，永樂二年擴建，約增一倍，周達5公里，均包以城磚，弘治元年又重修過。
清代，州縣建置大體依明代，但各衛、所裁撤，如浮山所改為浮山寨，仍有馬、步軍及運倉。
青島地區以瀕海的地理形勢，既有400多公里的海岸線，又擁有400多平方公里的膠州灣，沿海幾乎到處可以泊船，有眾多的海灣。在清代，塔埠頭、金家口、女姑口、青島口均已成名，有相當規模。塔埠頭，已有通盛京、上海、寧波福建、香港的5條航線；青島口則“旅客商人云集”，“宏舸連軸，巨航接艫”，女姑口“百物鱗集，千艘云屯”；金家口“南通瀏河，北通營口，東通仁川（今朝鮮境），西南通海州”甚至被譽為“沿海城市之冠”。這些港口的發展，對青島地區經濟產生了舉足輕重的影響，也為現代青島城市的發展打下了基礎。