總督府位于青島市南區中部的觀海山南坡，面對小青島和青島灣，正處于當時青島市中心處，是當時德國總督辦公的地方，又稱“總督府”。
這座由花崗巖砌成的“總督府”，始建于1903年，1906年竣工，歷時4年。由德國建筑師拉查魯維茨設計，是一座磚石和鋼木混合結構的建筑，建筑面積7500平方米。共耗資85萬德國馬克。

　　這座建筑采用19世紀歐洲公共建筑的對稱平面，主面為三縱五段的對稱處理，中軸線非常突出，建筑平面呈“凹”字型。配以折線型屋頂，覆以簡式紅瓦，開啟有弧狀屋面窗，頂側裝有鐵欄桿，即用于裝飾，又做避雷針，十分精巧。總督府為五層樓房，主體高20米，一、四、五層樓均為窗戶較小的輔助性房間，主要辦公室都在二、三層朝陽的一面，走廊均放在背陰的一面。辦公室寬敞明亮，門窗很大，辦公室外還有長廊式陽臺，室內除裝有柚木護墻板和地板外，別無其它裝飾，使人感到莊重樸實。整個建筑外形非常莊重，處理手法也非常嚴謹。大樓外為一拱圈形大門，進門則是二層了。二層的門廳和三層的會議廳主要大廳都很高大。又由于它背山面海，樓前廣場空間開闊，更顯得甚為壯觀，在青島建筑方位多不規則的市區內，它是少見的一座近似正南正北的建筑物。1914年第一次世界大戰爆發，日本取代德國侵占青島，總督府成為日軍駐青島守備司令部，1922年，我國政府從日本人手中收回青島，此樓成為膠奧商埠督辦公署，1929年4月，總督府又為青島接收專員公署，同年7月成為青島特別市政府的所在地。

　　1938年，日本第二次侵占青島，總督府又為日偽最高統治機關，先后稱為“青島特別市公署”，“青島特別市政府”。1945年日本投降后，國民黨政府接收青島，總督府再次作為青島市政府所在地。

　　1949年6月2日，青島解放。這座辦公大樓獲得了新生，先后為青島市人民政府，青島市人民委員會所在地。現為市人大常委會和市政協的辦公場所。1996年年國務院公布為第四批全國重點文物保護單位。