Prikupljanjem kamenih spomenika u Augustovu hramu tijekom prve polovine 19. stoljeća počinje stvaranje muzejske zbirke u Puli. Otkriće kamenih, keramičkih i metalnih predmeta u Nezakciju bilo je osnova za utemeljenje Muzeja starina (Museo d'antichità), odnosno Gradskog muzeja (Museo civico della città di Pola) 1902. godine. Njegovo je sjedište bilo u zgradi koje danas nema, na Usponu sv. Stjepana, nedaleko od slavoluka Sergijevaca.

Preseljenjem sjedišta Istarskog društva za arheologiju i zavičajnu povijest (Società istriana di archeologia e storia patria) i prijenosom dijela arheološkog inventara iz Poreča u Pulu, Gradski muzej spaja se s Državnom zbirkom (kameni spomenici) i porečkim Provincijalnim muzejom (Museo Provinciale) u jednu muzejsku ustanovu pokrajinskog značaja pa je tako 1925. utemeljen Kraljevski muzej Istre (Regio Museo dell'Istria). Bogatstvo zbirki nametnulo je potrebu za novim prostorom pa je nekadašnja zgrada austrijske gimnazije (izgrađena 1890.) prilagođena novim potrebama ovog muzeja, koji je otvoren za javnost 1930. godine. Muzej se nalazi na istočnom rubu prapovijesnoga gradinskog naselja i antičke kolonije Pole. Svečana antička Dvojna vrata (Porta Gemina) te otvoreni lapidarij i park, put i široko stubište vode do glavnog ulaza u zgradu, iza koje se nalazi Malo rimsko kazalište. Ta je izložba uz manje izmjene bila dostupna javnosti do kraja Drugoga svjetskog rata, kada je za vrijeme angloameričke uprave većina predmeta prenesena u Italiju.

Godine 1947. ova ustanova mijenja ime u Arheološki muzej Istre i u istom sjedištu kontinuirano djeluje do danas. Sustavnim radom i uz velike napore, nakon restitucije dijela arheološke građe iz Italije 1961., postupno je uređena muzejska zgrada i izrađena didaktičko-vizualna koncepcija cjelokupnog reprezentativnog muzejskog fundusa. Godine 1968. otvoren je preuređeni lapidarij u prizemnim prostorijama (u tijeku je još jedno preuređivanje) i hodnicima muzeja, a 1973. otvorene su izložbene dvorane prapovijesti na 1. katu i antičke, kasnoantičke i srednjovjekovne izložbe na 2. katu muzejske zgrade. Izložbene dvorane AMI-ja nadopunjavaju se novim nalazima s arheoloških lokaliteta Istre (prapovijesnih špilja, gradina i nekropola, antičkih gospodarskih kompleksa, građevina i groblja te sakralnih objekata ranokršćanskog i bizantskog razdoblja, vremena provale barbara i naseljavanja slavenskog življa u Istru).

U sadašnjem je stalnom postavu pažljivim odabirom arheoloških predmeta prikazan razvoj materijalne kulture na prostoru Istre od prapovijesti (paleolitik, neolitik, brončano doba te osobito bogati nalazi iz posljednjeg tisućljeća prije Krista iz nekropola starih Histra - 1. kat) preko razdoblja rimske vladavine (lapidarij u prizemlju zgrade i u hodnicima muzeja, a na 2. katu izloženi su nalazi iz antičkih nekropola, zbirka stakla, keramike, metalnih predmeta, portretne i dekorativne skulpture, građevni materijal), kasnoantičkoga i ranosrednjovjekovnog razdoblja (nalazi iz ranokršćanskih nekropola, kaštela, ranokršćanskih crkava, grobni nalazi - nakit i dijelovi nošnje iz slavenskih nekropola) do razdoblja feudalizacije poluotoka (također na 2. katu) te dio srednjovjekovnog lapidarija (zbirka srednjovjekovne pleterne plastike).

Arheološki muzej Istre danas je ustrojen na Arheološki odjel (koji čine Prapovijesna, Antička, Srednjovjekovna i Novovjekovna zbirka, s Numizmatičkom zbirkom i Zbirkom podvodne arheologije u osnivanju), Dokumentacijski odjel, Knjižnični odjel, Edukacijski odjel i Konzervatorsko-restauratorski odjel. Osim u matičnoj zgradi, muzej ima dislocirane zbirke u pulskom amfiteatru, o kojem i skrbi, potom u Augustovu hramu i franjevačkom samostanu te u Nezakciju.