Els antecedents de les col·leccions del museu es troben en la tasca de recuperació duta a terme durant el segle XIX per institucions com la Reial Acadèmia de Bones Lletres de Barcelona o la Comissió Provincial de Monuments. L'any 1879, l'Estat crea el Museu Provincial d'Antiguitats a la capella de Santa Àgata. A partir de 1882 es crea al parc de la Ciutadella, per iniciativa municipal, un seguit d'instal·lacions museístiques, fins a la fundació, l'any 1915, del Museu d'Art i del Museu d’Arqueologia a l'antic arsenal de la Ciutadella (actual Parlament de Catalunya).
El 1932, la Generalitat republicana funda el nou Museu d'Arqueologia de Catalunya a l'edifici on es troba actualment, el Palau d'Arts Gràfiques, un pavelló d'inspiració renaixentista de l'Exposició Universal del 1929, que s'inaugurà el 1935 amb Pere Bosch Gimpera com a director. El Museu acull les col·leccions d'arqueologia del Museu del Parc de la Ciutadella, el fons lapidari de Santa Àgata -pertanyent a l'Estat-, a més de nombrosos fons de diverses procedències.
Després de la Guerra Civil (1939) la gestió del Museu es transfereix a la Diputació de Barcelona, anomenant-se Museu Arqueològic de Barcelona. El 1995, la Diputació va transferir la gestió del museu a la Generalitat de Catalunya i va passar a formar part del Museu d'Arqueologia de Catalunya.