Κατά την διάρκεια του Δεύτερου Παγκοσμίου Πολέμου πολλά από τα εκθέματα αποθηκεύτηκαν στα υπόγεια του Εθνικού Αρχαιολογικού Μουσείου και στις σπηλιές των γειτονικών λόφων. Επανήλθαν στο μουσείο μετά το τέλος του πολέμου και τοποθετήθηκαν προσωρινά στα 1946 και 1947.
Στα 1953 άρχισαν οι εργασίες για την επέκταση του μουσείου σε σχέδια του αρχιτέκτονα Πάτροκλου Καραντινού: Κατεδαφίστηκε το μικρότερο κτίριο, κτίστηκαν νέες αίθουσες και άλλαξε η διαρρύθμιση των παλιών. Οι πρώτες αίθουσες άνοιξαν το 1956 και η επανέκθεση ολοκληρώθηκε το 1964 με την επιμέλεια του αρχαιολόγου Γιάννη Μηλιάδη.
Παρά τις διαδοχικές επεκτάσεις το κτίριο δεν είχε τις δυνατότητες έκθεσης των ευρημάτων που σταδιακά ανακαλύφθηκαν στον βράχο, ώστε ήδη από το 1974 εγέρθηκε το θέμα της οικοδόμηση ενός νέου κτιρίου. Η ανέγερση νέου μουσείου κρίθηκε επιτακτική καθώς η Ελλάδα άρχισε να προβάλει έντονα το ζήτημα της επιστροφής των μαρμάρων του Παρθενώνα από το Βρετανικό Μουσείο.
Για αυτό το σκοπό προκηρύχθηκαν δύο εθνικοί διαγωνισμοί (1976 και 1979), οι οποίοι απέτυχαν καθώς τα επιλεχθέντα οικόπεδα κρίθηκαν ακατάλληλα, ενώ ένας τρίτος διεθνής διαγωνισμός (1989) ακυρώθηκε τελικά το 1999 όταν ανακαλύφθηκε εκτενής αρχαιολογικός χώρος στο οικόπεδο του στρατοπέδου Μακρυγιάννη που είχε επιλεγεί. Στον αρχαιολογικό χώρο αποκαλύφθηκαν ιδιωτικές κατοικίες και εργαστήρια από την Κλασική εποχή ως και τα βυζαντινά χρόνια. Μετά την ολοκλήρωση των ανασκαφών και την διευκρίνηση της στρωματογραφίας επιλέχθηκαν τα σημεία στα οποία επιτρέπονταν η θεμελίωση του κτιρίου.
Πρόεδρος του οργανισμού του μουσείου είναι ο επίτιμος καθηγητής Αρχαιολογίας του Αριστοτελείου Πανεπιστημίου, Δημήτριος Παντερμαλής.
Το 2000 προκηρύχθηκε νέος διεθνής διαγωνισμός με πρόσκληση 12 γραφείων τα οποία κλήθηκαν να υποβάλουν τις προτάσεις τους. Οι προτάσεις των διαγωνιζόμενων κρίθηκαν το Σεπτέμβριο του 2001 από διεθνή Επιτροπή Αξιολόγησης και το πρώτο βραβείο απονεμήθηκε στο αρχιτεκτονικό γραφείο του γαλλοελβετού Μπερνάρ Τσουμί και στο ελληνικό γραφείο του Μιχάλη Φωτιάδη της Αρχιτεκτονική Συνεργασία ΕΠΕ. Το δεύτερο βραβείο δόθηκε στους αρχιτέκτονες Ντάνιελ Λίμπεσκιντ, Δ. και Λ. Ποτηροπούλου & Συνεργάτες και το τρίτο στο Γραφείο Μελετών Α.Ν. Τομπάζη.
