אחד מתנאי התרומה, כפי שנזכרו במכתבו של רוקפלר הבו, היה כי על הבנייה להסתיים בינואר 1931. אך כבר בראשית הדרך היה ברור כי העבודות תתעכבנה בשל מספר סיבות: (1) הצורך לבצע חפירות הצלה לפני תחילת העבודות; (2) בעיות בטחון ואי שקט פוליטי ששררו בארץ בשנת 1929 (מאורעות תרפ"ט); (3) הקושי בהשגת אבן משובחת עד לפתיחת המחצבות בדרך ליריחו.
חמש שנים ארכה הבנייה וכבר ב-20 במאי 1935 עברה מחלקת העתיקות לבניין החדש והוחל בהכנת התצוגה המוזיאלית. פתיחת התצוגה נקבעה ל-11 בינואר 1938, אך זו נדחתה בשל רציחתו של הארכיאולוג הבריטי ג.גל. סטארקי בידי ערבים בהר חברון שעה שהיה בדרכו מהחפירות בלכיש לטקס הפתיחה. הטקס התקיים לבסוף ב-13 בינואר של אותה שנה במעמד הנציב העליון. מהטקס נעדרו שתי הדמויות העיקריות שפעלו להקמתו של המוזיאון: ג'והן ד. רוקפלר הבן ואוסטין הריסון. יתרה מזאת, רוקפלר מעולם לא ראה במו עיניו את המבנה הנושא את שמו.