Երևան քաղաքի պատմության թանգարանը հիմնադրվել է 1931 թվականին, ներկայիս Անդրեյ Սախարովի անվան հրապարակում գտնվող Հրշեջ կամավոր ընկերության շենքում զբաղեցնելով՝ երկու սենյակ։ Այդ ժամանակ ցուցանմուշների թիվը հասնում էր շուրջ 400-ի։ Տարիների ընթացքոմ ավելացող թանգարանային առարկաներն այլևս պետք է տեղափոխվեին նոր շենք, ուստի պատահական չէ, որ 1934 թ. Երևան քաղաքի խորհրդի նախագահությունը որոշում է կայացնում Կոմունալ թանգարանը տեղափոխելու վերաբերյալ։ Նոր շենքի որոնումների արդյունքում 1936 թ. թանգարանը տեղափոխվում է 17-րդ դարի հուշարձան շենք՝ իրանական Կապույտ Մզկիթ, որը ճանապարհորդների հիշատակություններում հայտնի էր Երկնքի մզկիթ անվամբ։ Նույն թվականին էլ, երբ արդեն ֆոնդերում առկա էր 1480 ցուցանմուշ, Կոմունալ թանգարանը վերանվանվում է Երևան քաղաքի պատմության թանգարանի։