Hazánk első kultuszminiszterre, Eötvös József gyermek és ifjúkorának jelentős részét a nagyszülői birtokon, Ercsiben töltötte. Végakaratának megfelelően itt temették el a családi sírboltban. A múzeumot is itt, a családi kastélyhoz tartozó vendégházban rendezték be.

Több éves szervező és gyűjtőmunka után 1971-ben hozta létre az Országos Pedagógiai Könyvtár és Múzeum az ercsi Eötvös József Emlékszobát. Az emlékszobát Ercsi Nagyközség Tanácsa segítségével többször bővítették. A jelenlegi, napjainkban is korszerű és látványos kiállítást 1988-ban alakította ki a Pedagógiai Múzeum. 1997-től a múzeum fenntartását Ercsi Önkormányzata vette át.

A kiállításon túl - melyet évente mintegy háromezren keresnek fel - az érdeklődők rendelkezésére áll az 1997 óta folyamatosan bővülő könyvtár és adattár, mely elsősorban a főiskolai és egyetemi hallgatók munkáját segíti.