A Petőfi Irodalmi Múzeumot 1954-ben hozták létre. Az újonnan alapított múzeum, mint az 1909-től 1945-ig kiállításként és kutatóhelyként működő Petőfi-Ház jogutódja, tekintélyes gyűjteményt örökölt.

A Petőfi-Ház létrehozását 1909-ben nem csak a Petőfi-kultusz intézményesítése sürgette, hanem az a felismerés is, hogy az írói dokumentumok, bár a nemzeti örökség részei, kívül esnek az akkori könyvtárak, múzeumok, levéltárak gyűjtőkörén. A Petőfi Társaság által indított értékőrző vállalkozás, a Petőfi-Ház tevékenysége nemcsak az akkor fellelhető Petőfi-kéziratok, könyvek és relikviák gyűjtésére terjedt ki, hanem megvásárolták Jókai Mórnak vejével, Feszty Árpáddal közös Bajza utcai házát, s a Ház így egyben Jókai emlékeknek és kultusznak is őrzője és ápolója lett. A Petőfi-Házat 1945-ben bombatalálat érte, ekkor a gyűjtemény a Budapesti Történeti Múzeum kezelésébe került. A Petőfi-Ház az 1950-es évek elejétől Petőfi és Jókai mellett József Attilának és Ady Endrének a dokumentumait is gyűjtötte, ennek következtében kinőtte saját kereteit, ez a helyzet önálló Irodalmi Múzeum létrehozását tette szükségessé. A gyűjtemény 1954-ben a József nádor 7. alá költözött, majd 1957-től a Károlyi-palotába, ahol a Múzeum nagyszabású Arany János kiállítással kezdhette meg működését.

Az új, országos Múzeum feladata nem csak a megörökölt hagyatékok korszerű feldolgozása volt, hanem a jelenkori magyar irodalom muzeális becsű anyagainak mindenkori gyűjtése is. Így az Irodalmi Múzeum gyűjtőköre igen szélessé vált, kiterjedt a hazai és határon túli magyar nyelven írott szépirodalomra, levelezésre stb., illetve irodalmi tematikájú tárgyi, képzőművészeti és hangzó dokumentumokra, később az emigráns sajtó, könyv- és kéziratgyűjtemény megalapozására, gyarapítására. A komplex írói, irodalmi hagyatékok fogadására, szakszerű feldolgozására, restaurálására és kiállítás-rendezésre, gyűjteményének közzétételére szakosodott intézmény főosztályokra tagozódó mai szerkezete 1970-ben alakult ki. A Jókai Emlékszoba 1968-tól, a Kassák Múzeum és az Ady Endre Emlékmúzeum 1976-tól a PIM filiáléja.

A múzeumi feladatok már az intézmény megalapításakor magukban foglalták a vidéki irodalmi gyűjtemények és kiállítások felügyeletét is. A PIM az irodalmi muzeológia országos hatókörű intézménye, mely nemcsak a vidéki emlékházak, emlékszobák kiállításainak rendezésében nyújt segítséget, hanem külföldi magyar irodalmi emlékhelyekkel is kapcsolatot tart.

A PIM 1998-ig osztozott a Magyar Nemzeti Múzeum és a Budapest Történeti Múzeum raktár- és munkahelységeivel. Kiköltözésük előtt két évvel korábban megkezdődött a palota műemlék-rekonstrukciója (1996-2000), mely a Petőfi Irodalmi Múzeum három alaptevékenységét - a kiállításokat, a tudományos gyűjtő-földolgozó munkát és a rendezvények szervezését - szolgálta. A belső felújítás részeként a közönség fogadására, kapcsolattartásra alkalmas tereket hoztak létre, így egy 80 fő befogadására alkalmas kávéház és egy könyvesbolt is helyet kapott az épületben. A Petőfi Irodalmi Múzeum közönségkapcsolatai az 1990-es évek végére tovább bővültek. A Múzeum korábbi rendezvényszervező (felolvasó estek, író-olvasótalálkozók, könyvpremierek, konferenciák) gyakorlatára épülve 1998. január 1-jével létrejött a Magyar Irodalom Háza, mely a Magyar Irodalmi Múzeum - Kortárs Irodalmi Központ intézményeit foglalta magába. Az 1998 decemberétől ismét Petőfi nevét viselő Irodalmi Múzeum 2000-ben a Kortárs Irodalmi Központ megszűnése után a Károlyi Palota Kulturális Központ része lett, majd 2003-tól új szervezeti struktúrában, megújult Közönségkapcsolatok és Marketing Főosztállyal látja el - hazai és nemzetközi egybehangzó vélemények szerint - európai színvonalon feladatait.

Az irodalom Múzeuma az elmúlt száz év örökségével jól gazdálkodva, alapításának ötven éves évfordulóját maga mögött hagyva mára olyan eleven színtérré változott, ahol a múlt és a jelen irodalma szorosan összekapcsolódik.