A múzeum alapítása az 1896. évi millenniumi kiállításhoz kapcsolódik. Ekkor épült fel - Pfaff Ferenc építész tervei alapján - a "Közlekedési Csarnok". Ebből a csarnokból jött létre a Magyar Királyi Közlekedési Múzeum 1899-ben.

A millenniumi kiállítás keretében mutatták be a legfontosabb közlekedési eszközöket, eredeti járműveket és modelleket. Térképek, fotók, grafikonok segítségével foglalták össze a közúti, vasúti közlekedés, valamint a posta és a távírda fejlesztésének eredményeit. Jelentős volt a vízügyekkel, folyamszabályozással, tengerhajózással kapcsolatos anyag is, ezeken keresztül a látogató részletesen megismerhette a vaskapu szabályozásának, illetve a fiumei kikötő építésének körülményeit.

A millenniumi kiállítás sikere bátorította a közlekedés-, vízügy- és a hírközlés szakembereit arra, hogy állandó kiállítást, azaz múzeumot hozzanak létre. Erőfeszítéseik gyümölcseként 1899. május 1-jén nyílt meg az országos gyűjtőkörű Közlekedési Múzeum. A hely adott volt, a millenniumi kiállítási csarnok. A gyűjtemény a már korábban kiállított anyagra épült. A kiállítás legértékesebb része az M=1:5 méretarányú mozdonymodell gyűjtemény volt, amely Európában ma is páratlan.

A második világháború során - 1944-ben - a múzeum és annak gyűjteménye jelentős kárt szenvedett. A gyűjtemény mintegy 30%-a maradt meg. Az újjáépítés hosszú időt vett igénybe. Az új Közlekedési Múzeum a széleskörű támogatottságnak, a vasúti szakemberek ügybuzgalmának eredményeként 1966. április 2-án nyitotta meg kapuit.

A múzeum állandó kiállításain a közúti-, vasúti-, városi közlekedés, a hajózás, az út- és hídépítés tárgyi és írásos emlékei láthatók. Az 1985-ben átadott Repüléstörténeti és Űrhajózási Állandó Kiállítás a hazai repüléstörténet hagyományaival és a magyar repülőgépgyártás relikviáival ismerteti meg az érdeklődőket.