A gyűjtemény létrehozója 1973-ban került friss diplomásként a Nógrád megyei Egyházasgergére körzeti orvosnak. Kötődése a vidékhez azonban korábbi gyökerű: szomszédos községből származott, jó módú gazdacsaládból. Ebben az időben már nyilvánvaló volt, hogy a magyar falu életében alapvető korszakváltás zajlott le. Kiss Péter úgy érezte, tennie kell azért, hogy az elődök teremtette paraszti kultúra ne tűnjön el nyomtalanul.

Az ipolytarnóci családi ház portáján szép számmal vártak sorsukra az immár használaton kívül került régi holmik, az egykor volt paraszti élet rekvizítumai. Ezek adták a kiindulási alapot. A későbbiekben is az anyag döntő hányadban innen és a közvetlen környékből (Egyházasgerge, Mihálygerge, Litke) gyarapodott. A tematikus változatosság jól mutatja a gyűjtő törekvését, hogy minél többféle tárgy képviselve legyen a gyűjteményben. Ha módjában állt választani, a régebbi, illetve a díszített tárgyakat részesítette előnyben. Jó érzékére vall, hogy megtalálhatók köztük a vidék néprajzi sajátosságait reprezentáló darabok.

Leginkább a bútorok érdemelnek figyelmet (ácsolt ládák, áttört faragású lócák, székek, feliratos festett nyoszolya, stb.). A változatos szőttesek és hímzések jól szemléltetik a népművészet 20. századi stílusváltását. A korán polgárosodó viseletből egy 1920 körül készült újmenyecske főkötőt érdemes kiemelni. Számbelileg hangsúlyos a kerámia: a változatos tárgytípusokat felvonultató fazekas áruk mellett helyet kaptak gyári termékek is. Néhány mívesebb darab képviseli a pásztorművészet is. A gazdasági eszközök között a kendermunkákhoz tartozó teljes eszközsor megtalálható, benne a szerelmi ajándéknak készült faragott guzsalyok tárgysorával.

Az ipolytarnóci házban elrendezett gyűjtemény nyitva állt mind a környék lakói, mind az erre járó idegen érdeklődők előtt. Kiss doktor elhunytával azonban helyszíni bemutatás feltételei megváltoztak. A Nemzeti Kulturális Alap pályázati támogatása lehetővé tette, hogy a teljes anyag együtt maradva közgyűjteménybe kerüljön 2006-ban. A Palóc Múzeumban az immár "dr. Kiss Péter gyűjtemény"-ként kezelt tárgycsoport 265 egyedi tárgyból áll. Összességében az akkor Losonc vonzáskörébe tartozó, megyei viszonylatban polgárosodottabbnak számító Ipolytarnóc környéki kistáj 20. század elejére jellemző paraszti tárgyi világát dokumentálják.

A gyűjtemény múzeumi kiállításon történő bemutatása ugyancsak a Nemzeti Kulturális Alap támogatásával valósulhatott meg