A Nature 2026. április 1-i (!) cikke arra figyelmeztet, hogy a MI elterjedésével súlyos, korábban nem tapasztalt jelenség jelent meg a tudományos kommunikációban: a "hallucinált" hivatkozások. Valósnak tűnő, de nem létező szakirodalmi források, amelyek leggyakrabban MI-vel generált szövegekben fordulnak elő. Az elemzés szerint 2025-ben megjelent publikációk tízezrei tartalmazhatnak ilyen érvénytelen vagy teljesen kitalált hivatkozásokat, folyóiratcikkekben, könyvekben és konferenciakiadványokban egyaránt.

A pontatlan idézés nem új jelenség, azonban a jelenlegi helyzet minőségileg eltér a korábbi hibáktól. Nem egyszerű elírásról vagy hiányos bibliográfiai adatokról van szó, hanem hamis tanulmányokról és nem létező forrásokról. Ezek az idézetek formailag hitelesnek tűnnek: követik az adott tudományterület hivatkozási stílusát, valószerű szerzőket, folyóiratcímeket és évszámokat használnak. Mivel az MI-nek elsődleges célja nem a hitelesség ellenőrzése, a hallucináció csak emberi közreműködéssel, a források egyenkénti, manuális ellenőrzésével deríthető ki.

A probléma felismerését nehezíti, hogy a lektorálás és szerkesztés ritkán terjed ki minden egyes hivatkozás tételes ellenőrzésére, az automatizált ellenőrzés pedig többnyire csak a hivatkozások formáját vizsgálja. A hamis idézetek így bekerülhetnek a szakirodalomba, ami hosszú távon torzíthatja a metaelemzéseket, megnehezítheti az utánkövetést, és tovább gyengítheti a tudományos hitelességbe vetett bizalmat. A jelenség nagyságrendjének becslésére a Nature együttműködésbe kezdett a Grounded AI-val, amely egy Veracity nevű MI-alapú eszközt fejlesztett ki link ami a hivatkozásokat tudományos adatbázisokban és az interneten ellenőrzi, és jelzi, ha valamelyik érvénytelen, nem kapcsolódik a témához, vagy visszavont (retracted) publikációkra utal. A felelősség megoszlik a kutatók, szerkesztők, kiadók és technológiai fejlesztők között. Szó esik az MI-használat átláthatóbb feltüntetéséről, szigorúbb szerkesztőségi ellenőrzésekről és új technikai megoldások szükségességéről, ugyanakkor a szerzők hangsúlyozzák, hogy kizárólag technológiai eszközökkel nem kezelhető a probléma.

E ponton válik különösen fontossá a könyvtárosok szerepe, bár a cikk nem nevesíti őket. Mivel kulcsszerepet játszhat az MI-vel kapcsolatos információs műveltség oktatásában, a forrásellenőrzés tanításában és az intézményi irányelvek kialakításában, hozzájárulva a tudományos hitelesség megőrzéséhez. (Ref.: Hajnal Ward Judit és Microsoft 365 Copilot, Enterprise verzió, Rutgers Egyetem)