"A tudomány kicsit olyan, mint egy kirándulás. Hallottad, hogy van valahol egy érdekes, gyönyörű vízesés. Ezért úgy döntesz, néhány barátoddal elmész túrázni, hogy megkeresd, de ehhez készítened kell egy térképet. Néha eltévedtek, de talán eközben is felfedeztek valami mást, ami érdekesnek tűnik, és feljegyzitek. Úton a vízesés felé, a távolban megláttok egy még látványosabb vízesést. Oda még nem tudtok eljutni, de talán egy jövőbeli túrázó kitalál majd egy utat ahhoz is. Van tehát egy folyamat, amíg eljutsz a célodhoz, ami önmagában is nagyon értékes. De ezek az AI-eszközök olyanok, mint a helikopterek, amelyek közvetlenül elrepítenek a vízeséshez, megnézheted, majd visszarepülsz. Semmit sem tanulsz arról, hogyan lehet oda eljutni. Lehet, hogy nem veszel észre más érdekes jelenségeket sem, csak azt a konkrét dolgot, amit kiválasztottál." Így foglalta össze a Big Think YouTube-csatornának adott interjújában Terence Tao, mi a matematikusok problémája a mesterséges intelligencia legújabb felfedezéseivel, eszközeivel. Véleménye sokat nyom a latba: a Kaliforniai Egyetem (UCLA) professzora a matematika legrangosabb elismerésének számító Fields-érem 2006-os kitüntetettje.

Véleménye szerint fennáll a túlillesztés veszélye is. Vagyis az, hogy az AI-modellek a korábban általában helyesnek bizonyult mintázatokat követve igyekeznek "mindenáron" azokhoz közelíteni. Hogy mi ezzel a gond, azt a tudománytörténet leghíresebb példája segíthet megérteni. Annak idején, a geocentrikus világképen dolgozó tudósok, akik abból indultak ki, hogy a bolygók a Föld körül keringenek, a végtelenségig toldozták-foldozták elméletüket. Amikor egy megfigyelés ellentmondott a teóriának, akkor egyszerűen hozzácsaptak még egy paramétert az adatokhoz, majd újra és újra ugyanígy. A végeredmény egy olyan, végtelenségig bonyolított matematikai rendszer lett, amely ugyan még Johannes Kepler korai heliocentrikus megközelítésénél is pontosabban jelezte előre a bolygók várható jövőbeli helyzetét, csak közben alapvetően tévedett a Naprendszer felépítésével és működésével kapcsolatban. Hasonlóan csúszhat félre a mesterséges intelligencia munkája is az eredményt hajszolva.

A mostani átgondolatlan, versenyszerű eredményhajhászás következtében viszont könnyen elveszhet a kudarcokból kovácsolt tudás és a türelmes tanulás általi ismeretszerzés lényege.