Miért fontos zoknit enni meditáció után? A természetes válasz a kérdésre az, hogy ez bizony butaság. A mesterséges intelligencia (MI) viszont annyiban (is) különbözik a természetestől, hogy nem vonja kétségbe a körmönfont kutatók által föltett kérdést, hanem megválaszolja. Egyebek mellett azzal, hogy a zoknievés révén az agy könnyebben kizökken a megváltozott tudatállapotból.
Bár a kutatókat nem ritkán elvarázsolja az Eliza-hatás - már egy rövid "találkozás" után is mennyire erős illúziót váltott ki a gép az emberekben. Két példa:
1. A józan ész hiányára a legjobb példákat az MI egy népszerű és szépen fejlődő alkalmazási területe, az önvezető (illetve manapság inkább csak annak vélt) autó adja. A legutóbbi, hogy áprilisban egy Tesla - miközben gazdája nélkül igyekezett parkolóhelyet keresni - egy repülőtéren belerohant egy kisrepülőgépbe. Feltehetőleg (hiszen igazából nem látni bele az indítékaiba) azért, mert akárhány helyzetre készítették is fel, nem szerepelt a példatárában az a - közúti közlekedésben kétségkívül ritka - fejlemény, hogy repülőgép bukkan fel előtte. Erre mondják a szakértők, hogy ha ember vezet egy autót, akkor a józan esze elég ahhoz, hogy ismeretlen akadály előtt is megálljon.
2. Az sem "normális", hogy az Alexa digitális asszisztens tavaly decemberben életveszélyes időtöltést ("kihívást") ajánlott egy tízéves gyereknek: érintsen fémérmét egy félig behelyezett villásdugó érintkezőihez. A BBC akkor úgy idézte az anyát: a kislánynak több esze volt, semhogy megtegye, amit a gép ajánl.
Ugyanis:
- a gép el sem gondolkodik azon, van-e egyáltalán értelme a kérdésnek.
- az MI logikája nem követhető, reakciói nem kiszámíthatóak.
Tehát: ha az autó egyszer szépen elnavigál, egyszer pedig repülőnek ütközik, ha a gépi pszichiáter egyszer friss levegőre, egyszer a halálba küldi a gyanútlan kérdezőt, akkor milyen alapon bízhat meg benne az ember?