Akkor beszélünk manipulációról - például a propagandában -, ha a befogadó nem észleli a tudatmódosítási szándékot. Ehhez azonban legalább a befolyásolási mechanizmus ismeretére van szükség. Ezen ismeretek korlátozhatók az oktatás minőségének csökkentésével, vagy új befolyásolási lehetőségek kitalálásával. Erre kiválóan alkalmas a MI. (MG)

Jelenlegi ismereteink szerint az agyi tevékenységek mindössze 5 százaléka tudatos, a fennmaradó 95 százalék a tudat alatt zajlik, és nem tudjuk irányítani. Ez azonban nem jelenti azt, hogy ne lehetne befolyásolni, és az MI épp ezt teheti meg - véli a barcelonai Universitat Oberta de Catalunya jog- és államtudományi karának dékánja. Szerinte az MI adatokat gyűjthet az emberek életéről, majd olyan helyzetet alakít ki, amelyben - statisztikai valószínűség szerint - már előre tudja, hogy a felhasználó miként fog dönteni. Illetve bizonyos szereplők alkalmazásokat vagy eszközöket használhatnak olyan impulzusok létrehozására, amelyek hatására impulzív reakciókat generál az ember tudatalattija. Ahogy egyre fejlettebb algoritmusokat készítenek, úgy válnak mind elterjedtebbé az említett módszerek - véli a kutató.

Az EU szabályozása igyekszik előre jelezni a mesterséges intelligencia ezen és más felhasználási módjainak jövőbeni kockázatát. Az eredeti javaslat egyik cikkelye kifejezett tilalmat fogalmazott meg minden olyan MI-alapú megoldásra, amely nem tudatos szinten képes befolyásolni az embereket. Ám az újabb és újabb módosítások miatt ez a javaslat már köszönőviszonyban sincs az eredeti szándékkal - figyelmeztet a kutató. A jelenlegi törvényjavaslat csak akkor tiltja az ilyen technikákat, ha azok nyíltan manipulatívak vagy megtévesztőek, és jelentősen befolyásolják az egyének döntéshozatali képességét.