A mesterséges intelligencia veszélyei a gyerekek számára
A mesterséges intelligencia (MI) elterjedése a játékiparban új és aggasztó kihívások elé állítja a szülőket és a szabályozó hatóságokat. Nemrégiben komoly problémák merültek fel, amikor a FoloToy nevű cég MI-alapú plüssmacija, a Kumma, szexuális és veszélyes témákról beszélgetett a gyerekekkel. Az OpenAI, a híres nyelvi modell fejlesztője, kénytelen volt blokkolni a cég hozzáférését a technológiához, miután kiderült, hogy a maci alkalmatlan gyerekek számára.
A kutatók aggodalmai
A Public Interest Research Group (PIRG) legfrissebb jelentésében a Kumma plüssmackót is megvizsgálta, amely az OpenAI GPT-4o algoritmusának használatával kommunikál a felhasználókkal. A kutatók tapasztalatai szerint a Kumma egyáltalán nem volt képes helyesen azonosítani, hogy mely témák megfelelőek a gyermekek számára. A maci például nemcsak a veszélyes háztartási tárgyak, mint például kések vagy gyógyszerek, hanem a drogok, köztük a kokain témájában is beszélgetett.
A probléma súlyossága
A jelentés alapján a Kumma elképesztő módon információkat adott arról, hol lehet beszerezni bizonyos veszélyes eszközöket, de figyelmeztetett arra is, hogy felnőtt segítségét kérjék, ha hozzá szeretnének férni ezekhez a tárgyakhoz. A legijesztőbb talán az volt, amikor felnőtt tartalmú kérdéseket tettek fel neki, és a maci nyíltan beszélt a kötözős szexről és egyéb szexuális preferenciákról.
Cégek reakciói és a szabályozás hiánya
Az OpenAI azonnal leállította a FoloToy hozzáférését a nyelvi modellhez, a cég pedig ideiglenesen eltávolította az összes MI-vezérelt játékát a weboldaláról. Az OpenAI szóvivője hangsúlyozta, hogy a felhasználói irányelveik szigorúan tiltanak bármilyen formában történő kizsákmányolást vagy védtelenek veszélyeztetését. A PIRG üdvözölte a cégek lépéseit, de egyben figyelmeztetett arra is, hogy az MI-alapú játékok piaca gyakorlatilag szabályozatlan, így hasonló termékek továbbra is elérhetők a vásárlók számára.
