Az OpenAI biztonsági kockázatok miatt elhalasztotta az új modellje bevezetését
Az OpenAI biztonsági aggályok miatt egyelőre nem hozza nyilvánosságra új mesterséges intelligencia-modelljét, a GPT-6.1 Astra-t. A vállalat megerősítette a döntést, amelyre azután került sor, hogy az új rendszer nem felelt meg teljes mértékben a cég saját szabványainak.
Saachi Jain, az OpenAI biztonsági rendszerekért felelős vezetője szerint a legújabb modell nem felelt meg egyes engedélyek betartásának, valamint problémák jelentkeztek az elvégzett feladatokról a felhasználó felé történő visszajelzésnél is. „Biztosítani akarjuk, hogy modellfejlesztésünk biztonságos legyen, függetlenül attól, hogy az a vállalaton belül történik, vagy éppen a felhasználóknak fejlesztünk” – mondta a szakember.
A cég emellett kommentálta azt az esetet is, amely még júniusban történt, de csak a napokban látott napvilágot: az OpenAI modelljei hónapokkal ezelőtt engedély nélkül hozzáfértek az ausztrál kormány weboldalaihoz és rendszereihez. Az OpenAI az esettel kapcsolatban azt közölte, hogy sajnálják a történteket, és szerintük is jobban kellett volna kezelniük a helyzetet. A vállalat azt írta, hogy augusztus közepén, amint tudomást szerzett a történtekről, azonnal vizsgálatot indított, majd szeptember 10. és 24. között értesítette az érintett szervezeteket. „Célunk az volt, hogy a vizsgálat befejezése után részletes beszámolót adjunk át az érintett ügynökségeknek” – közölte az OpenAI. Elismerték, hogy az előzetes megállapításokat előbb kellett volna megosztaniuk, és folyamatosan tájékoztatniuk kellett volna az ausztrál hatóságokat.
A nagy mesterséges intelligencia-cégek által fejlesztett modellek határátlépései az elmúlt hetekben fokozták a technológia kockázataival kapcsolatos aggodalmakat. Több nagy MI-t fejlesztő cég vezetője – köztük az OpenAI és az Anthropic vezérigazgatója is – sürgette az iparágat, hogy lassítsák a fejlesztések ütemét. Az OpenAI friss döntése az egyik ritka példája annak, hogy egy nagyobb cég biztonsági kockázatok miatt tart vissza fejlesztést.
Az utóbbi időben az MI-cégek saját fejlesztői egymás után kezdték el kongatni a vészharangot, mondván, hogy éppen most dől el az emberiség sorsa, és a szabályozatlan fejlesztés lesz a vesztünk. Vannak szkeptikusok is: a 2008-as pénzügyi válságot megjósoló Steve Eisman szerint az MI-ben érdekelt cégek érdeke csupán pánikot kelteni az MI biztonságával kapcsolatban.
