MI-fejlesztők világvége-víziói és a valós kockázatok
Az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat és szervezet nemrég közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára. Más kutatók szerint a fejlesztés jelenlegi kiélezett versenye még komolyabb veszélyt jelenthet: véleményük szerint a következő egy-két évben a nagy MI-cégek eldönthetik az emberiség sorsát, és több mint 10 százalék az esélye annak, hogy a technológia a következő évtizedben kiirtja a fajunkat.
Érdemes kettéválasztani a kétfajta fenyegetést: az elszabadult, ellenőrizhetetlen mesterséges intelligenciát, és a technológiát felhasználó bűnözőket. Előbbire a legtöbb független kutató szerint a jelenlegi tudásunk alapján elég kicsi az esély, utóbbi viszont reális veszély lehet. A teljhatalmat szerző MI-től tartók általában a teljes rekurzív önfejlesztést és az illeszkedési problémát említik. A rekurzív önfejlesztés során az MI egyedül, emberi beavatkozás nélkül fejlesztené magát – Jacob Coxon, aki az OpenAI után az Anthropicnál is felmondott, éppen amiatt aggódik, hogy a vállalatok az önmagát fejlesztő szuperintelligencia felé rohannak. Az illeszkedési probléma pedig azt jelenti, hogy egy MI valóban azt teszi-e, amit szeretnénk, vagy amit mondunk neki. Ha egy jövőbeli szuperintelligenciának azt a feladatot adjuk, hogy mentse meg a bolygót, lehetséges, hogy a legegyszerűbb megoldásként az emberiség kiirtását találja – a gép a feladatát tökéletesen elvégezte, de nem azt tette, amit szerettünk volna.
Biofegyverek, szuperhekkerek és az összeomló internet
Az Anthropic nemrég kiadott egy jelentést, amelyben arra figyelmeztetett: bűnözők, államok által támogatott rosszakaró csoportok, kémszoftvereket fejlesztő vállalatok, tudósok és propagandisták is próbálták már felhasználni a cég nagy teljesítményű modelljeit rakéták és bombák tervezésére, halálos kórokozók létrehozására, illetve ellenségeik megfigyelésére és befolyásolására. A cég szerint a biológiai célú visszaélések jelentik a legsúlyosabb kockázatot. Öt konkrét esetet is bemutattak, amelyek során meg nem nevezett országokból érkezett kutatók vírusokat vagy baktériumokat akartak módosítani a Claude segítségével, köztük a chikungunyát vagy a madárinfluenzát.
Augusztusban a Stanford Egyetem kutatói a világon először létrehoztak 16 teljesen új vírust mesterséges intelligencia segítségével. Két, kifejezetten ilyen célra létrehozott MI-rendszert használtak, amelyeket milliónyi természetes genomon tréningeztek, hogy bakteriofágokat hozzanak létre. Végül háromszázat gyártottak le a potenciális jelöltekből, amelyek közül 16 volt képes megfertőzni az E. coli baktériumot. Jelenleg nincs olyan biztonsági szabályozás, ami megakadályozná, hogy hasonló elven potenciálisan veszélyes vírusokat gyárison valaki.
Sok kutató szerint azonban az aggodalom túlzó. Francois Belloux genetikus és informatikai biológus szerint a biofegyver nem túl szerencsés választás tömeggyilkosságra, hiszen nehéz egyes csoportokat megcélozni, másokat megvédeni, és a patogének tömeggyártása és logisztikája sem egyszerű. Kristian Andersen, a Scripps Research virológus-evolúcióbiológusa szerint az Anthropic által veszélyesnek ítélt próbálkozások közül sok egyszerű alapkutatásnak tekinthető. Filippa Lentzos, a londoni King’s College szakértője szerint nem szabad szélsőségekben gondolkodni, Gigi Gronvall, a Johns Hopkins Egyetem kutatója pedig úgy véli, hogy az Anthropic jelentésére adott online reakciók túlzóak. Mindketten elismerték ugyanakkor, hogy a dokumentum rávilágított arra, hogyan használhatják az MI-t biológusok rossz célokra, és új szabályozásra van szükség.
Felmerül a kettős felhasználás dilemmája is: ha egy kutatási eredmény jó és rossz célokra is felhasználható, szabad-e vagy etikus-e nyilvánosságra hozni. Egyes gyógyszermolekulák hasznosak lehetnek egy betegség gyógyításában, de potenciálisan veszélyes toxinok tervezéséhez is. Egy erős rendszer korlátozása szabályozással azonban visszafoghatja a jó felhasználást, például a rákgyógyszerek kifejlesztését is.
