Külsős ellenőrök olvashatják a ChatGPT-beszélgetéseket, akár személyes adatokkal együtt
Az OpenAI külsős alvállalkozókkal nézeti át a felhasználók ChatGPT-promptjait, vagyis az általuk írt kérdéseket és utasításokat, amelyekben akár személyes, érzékeny adatok is szerepelhetnek – derül ki kiszivárgott belső dokumentumokból és egy névtelenséget kérő alvállalkozó nyilatkozatából.
A vállalat több száz alvállalkozót foglalkoztat óránként 50 dollárért, hogy átnézzen csetüzeneteket és értékelje azokat. Ez nem az az ellenőrzés, amelyről a cég nyíltan írt: nemcsak azokat az üzeneteket vizsgálják, amelyeknél felmerül, hogy a felhasználó ártani akar magának vagy másoknak, hanem teljesen véletlenszerűen bárki üzenetei a külsős dolgozók elé kerülhetnek.
Ez akkor is előfordulhat, ha a felhasználó kifejezetten megkéri a ChatGPT-t, hogy maradjon köztük az, amit megoszt vele. Így egyáltalán nem garantált, hogy a barátként, pénzügyi tanácsadóként, pszichológusként vagy orvosi tanácsadóként használt csetbot bizalmasan kezelné a kapott információkat.
Az OpenAI a kérdésekre válaszolva azt közölte, igyekeznek kiszedni az üzenetekből minden beazonosításra alkalmas információt, és az alvállalkozók nem látják a promptoló felhasználó nevét. A cég ugyanakkor beismerte, hogy a rendszerben előfordulnak hibák, és van, hogy az ellenőrök elé kerülnek személyes adatok is.
Értékelés, pontozás, unalom
A birtokba került oktatódokumentumok alapján nem tudni, hogy a munka melyik modell fejlesztését támogatja, így az sem kizárt, hogy egy még meg nem jelent modellről van szó. A projekt kódneve Project Lily.
Az oktatóanyag szerint egy tökéletes válasz megérti a felhasználó szándékát, segítő és pontos támogatást nyújt, egyértelmű, természetes, megfelelően barátságos hangnemű, és sokkal kevésbé talpnyaló, mint a korábbi verziókban.
Az alvállalkozók megkapják a felhasználó promptját, röviden leírják, hogy szerintük hogyan kéne válaszolnia a csetbotnak, majd megnézik a ténylegesen adott választ, amit pontozással és saját szavaikkal is értékelnek. Néha a beszélgetési előzmények rövid összefoglalóját is megkapják, ha a ChatGPT szerint szükség van a kontextusra. Ha biztonsági vagy személyiségi jogi aggályok merülnek fel, azt tovább kell küldeniük az ezzel foglalkozó kollégáknak.
Az ellenőrök négy lehetséges ChatGPT-válasz közül választják ki, melyik indult el a jó irányba, és melyik a rosszba, legalább három részletet kiválasztva, ami alátámasztja az eredményüket. Az egyik példában a pipaemodzsi használatát helytelennek nevezte egy ellenőr, mert indokolatlan hangulatjel-használatnak tartotta. Az oktatóanyag szerint néha belefér a hangulatjelek használata, ezért érdemes a kontextust is figyelembe venni.
Arra is figyelniük kell, hogy az MI E/1-ben ír-e, például ha válaszában azt állítja, hogy „mivel szakács vagyok, én így szoktam”. A kontextus itt is fontos, mert azt például írhatja, hogy „máris megnézem”.
Az ellenőrök 1 és 7 között pontozzák a válaszokat, ahol az 1 a legrosszabb, használhatatlan, a 7 a legjobb. Ezt is meg kell indokolniuk pár mondatban vagy bekezdésben. Bár az OpenAI nem várja el, hogy az ellenőrök tényellenőrizzenek is, erre állítólag külön csapatuk van, de a cég arra kéri őket, hogy ha pontatlanságot találnak, jelezzék.
Az egyik nyilatkozó ellenőr Észak-Amerikában él, és a Crossing Hurdles nevű munkaközvetítő cégen keresztül talált rá a hirdetésre, amivel végül az OpenAI-ig jutott. Nem ezzel a céggel szerződik, hanem a Mercorral, ami MI-betanítással foglalkozik. Azt mondta, néha szórakoztató mások promptjait olvasgatni, de általában inkább unalmas, monoton munkáról van szó, és nem könnyíti meg a dolgát, hogy a céges iránymutatás gyakran változik, és nem ritkán ellentmond saját magának.
Előfordul az ilyen
Arra a kérdésre, hogy hol tájékoztatják erről a felhasználókat, a cég nem válaszolt, és az oldalán csak annyit ír, hogy azokat a beszélgetéseket, amiket az automata rendszer megjelöl a felhasználási irányelvek megszegése miatt, emberek is átnézik, de ez egy teljesen más felülvizsgálat, és nem is az említett alvállalkozók feladata.
Ha egy felhasználó törli az előzményeit, azokat 30 napon belül a cég is törli, kivéve, ha azok tartalmát már korábban anonimizálta és a modellek fejlesztésére alkalmasnak találta. Az ellenőrök csak akkor nem láthatják az üzeneteit, ha a beállításokban kikapcsolja, hogy az üzenetváltásait a modell fejlesztésére használhassa a cég. Ez a beállítás az ingyenes, a Plus és a Pro verzióban alapból be van kapcsolva, csak a céges és az oktatásos előfizetőknél van kikapcsolva alapbeállításként. Ha valaki utólag kapcsolja ki, az csak a módosítás utáni csetjeire vonatkozik.
Nem az OpenAI az egyetlen cég, ami átnézet csetüzeneteket, az ember még mindig rendkívül fontos az MI-k betanításában és ellenőrzésében. A Google is átnézet néhány, a Gemininek szánt üzenetet, de ezt jelzik is. Az Anthropic azt válaszolta, hogy emberek is felülvizsgálják a Claude üzeneteit, de csak azokét, akik külön engedélyezik ezt a beállításokban.
