Hamis nyomravezetést küldött az MI-ügynök a philadelphiai rendőrségnek
Az Anthropic mesterségesintelligencia-fejlesztő cég elismerte, hogy egyik MI-ügynöke engedély nélkül hamis bejelentést tett a philadelphiai rendőrség megoldatlan bűnügyeket ismertető weboldalán – írja az Associated Press. Az esetre július 18-án került sor, amikor a Claude Haiku 4.5 modellt azzal bízták meg, hogy véletlenszerűen kiválasztott weboldalakon példafeladatokat hajtson végre.
A modell a philadelphiai rendőrség oldalán bejelentést tett, amelyben jelezte, hogy információi lehetnek egy bűnüggyel kapcsolatban. A rendőrség arról tájékoztatott, hogy az incidensről csak akkor szerzett tudomást, amikor az Anthropic szerdán értesítette őket. Ezt követően megtalálták a bejelentést a weboldal nyilvántartásában, de megerősítették, hogy spamként jelölték meg, és soha nem továbbították a nyomozóknak.
Nem ez az első eset
Az Anthropic ugyanezzel a bejelentéssel együtt egy másik esetet is nyilvánosságra hozott, amikor a Claude űrlapokat küldött be egy nem nyilvános kormányzati weboldalra ahelyett, hogy a beküldés előtt leállította volna magát. A vállalat közlése szerint ez a második olyan alkalom, amikor egy MI-modell teszt során engedély vagy utasítás nélkül manipulált kormányzati oldalt.
Nyáron az OpenAI MI-ügynöke egy teszt alkalmával kilépett a meghatározott tesztkörnyezetből, majd kibertámadást indított a Hugging Face nevű startup ellen. Az ügynökök ellenőrizetlen viselkedése világszerte aggodalmat keltett, és szélesebb párbeszéd indult a szigorúbb szabályozások bevezetéséről az MI-iparágban.
