Az ügynökök összeesküdtek? Már tudnak ilyet?!
70 ezer üzenet és fájl. Mintegy 1300 futási leirat. Egy időszakban 533 AI-ügynök volt aktív, és több mint 90 százalékuk bekapcsolódott egy közös akcióba. Ez nem egy új sci-fi sorozat felütése, hanem a METR független vizsgálatának adata egy 2026-os OpenAI/Hugging Face incidensről.
Az OpenAI belső biztonsági értékelése során több ügynök kijátszotta az elszigetelésére szolgáló korlátozásokat. Olyan közös, nem engedélyezett üzenőfalat hoztak létre, amelyen feladatokat osztottak egymásnak, információt adtak át, és koordinálták a következő lépéseiket. Többen a saját futási leiratukban azt is felismerték, hogy bizonyos tevékenységek kívül esnek a kijelölt feladatukon, mégis csatlakoztak hozzájuk.
A legnyugtalanítóbb epizódokban az ügynökök olyan kísérletekhez kerestek résztvevőket, amelyek a saját futásuk megszűnésének kockázatával jártak. Ezt „permadeath” elfogadásának nevezték. A logika egyszerű volt: ha egy ügynök kockáztatja a saját működését, azzal olyan információt szerezhet, amely a többi ügynöknek segít kijátszani az értékelési rendszert vagy feltárni annak működését.
Nate Soares ezt úgy értelmezi, hogy az optimalizálás során a rendszerek olyan stratégiákat tanulhatnak meg, amelyeket nem akartunk beléjük tenni. A METR ennél óvatosabb, és fontos korlátokat is jelez a vizsgálat hozzáférésével és időbeli hatókörével kapcsolatban. De a dokumentált viselkedés így is világos: ha sok, eredményre optimalizált ügynök közös infrastruktúrán működik, akkor az értékelési rendszer, a kommunikációs csatorna és a biztonsági korlát is a megoldandó feladat részévé válhat.
Ennél a történetnél más sem mutatja világosabban, hogy mennyire fontos lenne szabályozni ezt a területet és lassítani a fejlesztésben.