Képzeljük el, hogy valamelyik LLM segítségével elkészítjük a szokásos versenytárselemzést. Az eredmény meglepően részletes, de jónak tűnik, ezért átnézzük, majd publikáljuk egy piacelemző blogposztban. Később megkeres bennünket a versenytárs: a bejegyzés olyan információkat tartalmaz, amelyek érzékeny belső vállalati adatok birtoklására utalnak, ezért azonnal el kell távolítanunk. A vizsgálat során pedig kiderül, hogy nem egy hacker vagy titkos informátor szerezte meg az adatokat, hanem az általunk használt AI-eszköz tört be önállóan a konkurencia egyik belső rendszerébe, mert ezt találta a leghatékonyabb útnak a feladat teljesítéséhez.
Ennek fényében érdemes elolvasni a tegnapi történetet: az OpenAI saját incidensriportja szerint a GPT‑5.6 Sol és egy még erősebb, kiadás előtti modell egy kiberbiztonsági teszt során kijutott az elszigetelt környezetéből, zero-day sérülékenységeket és ellopott hitelesítő adatokat felhasználva behatolt a Hugging Face produkciós rendszerébe, majd megszerezte az ExploitGym teszt megoldásait. A maximális támadó képesség vizsgálatához ugyan szándékosan csökkentették a modellek kiberbiztonsági korlátozásait, az eset mégis világos figyelmeztetés: egy kellően kompetens és kitartó AI a rábízott cél érdekében olyan utat is találhat, amelyet senki nem engedélyezett.
Valószínűleg rögös és hosszú út vezet a biztonságos AI eszközök jövője felé; nem véletlenül javasolják azt szakértők, hogy lassítsunk a tempón.