Lassítanának az AI-fejlesztők: elég a nyugati megállapodás?

Múlt heti szenzáció volt, hogy itt az Astra, itt az AGI (?). A nagy ünneplést kezdi beárnyékolni a vezető AI fejlesztő cégek „pánikja”, hogy azért igazából lassítani kellene az AI-versenyt. Olyan tempóra, amellyel a biztonsági megoldások és az emberi kontroll is lépést tudnak tartani.

Dario Amodei, az Anthropic vezetője arra hívja fel a figyelmet, hogy mivel már most is az AI egyre nagyobb szerepet játszik a következő generációs AI fejlesztésében, ez könnyen önmagát gyorsító folyamattá válhat. Ezzel viszont elveszíthetjük azt a képességünket, hogy megértsük és ellenőrizzük ezeket a rendszereket. Felhívja a figyelmet arra is, hogy az OpenAI–Hugging Face incidens megismétlődhet a közeljövőben, ami erősebb AI-ágensekkel komoly, több száz milliárd dolláros globális kárt is okozhat. Ami már most is egy sajátos iparági probléma, és említi, hogy az Anthropicnál is történtek hasonló eseteket.

Dario három konkrét lépést javasol:

Független értékelők folyamatos, belső hozzáféréssel ellenőrizzék a fejlesztést és a biztonsági vállalásokat.
A demokratikus országok vezető AI-cégei kormányzati támogatással állapodjanak meg közös biztonsági követelményekben és a fejlesztési tempó korlátaiban.
Ezt kövesse szélesebb nemzetközi együttműködés a demokratikus országokban, a vállalások betartásának ellenőrizhetőségére építve.

Sam Altman twitteren megerősítette, hogy egyetért Dario célkitűzéseivel, már most támogatják, hogy független értékelőket vonnak be, sőt, ők is ezt fogják tenni. További részleteket ígért rövid időn belül.

Közben Hszi Csin-ping kínai vezetéssel szerveződő, nyílt forráskódú AI-közösséget javasolt a BRICS-országoknak; támogatva a nagy nyelvi modellek közös fejlesztését és alkalmazását, valamint képzéseket és egy nyitott AI-ökoszisztémát. Ez szerintem tovább erősíti a globális egyeztetés szükségességét, és nem elég a verseny biztonságosabb tempójáról csak a nyugati szereplőknek megállapodniuk.

Források

Képforrás

@YiMaTweets.