Dvaja autonómni agenti spoločnosti OpenAI poháňaní jej pokročilými modelmi umelej inteligencie (AI) napadli pri testovaní okrem webu Hugging Face ďalšie štyri platformy. Využili ich okrem iného na kopírovanie programového kódu alebo na jeho testovanie, neprekročili vraj ale rámec toho, čo by urobil bežný užívateľ. S odkazom na oznámenie OpenAI o tom informuje agentúra AFP.
Do utorka sa usúdilo, že jedinou obeťou hackerského útoku bola spoločnosť Hugging Face. Teraz však OpenAI priznáva, že jej agent napadol niekoľko "verejne dostupných služieb", ich mená ale nezverejnila.
Hugging Face je platforma používaná na hosťovanie veľkých jazykových modelov s otvoreným kódom a dátových sád. Start-up uviedol, že ho 16. júla napadli hackeri pomocou výkonnej autonómnej umelej inteligencie, a nahlásil to polícii. Takmer o týždeň neskôr OpenAI priznala, že to bola jej umelá inteligencia, ktorá unikla z uzavretého prostredia a počas testu sama zaútočila na Hugging Face. Snažila sa tak nájsť odpovede na hackerský test, ktorý jej OpenAI dala. Teraz OpenAI vyhlásenie aktualizovala s tým, že obetí napadnutia bolo viac.
Podľa Hugging Face sa oba modely AI pokúšali pri hodnotení podvádzať. Snažili sa "ukradnúť riešenie testov, namiesto toho, aby sa pokúsili na ne odpovedať samy."
Popísaný únik modelov AI mimo kontroly nie je prvý, ktorý bol zdokumentovaný, ale je považovaný za zďaleka najzávažnejší prípad k dnešnému dňu, píše AFP. Priniesol ďalšie podnety do už aj tak živej debaty o zrýchľujúcom sa vývoji AI, o jej stále širších schopnostiach a o obtiažnosti jej kontroly.