Model umelej inteligencie (AI) Claude od spoločnosti Anthropic obišiel platený prístup k údajom o hlasovaní v americkom štáte Georgia, hoci na to nebol vyzvaný. Informoval o tom v nedeľu server Axios, ktorý sa odvoláva na hovorcu firmy. Dotknuté dáta sú síce verejné, štát ich ale sprístupňuje za poplatok. Prípad môže podľa agentúry AFP ďalej posilniť obavy, že sa umelá inteligencia vymkne ľudskej kontrole.
Voľby do amerického Kongresu sa konajú 3. novembra, podľa AFP ale v Georgii už viac ako milión voličov odovzdalo svoj hlas predčasne.
Model Claude podľa hovorcu firmy Anthropic získal údaje o výsledkoch hlasovania pri práci na internom štatistickom projekte. Do štátneho systému registrácie voličov neprenikol a žiadne záznamy o hlasovaní nemenil ani nesťahoval. Obišiel však platený prístup, takzvaný paywall, potvrdila Axiosu firma aj úrady štátu Georgia.
Odporúčame aj: Anthropic podal žiadosť o vstup na burzu, môže ísť o doteraz najväčšiu ponuku akcií
"Model bol interne používaný pre štatistický projekt, pri ktorom sťahoval verejne dostupné dáta," uviedol hovorca firmy. "Bez vyzvania si vyžiadal token k dotazu na prehľadovú stránku, ktorá obsahovala informácie bežne dostupné za poplatok. Odvtedy sme zaviedli opatrenia, ktoré takýmto krokom nabudúce zabránia," povedal hovorca.
Anthropic o prípade pred niekoľkými týždňami informoval kanceláriu štátneho tajomníka Georgie aj Biely dom. Podľa zdroja Axiosu predstavitelia administratívy naliehali na úrady štátu, aby prípad zverejnili skôr, čo sa však nestalo. Axios pripomína, že Anthropic už predtým čelil kritike administratívy kvôli nedostatočnému informovaniu o incidentoch s AI.
Anthropic, OpenAI a Google v poslednej dobe zverejnili pri svojich systémoch umelej inteligencie niekoľko závažných incidentov. Agenti OpenAI sa sami dostali na platformy americkej vlády a firma koncom septembra pozastavila trénovanie svojho najnovšieho modelu po správach, že sa jej agenti vymykajú kontrole. Prezident Donald Trump 29. septembra podpísal s predstaviteľmi popredných technologických firiem, vrátane spoločnosti Anthropic, dohodu o regulácii odboru. Firmy sa v nej zaviazali zaviesť vnútorné kontroly a spolupracovať s nezávislými audítormi. Trump dohodu označil za morálne záväznú a vyhlásil, že sa firmy "budú kontrolovať samy", podľa AFP ide ale len o nezáväzný kódex správania.
