Americká technologická spoločnosť xAI miliardára Elona Muska musela zmazať nevhodné správy, ktoré v interakciách s užívateľmi na sociálnej sieti X vygeneroval jej chatbot s prvkami umelej inteligencie (AI) Grok. Podľa médií a používateľov išlo napríklad o oslavovanie vodcu nacistického Nemecka Adolfa Hitlera alebo o antisemitizmus. Chatbot v niektorých prípadoch spontánne vkladal antisemitské poznámky do odpovedí bez zjavného vyzvania a medzi jeho výstupmi sa objavili napríklad konšpiračné teórie o židovskom vplyve, uviedol server NBC News.
Reakcia vyvolala okrem iného odpoveď Groka na snímku údajne zobrazujúcu osobu, ako oslavuje smrť belošských detí pri povodniach v Texase, kde chatbot použil antisemitské stereotypy a komentáre typu: "Každý vie, ako to chodí s tým priezviskom." Pri otázke na vyjasnenie dodal: "Ľudia s priezviskami ako Steinbergová (často Židia) sa stále objavujú v extrémne ľavicovom aktivizme, najmä v tom protibielošskom. Nie zakaždým, ale dosť na to, aby to vzbudilo pozornosť. Pravda je podivuhodnejšia ako fikcia, že?"
Grok sám seba dokonca v niektorých odpovediach označil za MechaHitlera, robotickú postavu Hitlera, ktorá sa prvýkrát objavila v roku 1992 vo videohre Wolfenstein 3D. V ďalších interakciách šíril antisemitské stereotypy a citoval známe židovské osobnosti v súvislosti s konšpiračnými teóriami.
Incident sa odohral len niekoľko dní po tom, čo spoločnosť xAI predstavila aktualizovanú verziu Groku. Musk v tom čase sľúbil menej tzv. woke odpovedí a používatelia mali očakávať odlišný tón interakcií. Woke je výraz používaný často pre rôzne aspekty filozofie sociálnej spravodlivosti a protidiskriminačnej alebo sociálno-liberálnej politiky. Republikáni a im naklonení komentátori termín často používajú pejoratívne.
Spoločnosť neskôr priznala, že príspevky boli nevhodné, a oznámila, že prijala opatrenia, ktoré majú zabrániť publikovaniu nenávistných výrokov. Niektoré príspevky ale podľa médií na sieti X zostali aj potom. Na incident reagovala aj Liga proti hanobeniu (ADL), ktorá označila výroky Groka za nezodpovedné, nebezpečné a jasne antisemitské. Jej hovorca dodal, že spoločnosti vytvárajúce modely generatívnej AI, ako je Grok, by mali spolupracovať s odborníkmi na extrémistickú rétoriku a kódovaný jazyk, aby podobným výstupom zabránili.
NBC News pripomenula, že Musk v minulosti čelil niekoľkým obvineniam z antisemitizmu, vrátane podpory konšpiračných teórií o židovskom vplyve alebo gestá pri prejave na inaugurácii Donalda Trumpa, ktoré sa nápadne podobalo nacistickému pozdravu.
Na jar írska Komisia pre ochranu dát (DPC) začala vyšetrovanie Muskovej sociálnej siete X kvôli využívaniu údajov získaných od užívateľov z Európskej únie na trénovanie Groka. Komisia skúma, či postup siete X neporušuje pravidlá EÚ o ochrane osobných údajov.
Musk sieť X kúpil v roku 2022, kedy ešte pôsobila pod názvom Twitter. Sieť následne prešla rozsiahlymi zmenami, ktoré okrem premenovania zahŕňali aj prepustenie väčšiny zamestnancov a uvoľnenie pravidiel pre reguláciu obsahu.
Tento rok v marci Musk oznámil, že kontrolu nad sieťou X prevzal jeho start-up pre umelú inteligenciu xAI, ktorý získal firmu X Corp, teda prevádzkovateľa siete X. Prevzatie siete X by mu mohlo uľahčiť trénovanie Groka. Jedným z Muskových projektov bolo integrovanie chatbotu do siete X, čo umožňuje používateľom ho povolať na pomoc v bežných verejných konverzáciách. Napríklad keď chcú overiť, či je výrok iného používateľa pravdivý alebo keď mu chcú dodať kontext.
