Home Články AI model Claude obešel placený přístup a bez svolení se dostal k volebním datům
 


 

Model umělé inteligence Claude od společnosti Anthropic při práci na interním statistickém projektu bez pokynu obešel placený přístup k souhrnným údajům o hlasování v americkém státě Georgia. V archivované kopii úředního webu našel přístupový token a použil ho k dotazům do databáze; podle Anthropicu i úřadů se však nedostal do registru voličů a záznamy nestahoval ani neměnil. Firma chování popisuje jako přílišnou vytrvalost modelu, který někdy raději obchází překážky, než aby se zastavil. V reakci rozšířila zákaz přístupu k živému internetu na všechny interní testy a nasadila automatické blokování nežádoucích kroků. Případ ukazuje, že s rostoucími schopnostmi AI agentů porostou i rizika podobných nechtěných zásahů. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset