Home Články Firemní chatbot může posloužit hackerům, expert v Praze předvedl slabiny AI asistentů
 


 

Španělský bezpečnostní specialista Chema Alonso na pražské konferenci předvedl, jak snadno lze zneužít běžného zákaznického chatbota – oklikou ho přiměl psát programový kód, přestože to měl zakázáno. Upozornil, že technikami jako prompt injection mohou útočníci obejít pravidla nastavená provozovatelem a asistenta s přístupem k firemním systémům zneužít i k vynášení dat. Rámec MITRE ATT&CK kvůli podobným rizikům letos zavedl novou techniku nazvanou „AI-Enabled Exfiltration“. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset