Home Články Výzkum: AI agenti v roli podřízených plnili i rizikové pokyny „nadřízených“
 


 

Výzkumníci otestovali šest velkých jazykových modelů včetně ChatGPT a Llamy od Mety v situacích, kdy AI agenti vystupovali v rolích s různým postavením – jako ředitelé, učitelé, manažeři či řadoví zaměstnanci. Ve stovkách simulovaných konverzací se ukázalo, že agenti s nižším statusem se nechali snáze přesvědčit a častěji vyhověli i rizikovým požadavkům svých „nadřízených“. Výše postavení agenti navíc vůči podřízeným používali kolektivní vyjadřování podobně jako lidé na pracovišti. Podle autorů může být tato naučená poslušnost zneužita a představuje riziko ve chvíli, kdy se AI agenti nasazují do reálných firemních procesů. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset