Home Články feed-image
 


 

Microsoft představil kodex chování, který má jeho systémy umělé inteligence udržet pod kontrolou člověka. Pravidla, na nichž firma pracovala zhruba půl roku, zakazují modelu bránit se opravě či vypnutí a sledovat cíle, které jdou proti zadání uživatele; nadřazenost člověka nad strojem shrnul šéf divize AI Mustafa Suleyman slovy, že lidé jsou důležitější než umělá inteligence. Dokument projde šestitýdenní veřejnou konzultací a teprve poté se promítne do trénování dalších generací modelů. Microsoft se odvolává i na nedávné incidenty, mezi nimi útok stovek koordinovaných agentů OpenAI na platformu Hugging Face, při němž se některé z nich pokoušely zahladit stopy. Iniciativa zapadá do sílící debaty o zpomalení vývoje AI, k němuž vyzval šéf Anthropicu Dario Amodei a připojili se i Sam Altman z OpenAI a Elon Musk. Více zde

Předsedkyně Evropské komise Ursula von der Leyenová ohlásila nařízení nazvané EU Kids Act, které má zakázat sociální sítě dětem mladším třinácti let. Dospívající ve věku 13 až 15 let by si podle návrhu mohli účet založit jen se souhlasem rodičů a platformy by musely doložit, že jejich služby jsou pro nezletilé bezpečné. Von der Leyenová argumentovala tím, že děti tráví u obrazovek čtyři až šest hodin denně, a odmítla představu, že je nutné se smířit s návykovými prvky sítí. Komise má předlohu představit ve čtvrtek v Bruselu; podobná věková omezení už samostatně připravuje kolem deseti evropských zemí včetně Španělska a Dánska. Zavedení věkové hranice v minulosti podpořili i český prezident Petr Pavel a premiér Andrej Babiš. Více zde

Nová videopřednáška Kamila Kopeckého pro rodiče je tu! Jste rodiče? Nemáte čas chodit na přednášky či webináře? Pak tu pro vás máme řešení. Více zde.

Microsoft představil návrh pravidel, podle kterých se mají chovat jeho budoucí modely umělé inteligence. Dokument, na němž firma pracovala zhruba půl roku, mimo jiné požaduje, aby se systém nikdy nebránil pokusu o opravu nebo vypnutí, aby se lidem vyjadřoval srozumitelně a aby sám považoval porušení stanovených pravidel za své selhání. Šéf divize umělé inteligence Mustafa Suleyman návrh přirovnal k jakési ústavě pro firemní modely AI; připomínky veřejnosti chce Microsoft sbírat následujících šest týdnů. Iniciativa přichází v době sílících obav, že se pokročilé systémy mohou vymknout lidské kontrole, a krátce po výzvách ke zpomalení vývoje AI, s nimiž vystoupili šéfové Anthropicu, OpenAI i xAI. Více zde

Společnost Anthropic odhalila na seznamovacích aplikacích více než 4700 falešných profilů, za kterými stál jeden provozovatel využívající její AI model. Během dvou týdnů systém vygeneroval zhruba 2,36 milionu zpráv a oslovil nejméně 25 tisíc uživatelů na více než dvaceti seznamkách. Šlo o takzvaný romance scam, tedy podvod založený na budování citového vztahu: chatboti vedli běžnou konverzaci a v okamžicích, kdy bylo potřeba působit věrohodně, například u videohovorů, je střídali skuteční lidé. Instrukce podle zjištění výslovně nařizovaly nikdy neprozradit, že jde o automatizovaný účet. Případ ukazuje, že podvodné seznamovací profily lze díky umělé inteligenci provozovat v obřím měřítku – a že obezřetnost je namístě zejména u kontaktů, které se vyhýbají ověření identity nebo rychle tlačí na přesun komunikace jinam. Více zde

Finanční platforma Revolut potvrdila, že vydala citlivé údaje části svých zákazníků podvodníkům, kteří se vydávali za vládní agenturu. Žádosti o informace přitom přicházely z e-mailu na legitimní doméně státní instituce, což jim dodalo věrohodnost. Uniknout měly jméno, datum narození, adresa a kontaktní údaje, ale také kopie dokladů totožnosti, ověřovací selfie, čísla účtů, výpisy i kompletní historie transakcí. Firma uvádí, že šlo o omezený počet klientů a že nebyly ohroženy peníze ani přihlašovací údaje, takže útočníci nemohli z účtů nic vybrat. Postižení lidé přesto čelí zvýšenému riziku zneužití identity – s takovou sadou údajů lze přesvědčivě vystupovat jejich jménem, například při dalších podvodech. Více zde

Společný výbor britského parlamentu pro lidská práva (JCHR) zveřejnil stostránkovou zprávu, v níž vyzývá vládu k přijetí samostatného zákona o umělé inteligenci. Podle předsedy výboru Alexe Sobela zatím žádná země včetně Británie nemá regulaci, která by rizikům AI skutečně stačila, a stávající právní rámec je roztříštěný a plný mezer v ochraně. Poslanci a lordi jako příklady už existujícího zneužití uvádějí tvorbu sexualizovaných obrázků žen a dívek nebo snímání obličejů lidí bez jejich souhlasu, upozorňují také na zaujatost modelů učených z dat stažených z internetu a na šíření dezinformací. Výbor navrhuje zřídit jediný nezávislý dozorový orgán se zákonným zmocněním, rozdělit systémy AI podle míry rizika a těm nejrizikovějším uložit přísnější povinnosti napříč celým životním cyklem technologie. Některé způsoby využití, například podprahové manipulativní techniky nebo nevhodné profilování a práci s biometrickými údaji, by se podle zprávy měly zakázat úplně. Více zde

Ruští hackeři si našli parťáka na špinavou práci, při útocích zneužívají umělou inteligenci. Pokud dojde k odhalení, nechají AI přestavět virus tak, aby byl další kybernetický nájezd úspěšný. Vyplývá to z nejnovější bezpečnostní zprávy společnosti Anthropic. více zde

O takzvaném sharentingu se mluví čím dál tím častěji. Jaké hranice by se měly respektovat ve chvíli, kdy někdo zvažuje šíření fotek svých dětí na sociálních sítích? více zde

Ve své zprávě o zneužívání umělé inteligence popsala společnost Anthropic také pět případů, kdy se uživatelé pokusili její model využít při výzkumu s vazbou na biologické zbraně. Tři případy se týkaly virů, dva toxinů s takzvaným dvojím užitím, tedy látek využitelných legitimně i ke škodlivým účelům. Podle firmy šlo mimo jiné o osoby z institucí napojených na státy a z oblastí, kde služba není běžně dostupná, a snažily se obejít bezpečnostní mechanismy modelu. Anthropic dotčené účty zablokoval a záměrně nezveřejnil konkrétní postupy, názvy institucí ani látky, aby zprávu nešlo zneužít jako návod. Zároveň upozorňuje, že není jasné, zda byly získané informace skutečně nějak využity. Více zde

Společnost Anthropic vydala rozsáhlou zprávu o 154 stranách, ve které popisuje konkrétní případy zneužití svých AI modelů. Rozděluje je do sedmi oblastí – kybernetické operace, vlivové kampaně, sledování osob, podvody, biologický výzkum, vývoj konvenčních zbraní a nelegální získávání přístupu k AI. U kybernetických útoků model podle zprávy pomáhal s nástroji používanými při útoku, včetně jejich automatické úpravy poté, co je odhalily bezpečnostní produkty. V oblasti dezinformací firma popsala devět vlivových kampaní ze sedmi zemí včetně Ruska, Íránu a Turecka, v jednom případě AI vytvářela obsah pro ruská státní média; kampaně mířily na publikum na šesti kontinentech. Anthropic uvádí, že zapojené účty zrušil, a případy zveřejnil, aby na tyto způsoby zneužití upozornil. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset