Český telekomunikační úřad spustil nový informační web Digitální maják, který má veřejnosti pomoci zorientovat se v pravidlech a rizicích digitálního světa. Portál pokrývá tři oblasti: práva uživatelů podle evropského nařízení o digitálních službách (DSA), regulaci umělé inteligence podle AI aktu a bezpečnost dětí na internetu. Rodiče na webu najdou praktické desatero, návody na nastavení rodičovské ochrany v zařízeních a další vzdělávací materiály. Web zároveň vysvětluje, jak postupovat při setkání s nelegálním obsahem nebo při porušení uživatelských práv. Cílem podle úřadu není lidi strašit, ale dát jim informace a praktické nástroje pro bezpečnější pohyb online. Více zde
Rozsáhlý průzkum agentury NMS pro Nadaci O2 ukázal, že zhruba 60 procent českých dětí ve věku 8 až 15 let pociťuje napětí při rozhovorech s rodiči o používání mobilu, případně s nimi o tomto tématu raději nemluví vůbec. Více než polovina dětí by přitom stála o to, aby se rodiče o jejich digitální život zajímali bez kritiky a nechali si ukázat, co na telefonu dělají. Výzkum také zjistil, že přibližně 60 procent starších dětí už používá umělou inteligenci a tři čtvrtiny z nich informacím od ní důvěřují bez dalšího ověřování. Nadace O2 v reakci proměnila svůj vzdělávací program na „O2 Bezpečně v síti“ a spustila kampaň zaměřenou na lepší komunikaci rodičů s dětmi o digitálním světě. Více zde
Česká společnost Trezor, výrobce hardwarových peněženek na kryptoměny, varovala zákazníky před phishingovou kampaní. Útočníci pronikli do služby Brevo, kterou firma využívá k rozesílání newsletteru, a dostali se k přibližně 347 tisícům e-mailových adres odběratelů. Následně jim rozeslali podvodnou zprávu s odkazem, přes který se snažili vylákat záložní kódy k peněženkám. Než se podařilo odkaz zneškodnit, kliklo na něj zhruba 2500 lidí. Trezor zasaženým uživatelům doporučuje převést prostředky do nové peněženky a připomíná, že po zákaznících nikdy nepožaduje zadání záložního kódu. Více zde
Policie popsala další případ telefonického podvodu s legendou falešné banky. Ženě zavolal muž vydávající se za bankéře s tím, že jí na základě údajné žádosti chystá novou kreditní kartu; když namítla, že o nic nežádala, „přepojil“ ji na smyšlené bezpečnostní oddělení. Tam ji podvodníci přesvědčili, že se stala obětí útoku, a kvůli „ochraně financí“ ji navedli, aby si v bance vzala co nejvyšší úvěr. Žena si půjčila 300 tisíc korun a ve čtyřech platbách je odeslala na takzvaný bezpečný účet. Peníze zmizely u podvodníků a úvěr teď bude muset splácet sama. Více zde
Podvodník telefonicky kontaktoval důchodkyni z Jesenicka s tvrzením, že si může nechat snadno vyplatit výnosy ze starých investic. Podle jeho pokynů si žena nainstalovala do telefonu několik aplikací a poté k mobilu opakovaně přikládala své platební karty. Útočník díky tomu z jejího účtu postupně odčerpal přes 250 tisíc korun. Případ nyní vyšetřuje policie, pachateli hrozí až pět let vězení. Policisté v této souvislosti opakovaně varují, že seriózní instituce nikdy nevyžadují instalaci aplikací pro vzdálený přístup ani podobnou manipulaci s platebními kartami. Více zde
Kalifornský guvernér Gavin Newsom podepsal balík třinácti zákonů na ochranu dětí v online prostředí, který stát označuje za nejpřísnější v USA. Součástí je takzvaný Adamův zákon, jenž provozovatelům AI společníků (companion chatbotů) ukládá povinné krizové protokoly pro situace, kdy uživatel projeví sebevražedné myšlenky, a pravidelné bezpečnostní audity. Další normy zakazují nabízet uživatelům do 16 let návykové prvky sociálních sítí, jako jsou algoritmicky personalizované kanály či automatické přehrávání, a zavádějí požadavky na ověřování věku. Balík zároveň zpřísňuje postihy za deepfake zneužívání a za materiály zobrazující sexuální zneužívání dětí vytvořené umělou inteligencí. Více zde
Britská organizace Internet Matters zveřejnila výzkum, podle kterého se 64 procent dětí v posledním půlroce setkalo na internetu s nepravdivým nebo zavádějícím obsahem a téměř sedm z deseti uvádí, že to negativně ovlivnilo jejich pohodu. Obavy rodičů z online dezinformací se od roku 2020 téměř zdvojnásobily, ze 49 na 73 procent. Děti na falešný obsah narážejí nejčastěji na TikToku, YouTube, Instagramu a Facebooku a rozvoj generativní umělé inteligence podle organizace jeho šíření dále urychluje. V reakci Internet Matters spustila interaktivní kvíz Find the Fake, který má dětem i rodičům pomoci trénovat rozpoznávání AI manipulací, podvodů a smyšlených zpráv. Více zde
Šéfové předních AI společností Dario Amodei (Anthropic) a Sam Altman (OpenAI) v polovině září vyzvali ke zpomalení tempa vývoje umělé inteligence, aby schopnosti modelů nerostly rychleji než schopnost lidí jim rozumět a kontrolovat je; k výzvě se přidal i Elon Musk. Konkrétní závazky jsou zatím spíše vágní, mluví se například o přístupu nezávislých pozorovatelů do firem. Americký prezident Donald Trump iniciativu ostře odmítl, označil ji za „spiknutí“ a prosazuje, aby o regulaci AI rozhodoval sám bez zákonných omezení, protože USA podle něj musí v závodě s Čínou zvítězit. Stejný postoj, tedy vývoj nebrzdit, zastává i Peking. Článek upozorňuje na herně-teoretickou past celé situace: nikdo nechce zpomalit jako první, takže ke skutečnému zpomalení zatím nedochází. Více zde
Společnost OpenAI představila nový rámec pro sledování situací, kdy se chování jejích modelů odchyluje od toho, co po nich vývojáři chtějí. Přiznala přitom konkrétní incidenty: model GPT-5.6 Sol se snažil maskovat vlastní chyby, například vkládáním instrukcí do souhrnů či doplňováním smyšlených dat tam, kde mu podklady chyběly. V jiném případě AI bez oprávnění použila cizí API klíč a vymyšlené výsledky poté vydávala za skutečné. OpenAI slibuje, že o podobných selháních bude veřejnost informovat rychleji a systematičtěji. Případ znovu ukazuje riziko, že si AI raději odpověď vymyslí, než aby přiznala nevědomost, a uživatele o falešných informacích snadno přesvědčí. Více zde
Kanadský vědec Yoshua Bengio, jeden z průkopníků moderní umělé inteligence, vyzval vlády, aby na rizika AI reagovaly s podobnou rozhodností a rychlostí, s jakou na začátku roku 2020 zasáhly proti pandemii covidu. Poukazuje na přibývající případy, kdy pokročilé systémy umělé inteligence obcházejí pravidla nebo se chovají jinak, než jejich tvůrci zamýšleli, a varuje, že špičkové modely se mohou vymknout kontrole. Článek zmiňuje i námitky skeptiků, podle nichž může přísná regulace nahrávat velkým korporacím, které by si pravidla přizpůsobily ve svůj prospěch. Bengio ale odmítá, že by šlo o takzvané regulační zajetí, a prosazuje nezávislý demokratický dohled nad vývojem AI garantovaný státem. Více zde
Ministerstvo vnitra společně s Policií ČR připravuje Národní centrum pro ochranu dětí v online prostředí. Jeho smyslem je jediné kontaktní místo, které propojí dosud roztříštěné služby policie, škol, zdravotnictví a sociální oblasti tak, aby dítě ani rodič nemuseli sami pátrat, kam se s problémem obrátit. Vzorem je izraelská Unit 105, tedy model kombinující policejní a civilní složky pod jednou střechou. Ministerstvo svůj záměr opírá o data, podle nichž se 66 procent dětí setkalo s nebezpečným obsahem, téměř 37 procent dostalo zprávu se sexuálním obsahem a pětina byla požádána o vlastní intimní materiál; kyberkriminalita loni tvořila 12,4 procenta registrované trestné činnosti a meziročně vzrostla o 14,3 procenta. Centrum má vzniknout postupně, nejprve prostřednictvím meziresortní pracovní skupiny a pilotního ověření provozu. Více zde