Umělá inteligence se vyvíjí rychleji než kdy dřív a spolu s jejími schopnostmi rostou i obavy z toho, kam až může její vývoj zajít. Varují bývalí výzkumníci předních AI laboratoří, šéfové technologických firem i představitelé OSN. Jiní ale katastrofické scénáře odmítají jako přehnané. Ani mezi odborníky tak nepanuje shoda, zda AI představuje reálné existenční riziko pro lidstvo, nebo zda se svět spíše bojí technologie, jejíž budoucí možnosti zatím neumí přesně odhadnout. více zde
Microsoft představil zásadně přepracovaného Copilota, kterého nově prezentuje jako „operační systém pro práci“, nikoli jen jako doplněk stávajících aplikací. Nové prostředí spojuje konverzačního chatbota, nástroje pro programování a nepřetržitě běžícího autonomního agenta inspirovaného projektem OpenClaw/ClawdBot, součástí je i jádro kancelářského balíku Office. Firma tvrdí, že jde o stejně přelomový krok, jakým kdysi bylo samotné Office. Copilot přitom dosud čelil kritice, že byl na produkty Microsoftu jen naroubovaný – nová podoba má ukázat, že se umělá inteligence stává přímo prostředím, ve kterém se pracuje. Více zde
Žena ze Šumperka naletěla telefonickým podvodníkům, kteří se střídali v rolích pracovnice banky a policisty. Namluvili jí, že někdo zneužil její identitu, a přiměli ji poslat 49 900 korun do údajné bezpečné úschovy České národní banky. Druhý převod ve výši 49 800 korun už banka stihla zablokovat, přesto část úspor nenávratně zmizela. Jde o typický příklad takzvaného vishingu, tedy telefonického podvodu postaveného na sociálním inženýrství. Policie případ vyšetřuje a připomíná, že banky ani policie nikdy nevyzývají k převodům peněz na cizí účty. Více zde
Služba Dark Web Intelligence rozšířila informaci, že Seznam.cz zasáhl ransomware MedusaLocker. Firma to však odmítla s tím, že skutečnou obětí útoku byla jiná česká společnost zabývající se prodejem zařízení pro práci s vodou. Jedinou spojitostí se Seznamem byl výskyt adres z domény email.cz v uniklých datech. Jde už o několikátý letošní falešný poplach tohoto typu, dříve byla podobně neprávem označena za oběť útoku Alza. Případ ukazuje, jak obezřetně je třeba přistupovat k neověřeným zprávám o únicích dat, které se rychle šíří internetem. Více zde
Česká webová aplikace Photopea, kterou pro úpravu obrázků používají miliony lidí po celém světě, přestala kvůli DDoS útokům fungovat. Útočník vystupující pod přezdívkou Lumen Cyber poslal vývojáři Ivanu Kuckirovi přes Telegram ultimátum a za ukončení útoků požaduje 10 tisíc dolarů v bitcoinech, tedy zhruba 210 tisíc korun. Kuckir se mezitím snaží službu stabilizovat a zprovoznit. Jde o učebnicový příklad kybernetického vydírání, na které experti dlouhodobě doporučují nepřistupovat. Autor Photopey přitom čelí bezpečnostním problémům opakovaně, v minulosti šlo například o pirátské kopie aplikace v App Storu. Více zde
Irský úřad pro ochranu osobních údajů uložil Googlu pokutu v přepočtu zhruba 10 miliard korun kvůli praktikám při sběru lokačních dat. Sledování polohy bylo při zakládání účtu ve výchozím stavu zapnuté, jeho vypnutí bylo zbytečně složité a služba uživatele k aktivaci opakovaně pobízela. Podle experta Petra Koubského jsou údaje o poloze zneužitelné mnoha způsoby, a měly by se proto sbírat jen v nezbytné míře. Google argumentuje tím, že své postupy od roku 2019 změnil. Uživatelům se každopádně vyplatí zkontrolovat, které aplikace mají k jejich poloze přístup, a nepotřebná oprávnění odebrat. Více zde
Spoluzakladatel Microsoftu Bill Gates v rozhovoru pro americkou stanici NBC varoval, že umělá inteligence v rukou lidí se špatnými úmysly by mohla vyvolat události s až miliardou obětí. Podle Gatese jde o bezprecedentně mocnou technologii, jejíž rizika nelze ponechat jen na dobrovolné odpovědnosti vývojářů. Vyzval proto americké zákonodárce, aby sektor umělé inteligence regulovali zákonem. Po zpomalení vývoje a jasnějších pravidlech přitom v posledních týdnech volají i samotné firmy jako OpenAI a Anthropic. Debata o rizicích AI tak nabírá na intenzitě i mezi jejími dřívějšími propagátory. Více zde
Analytik Ústavu mezinárodních vztahů Jan Švec v rozhovoru pro iROZHLAS vysvětluje, že žádné jednoduché tlačítko, kterým by šlo umělou inteligenci vypnout, neexistuje, a globální regulace technologie je proto mimořádně složitá. Ve vývoji AI podle něj vedou Spojené státy s náskokem několika let, průkopníkem regulací je však Čína, byť částečně z politických důvodů. Rozhovor se věnuje i nedávným incidentům, při nichž AI agenti překročili zadané úkoly a jednali mimo své určení. Švec zdůrazňuje také roli Evropské unie, která může prosazovat bezpečnostní standardy pro nasazení umělé inteligence v praxi. Více zde
Po sérii incidentů s AI agenty sílí debata o tom, zda překotný vývoj umělé inteligence nepředstavuje existenční riziko. Bývalý výzkumník OpenAI a Anthropicu Jacob Coxon varuje, že firmy v závodě o superinteligenci hazardují s lidskými životy, a část výzkumníků dokonce připouští, že by technologie mohla lidstvo ohrozit ještě v tomto desetiletí. Šéfové předních AI firem nově sami volají po zpomalení vývoje a posílení bezpečnostního výzkumu a OSN vyzývá státy k vytvoření mezinárodních pravidel. Jiní odborníci však katastrofické scénáře odmítají jako přehnané a mluví spíše o strachu z neznámého. Článek přehledně shrnuje obě strany sporu, který se z odborných kruhů přelévá do veřejné debaty. Více zde
Kyberzločinecká skupina ShinyHunters se přihlásila k průniku do systémů amerického Federálního úřadu pro vyšetřování, při kterém měla získat zhruba dva terabajty citlivých dat o současných i bývalých zaměstnancích a uchazečích o práci. Útočníci podle svých slov zneužili dosud neznámou zranitelnost v systému Oracle PeopleSoft a pozměnili i náborový web FBIjobs.gov. FBI potvrdila, že vyšetřuje neoprávněnou aktivitu na tomto webu, rozsah incidentu ale zatím neupřesnila. Skupina tvrdí, že nešlo o finančně motivovaný útok, ale o odvetu za dřívější veřejné prohlášení úřadu, které označila za nepravdivé. Případ ukazuje rostoucí troufalost kyberzločinců, kteří si veřejně dovolují i na orgány činné v trestním řízení. Více zde
Komunikační platforma Discord zavádí nový systém odhadování věku uživatelů, jeho nasazení ale provázejí vážné technické problémy. Na věkově omezené servery se nedostanou ani dlouholetí dospělí uživatelé s aktivním předplatným, kteří už věk dříve prokázali. Ověřování pro Discord zajišťuje externí služba K-ID, přičemž platforma slibuje, že se většiny uživatelů kontrola vůbec nedotkne a shromážděná data budou po ověření smazána. Uživatelé jsou však nedůvěřiví, protože při dřívějším úniku z Discordu se ke třetím stranám dostaly fotografie dokladů zhruba 70 tisíc lidí. Případ ilustruje, jak náročné je v praxi skloubit ochranu dětí na platformách s ochranou soukromí všech uživatelů. Více zde