Zástupci členských států Evropské unie se ve středu shodli na návrhu, který má bojovat proti šíření materiálů na internetu zobrazujících sexuální zneužívání dětí. Informovala o tom Rada EU. Česko hlasovalo proti, vadí mu prolamování šifrované komunikace. Na finálním znění se bude muset Rada dohodnout s Evropským parlamentem. Nařízení známé pod zkratkou CSAM a přezdívané chat control mělo množství kritiků a dlouho nebyla pro jeho schválení dostatečná podpora.
Pro schválení v Radě EU byla potřeba kvalifikovaná většina a dánské předsednictví se snažilo dosáhnout kompromisu. Návrh nakonec po dlouhých týdnech jednání podpořilo Německo, které bylo dlouho proti.
„Evropská unie zvyšuje své úsilí v boji proti sexuálnímu zneužívání dětí. Zástupci členských států EU se dnes (ve středu) dohodli na postoji Rady k nařízení o prevenci a boji proti sexuálnímu zneužívání dětí,“ stojí v prohlášení. Návrh se řešil na středečním jednání takzvaného Coreperu, tedy velvyslanců zemí EU v Bruselu. Proti hlasovaly kromě Česka i Polsko, Slovensko a Nizozemsko, Itálie se zdržela.
Obavy vyvolávalo to, že původní návrh Komise by mohl otevřít dveře masovému sledování, protože by donutil platformy pro zasílání zpráv prohledávat i silně šifrovanou komunikaci, takzvané end-to-end šifrování (E2EE), napsal server Euractive.
Po letech jednání se členské země EU ve středu dohodly na textu, který ruší povinné detekční příkazy, a místo toho se rozhodly posílit požadavky na platformy, aby přijaly opatření ke zmírnění rizik pro šíření dětské pornografie.
Se schválenou pozicí nyní půjde Rada EU do vyjednávání s Evropským parlamentem, který se na svém stanovisku k tomuto návrhu dohodl již v listopadu 2023. Tehdy se europoslanci shodli na zrušení detekčních příkazů k prohledávání E2EE. Aby mohl být zákon přijat, bude nutné najít kompromis mezi Radou a europarlamentem, což může trvat ještě mnoho měsíců.
Pravidla chat control 2.0
Pokud bude nový předpis přijat ve stávajícím znění, tak budou digitální společnosti povinny zabránit šíření materiálů zobrazujících sexuální zneužívání dětí. Příslušné vnitrostátní orgány pak budou mít pravomoc uložit společnostem povinnost odstraňovat obsah a blokovat přístup k němu, nebo – v případě vyhledávačů – vyřazovat výsledky vyhledávání. Nařízení rovněž zřizuje novou agenturu EU, která bude podporovat členské státy a poskytovatele on-line služeb při provádění normy.
Podle nových pravidel budou poskytovatelé on-line služeb povinni posoudit riziko, že by jejich služby mohly být zneužity k šíření materiálů zobrazujících sexuální zneužívání dětí nebo k navazování kontaktů s dětmi za účelem sexuálního zneužívání. Na základě tohoto posouzení budou muset zavést opatření ke snížení tohoto rizika.
Dobrovolné skenování komunikačních služeb zůstává na stole jako jedno z opatření, které mohou společnosti použít na svých platformách.
Aktivisté v oblasti ochrany soukromí se proto nadále obávají, že skenování by se mohlo stát de facto nutností, pokud se regulační orgány nakonec rozhodnou zaměřit na E2EE. A to navzdory tomu, že země do návrhu Rady přidaly formulaci, která ochranu šifrování uvádí jako nutnost.
„Myslím si, že hlavní myšlenka je chránit děti ve složitém prostředí, ale ještě nevidím dost dat, ze kterých bych mohla vycházet. Byla bych ráda, kdyby se to nejprve lépe prozkoumalo, abychom mohli pochopit i rizika,“ řekla k zavedení návrhu expertka na digitální komunikaci mladých Jessica Piotrowská.
Hlasování v Radě EU mělo proběhnout už na začátku října, ale kvůli nedostatečné podpoře došlo k jeho odložení.
Pozice Komise
„Každý rok jsou sdíleny miliony souborů, které zobrazují sexuální zneužívání dětí. A za každým jednotlivým obrázkem a videem se skrývá dítě, které bylo vystaveno nejhoršímu zneužívání. To je naprosto nepřijatelné,“ uvedl dánský ministr spravedlnosti Peter Hummelgaard.
Mluvčí Evropské komise Markus Lammert nedávno návrh bránil s tím, že nehovoří o obecném sledování internetové komunikace. Společnosti podle něj budou muset pouze odhalit materiály týkající se sexuálního zneužívání dětí. Nebude existovat nic jako kontrola chatu, zdůraznil Lammert.
„Sexuální zneužívání dětí je hrůzný zločin, který se v posledních letech výrazně rozvinul. Počet hlášení se zvýšil z jednoho milionu v roce 2010 na více než 20 milionů v roce 2024, tedy dvacetkrát,“ uvedl Lammert na začátku září. Bez schváleného právního rámce podle něj nebude možné s tímto zločinem účinně bojovat. Platnost prozatímního nařízení přitom vyprší v dubnu 2026.
Věková hranice pro sociální sítě
Dětmi v on-line prostředí se ve středu zabývali také poslanci Evropského parlamentu, a to když v jiném návrhu vyzvali k výraznému zvýšení ochrany nezletilých na internetu. Legislativně nezávaznou zprávu odsouhlasili poměrem 493 hlasů pro ku 92 proti.
Kromě zavedení věkové hranice šestnácti let pro využívání sociálních sítí, platforem pro sdílení videí či společníků s umělou inteligencí (AI) zpráva vyzývá také k zákazu nejnebezpečnějších návykových praktik na internetu u mladistvých. Jde například o nekonečné scrollování, automatické přehrávání obsahu, systémy odměňování či škodlivé praktiky s prvky hazardních her.
Ochrany nezletilých před komerčním vykořisťováním chtějí europoslanci docílit mimo jiné tím, že platformy budou mít zakázáno nabízet finanční pobídky dětským influencerům.
Zpráva rovněž vyzývá k co nejrychlejšímu řešení etických a právních rizik, která přináší nástroje AI včetně takzvaných deepfakes, chatbotů plnících funkci společníků, AI agentů či svlékacích aplikací využívajících AI, které vytvářejí zmanipulované snímky osob bez jejich souhlasu.
Poslanci zároveň podpořili kroky Evropské komise směřující k vyvinutí evropské digitální identity (eID) a unijní aplikace k ověřování věku uživatelů. Zdůraznili přitom, že systémy ověřování věku musí být přesné a zachovávat soukromí nezletilých.
Dysfunkční chování na internetu vykazuje čtvrtina mladistvých
Zpráva se odkazuje na výzkum, podle něhož každý čtvrtý nezletilý vykazuje známky problematického nebo dysfunkčního používání chytrého telefonu, tedy vzorce chování naznačujícího závislost. Podle průzkumu Eurobarometru z roku 2025 si zároveň více než devadesát procent Evropanů myslí, že lepší ochranu dětí na internetu je nutné zajistit co nejdříve.
Věkový limit pro uživatele sociálních sítí se chystají zavést či o tom uvažují již některé členské státy, včetně Dánska a Francie, a to nezávisle na debatě probíhající na úrovni EU.
Kritici se obávají, že nová praxe by mohla vést ke ztrátě anonymity na internetu, izolaci mladistvých od informací a vyjadřují pochybnosti ohledně celkové přiměřenosti takovéhoto opatření.
Piotrowská přiblížila, že děti mají problém především s oproštěním se od digitálního prostoru. „Ve škole dává zákaz mobilních zařízení smysl. Když je dítě nemocné a používá mobilní zařízení trochu víc, tak je to v pořádku. Jde ale především o záměrné používání mobilu, abyste k tomu měli důvod, nejen když se nudíte,“ dodala.
Piotrowská uvedla, že u dětí je dobré využívání sociálních sítí pro komunikaci s kamarády. Podle ní však neplatí, že kdo vyrostl v digitálním prostředí, tak je odolnější proti jejich negativním dopadům.
