What changed between the plenary report and the adopted text

Removed:68. vyjadřuje znepokojení nad rychlým šířením obsahu vytvořeného umělou inteligencí, který předstírá, že je dílem známých osobností, tvůrců internetového obsahu a značek, čímž se důvěra uživatelů zneužívá ke komerčnímu zisku nebo k šíření dezinformací; vyzývá Komisi, aby klasifikovala klamavé jednání a podvodné vyžívání cizí identity jako součást možných systémových rizik podle nařízení o digitálních službách a aktu o umělé inteligenci, aby zvážila přijetí opatření na ochranu nezletilých osob před podvodným jednáním a aby společnostem a spotřebitelům, kteří se stali obětí klamu a podvodného vyžívání cizí identity, poskytla pomoc;

Added:66. Calls on the Commission to encourage brands to work together with influencers who can be certified voluntarily to ensure they have the knowledge of legal rules applicable to their activities, giving brands cooperating with certified influencers assurance that their products are marketed in a legally compliant manner and enabling users to place greater trust in influencers;

Removed:69. vyzývá Komisi, aby upravila pravidla EU, mimo jiné případným vyjasněním povinností platforem, influencerů a dalších subjektů v hodnotovém řetězci, jako jsou agentury a značky, jejichž výrobky a služby jsou propagovány;

Added:67. Recalls that the AVMSD provides protection for minors against commercial communications encouraging behaviour prejudicial to a person’s health or safety; notes, however, that the AVMSD applies to influencers insofar as they qualify as media service providers; highlights that not all influencers are therefore covered by the AVMSD; notes, furthermore, that the Commission’s 2021 guidance on the UCPD clarified that influencers can be covered by the UCPD, including the prohibition of misleading and unfair commercial practices; notes, however, that in the 2024 Fitness Check on Digital Fairness, the Commission concluded that there is still legal uncertainty about the applicable rules and that a risk of regulatory fragmentation exists; calls, therefore, on the Commission to further assess the need to address legal uncertainties, including by having a harmonised definition of ‘influencer marketing’, and strengthen, where appropriate, the prohibition of commercial practices that include the promotion by influencers of products, trends, challenges or behaviours that may put minors at risk, including health or financial risk;

Removed:Umělá inteligence

Added:68. Expresses concern about the rapid spread of AI-generated content impersonating famous personalities, online content creators and brands, which exploit users’ trust for commercial gain or for the dissemination of disinformation; calls on the Commission to classify scams and false impersonation as part of possible systemic risks under the DSA and AI Act and to consider adopting measures to protect minors from being misled and deceived and allow for recourse to businesses and consumers affected by these scams and false impersonations;

Removed:70. zdůrazňuje, že i nezletilé osoby mají k nástrojům generativní umělé inteligence stále snazší přístup; poukazuje na rizika týkající se transparentnosti, tréninkových dat, manipulace a antropomorfismu umělé inteligence, deepfakes, chatbotů plnících funkci společníků a agentů umělé inteligence, a na to, že v jejichž důsledku může dojít ke zkreslování reality, šíření neúmyslně nesprávných informací nebo poškození duševního zdraví, přičemž v některých případech již došlo k tragédiím, včetně sebevražd, a zdůrazňuje, že pod vlivem těchto faktorů mohou být uživatelé puzeni k nezamýšleným nákupům online a ke sdílení osobních údajů; varuje zejména před zneužíváním materiálu zobrazujícího děti, který je dostupný na internetu a který mohou technologie umělé inteligence zneužívat k nevhodným nebo škodlivým účelům, včetně vytváření zmanipulovaného nebo zneužívajícího obsahu; je hluboce znepokojen tím, že společnosti zabývající se umělou inteligencí v USA polevily v testování modelů umělé inteligence, pokud jde o bezpečnost a základní práva, což při interakci s umělou inteligencí představuje zvláštní riziko pro nezletilé osoby; zdůrazňuje v tomto ohledu význam provádění a účinného prosazování aktu o umělé inteligenci;

Added:69. Calls on the Commission to adapt EU rules, including by clarifying, where necessary, the responsibilities of platforms, influencers and other actors in the value chain, such as their agencies, and the brands whose products and services are being promoted;

Removed:71. zdůrazňuje, že aplikace využívající umělou inteligenci mohou shromažďovat a zpracovávat údaje dětí bez informovaného souhlasu nebo povědomí dítěte nebo jeho zákonných zástupců, zejména pokud jde o práva dítěte jako subjektu údajů;

Added:Artificial intelligence

Removed:72. poukazuje na potenciální rizika programů generativní umělé inteligence, které by mohly být zneužívány k podpoře pohlavního zneužívání dětí predátory, ale také vytvářet pomocí technologie deepfake sexualizovaný materiál nezletilých osob zneužitelný při kybernetické šikaně mezi vrstevníky, a upozorňuje na to, že poskytovatelé služeb a platforem, kteří tyto nástroje nabízejí, musí proti tomuto fenoménu zakročit;

Added:70. Underlines the increasing ease of access to generative AI tools, which are also accessible to minors; highlights the risks regarding transparency, training data, manipulation and AI anthropomorphism, deepfakes, companionship chatbots and AI agents, all of which can result in a distortion of reality and in misinformation, or harm mental health, which in some cases has already led to serious tragedies, including suicides, or led users to make unintended online purchases and share personal data; warns, in particular, against the misuse of children’s images available online, which can be exploited by AI technologies for inappropriate or harmful purposes, including the creation of manipulated or abusive content; is deeply concerned about the fact that companies have started to roll back their efforts in testing AI models with regard to safety and fundamental rights, which puts minors at particular risk when interacting with AI; stresses the importance of the implementation and effective enforcement of the AI Act in this regard;

Removed:73. je si vědom významné hrozby, kterou představují svlékací aplikace využívající umělou inteligenci, jako je aplikace „Undress“, která uživatelům umožňuje generovat zmanipulované obrázky jednotlivců bez jejich souhlasu, čímž porušuje jejich soukromí a důstojnost; konstatuje, že tyto technologie mohou usnadňovat genderově podmíněné kybernetické násilí; apeluje na Komisi, aby urychleně přijala kroky k řešení těchto etických a právních výzev, které tyto technologie představují;

Added:71. Stresses that AI-powered applications may be collecting and processing children’s data without the informed consent or awareness of the child or their legal guardians, especially in regard to the rights of the child as a data subject;

Removed:74. zdůrazňuje, že nezletilí jsou obzvláště zranitelní vůči návykovým designovým prvkům interaktivních aplikací a her využívajících umělé inteligence, které mohou být často záměrně vyvíjeny s cílem maximalizovat interakci; zdůrazňuje, že doporučovací algoritmy založené na umělé inteligenci mohou vést u nezletilých k trávení nadměrného času u obrazovky a vytvářet jejich závislost, což brání jejich kognitivnímu, emocionálnímu a sociálnímu rozvoji a komplikuje rozvoj jejich individuálních dovedností a schopností;

Added:72. Stresses the potential risks of generative AI programs being used to facilitate child sexual abuse grooming by predators, but also deepfake sexualised material of minors, which is used in cyberbullying by peers, and stresses the need to counter this from the side of services providers and platforms that make these tools available;

Removed:75. zdůrazňuje, že akt o umělé inteligenci je důležitým nástrojem k řešení systémových rizik, která systémy umělé inteligence představují, zejména pro veřejné zdraví, bezpečnost, veřejnou bezpečnost, základní práva nebo společnost jako celek, a pro stanovení minimální úrovně bezpečnosti a důvěryhodnosti umělé inteligence v EU, včetně systémů AI, které se používají při vytváření obsahu, v doporučovacích systémech a při interakci uživatelů na on-line platformách; vyzývá k urychlenému zavedení povinností vyplývajících z aktu o umělé inteligenci a k jejich vymáhání s cílem zajistit důvěryhodnost a bezpečnost umělé inteligence, a to i pro nezletilé osoby; vyzývá Komisi a orgány členských států, aby důrazně prosazovaly ustanovení aktu o umělé inteligenci, která se zabývají manipulativními a klamavými chatboty;

Added:73. Recognises the significant threat posed by AI-powered nudity applications, which allow users to generate manipulated images of individuals without their consent, thereby infringing upon personal privacy and dignity; acknowledges the potential for such technologies to facilitate gender-based cyberviolence; calls on the Commission to urgently address the ethical and legal challenges posed by these technologies;

Removed:76. zdůrazňuje klíčový význam kodexu zásad pro obecné modely umělé inteligence (GPAI), který je základním kamenem účinného provádění povinností vyplývajících z aktu o umělé inteligenci v oblasti zmírňování systémových rizik, zejména pokud jde o ochranu základních práv a řešení rizik, jimž jsou vystaveni nezletilí;

Added:74. Emphasises that minors are particularly vulnerable to addictive design features of interactive AI applications and games that often may be intentionally developed to maximise engagement; highlights that AI-driven recommendation algorithms may lead to excessive screen time and create dependency, thus hindering cognitive, emotional and social development in minors and hampering the development of individual skills and competences;

Removed:77. konstatuje, že agenti umělé inteligence, společníci a chatboty pro nezletilé jsou na internetu využívány stále častěji a mohou představovat významná rizika z hlediska práv nezletilých osob a jejich zdravého vývoje; zdůrazňuje, že Komise by měla v rámci probíhajícího hodnocení právních předpisů v oblasti ochrany spotřebitele zvážit přijetí dalších záruk, norem transparentnosti a zákazu antropomorfních prvků, aby se zabránilo podněcování dětí k nákupu a zajistila se jim možnost přestat bez problémů chatboty umělé inteligence používat;

Added:75. Highlights that the AI Act is an important instrument to address the systemic risks posed by AI systems, especially to public health, safety, public security, fundamental rights or society as a whole, and to establish a minimum level of safety and trustworthiness for AI in the EU, including the AI systems used in content generation, recommendation systems and user interaction on online platforms; calls for the swift implementation and enforcement of obligations arising from the AI Act, to ensure safe and trustworthy AI that is also safe for minors; calls on the Commission and the Member States’ authorities to firmly enforce the AI Act provisions addressing manipulative and deceptive chatbots;

Removed:78. vyzývá členské státy, aby urychleně jmenovaly příslušné orgány odpovědné za prosazování zákazů u zakázaných praktik a aby akt o umělé inteligenci důsledně a účinně prosazovaly, zejména pokud jde o ustanovení o ochraně nezletilých osob; zdůrazňuje, že příslušné orgány by měly věnovat zvláštní pozornost systémům umělé inteligence, zejména těm, které jsou zaváděny platformami sociálních médií, a prošetřit, zda systémy umělé inteligence, u nichž je pravděpodobné, že budou interagovat s nezletilými osobami, nezneužívají zranitelnosti nezletilých osob nebo nenarušují jejich chování tak, že to dotčené osobě nebo jiné osobě způsobuje, nebo by s přiměřenou pravděpodobností mohlo způsobit, významnou újmu, jak zakazuje akt o umělé inteligenci;

Added:76. Stresses the critical importance of the Code of Practice on General-Purpose AI (GPAI) models as a cornerstone for the effective implementation of the AI Act’s systemic risk mitigation obligations, particularly in safeguarding fundamental rights and addressing the risks posed to minors;

Removed:79. podtrhuje význam podpory financování výzkumu umělé inteligence pro děti a s dětmi, jakož i podpory pobídek k překlenování digitální propasti;

Added:77. Notes that AI agents, companions and chatbots for minors are increasingly present online and can pose significant risks to minors’ rights and healthy development; stresses that the Commission should, as part of its ongoing evaluation of consumer legislation, consider additional safeguards, transparency standards and a prohibition of human-like features, to avoid nudging children to make purchases, and to ensure the ability for children to easily disengage from AI chatbots;

Removed:Mediální a digitální gramotnost a vzdělávání

Added:78. Calls on the Member States to urgently appoint competent authorities in charge of enforcing bans on prohibited practices and enforce the AI Act in an ambitious and effective manner, in particular but not limited to provisions concerning the protection of minors; highlights that competent authorities should pay particular attention to AI systems, notably those deployed by social media platforms, and investigate whether any AI systems likely to interact with minors exploit the vulnerabilities of minors or distort their behaviour in a manner that causes, or is reasonably likely to cause, that person or another person significant harm, as prohibited by the AI Act;

Removed:80. uznává význam mediální a digitální gramotnosti pro to, aby se nezletilé osoby mohly bezpečně a odpovědně pohybovat v online prostředí a používat kritického myšlení; připomíná, že členské státy a Evropská unie mají pravomoc přijímat konkrétní opatření v této oblasti, a to i ve vzdělávacích zařízeních; doporučuje začlenění mediální a digitální gramotnosti do vnitrostátních osnov a rozvoj programů průběžné odborné přípravy pro učitele a pedagogy; zdůrazňuje, že je nezbytné propojit mediální gramotnost se základními dovednostmi, jako je porozumění psanému projevu, a vyzdvihuje význam gramotnosti v oblasti umělé inteligence a digitální gramotnosti jako předpokladů pro vytvoření bezpečnějšího internetového prostředí a pro rozpoznávání rizik na internetu; zdůrazňuje, že je třeba posoudit potenciální škody i hledat dostupné mitigační nástroje a zároveň prozkoumat pozitivní úlohu, kterou může digitální prostředí hrát v přístupu k informacím, vzdělávání a občanské účasti; uznává úlohu veřejnoprávních sdělovacích prostředků při poskytování rozmanitého a kvalitního obsahu nezletilým osobám s cílem posilovat vzdělávací a kulturní cíle; doporučuje, aby digitální platformy šířily kulturní rozmanitost a vzdělávací materiály, zejména od evropských tvůrců a veřejných institucí;

Added:79. Stresses the importance of supporting research on AI for and with children, as well as of promoting incentives to reduce the digital divide;

Removed:81. zdůrazňuje, že ochrana nezletilých osob na internetu je sdílenou odpovědností, která vyžaduje zapojení rodičů, pověřených osob, veřejných orgánů, platforem a škol; zdůrazňuje, že je třeba uvolnit odpovídající zdroje, a vyzývá ke strukturované spolupráci mezi vzdělávacími systémy, digitálními platformami a regulačními orgány s cílem zajistit vysoce kvalitní programy digitální a mediální gramotnosti; vyzývá Komisi, aby podporovala výměnu osvědčených postupů a přeshraniční spolupráci s cílem zajistit bezpečné a odpovědné online prostředí;

Added:Media and digital literacy and education

Removed:82. vyzdvihuje nutnost poskytnout rodičům a pověřeným osobám odpovídající informace a pokyny, které jim pomohou podpořit své děti v digitálním světě; vyzývá k zavedení vzdělávacích a osvětových iniciativ pro rodiče, pověřené osoby, učitele a pedagogy, které budou financovány z fondů EU a budou se mimo jiné zaměřovat na dopady nadměrného využívání sociálních médií, vystavení škodlivému obsahu a závislosti na internetu; zdůrazňuje, že nezletilé osoby jsou vůči dezinformacím na internetu obzvláště zranitelné, jelikož procházejí psychologickým vývojem a jejich mediální gramotnost a schopnosti kritického myšlení se teprve rozvíjejí; vyzdvihuje naléhavou potřebu pořádat ve školách osvětové kampaně přiměřené věku s cílem pomoci nezletilým identifikovat a hlásit rizika na internetu; vybízí poskytovatele online platforem a digitálních služeb, aby přijali dobrovolná opatření a nástroje, které pomohou posílit digitální dovednosti, kritické myšlení a digitální gramotnost nezletilých osob a podpoří rodiče nebo pověřené osoby v jejich roli průvodců nezletilých v online světě; připomíná, že děti, jež jsou nejzranitelnější offline, jsou často také nejzranitelnější na internetu, a zdůrazňuje potřebu cílené podpory zranitelných dětí, včetně dětí z nízkopříjmového prostředí nebo se zdravotním postižením; vybízí k podpoře gramotnosti nezletilých, kteří působí jako tvůrci digitálního obsahu, přičemž je třeba, aby tato podpora odpovídala věku nezletilých a aby zahrnovala pokyny pro učitele a pracovníky s mládeží a etické pokyny ohledně toho, jak na internetu nakládat s vizuálním a narativním materiálem, jehož jsou děti protagonisté;

Added:80. Acknowledges the importance of media and digital literacy in empowering minors to navigate online environments safely and responsibly and to apply critical thinking; recalls that the Member States and the European Union have the competencies to adopt specific measures in this area, including in educational settings; recommends the inclusion of media and digital literacy in national curricula and the development of training programmes for teachers and educators on a regular basis; stresses the necessity of linking media literacy to basic skills, such as reading comprehension, and underlines the importance of AI literacy and digital literacy as prerequisites for creating a safer internet environment and recognising online risks; stresses the need to assess both potential harms and available mitigation tools, while also exploring the positive role that digital environments can play in access to information, education and civic participation; acknowledges the role of public service media in providing diverse, high-quality content for minors to reinforce educational and cultural objectives; recommends that digital platforms promote educational materials and cultural diversity, particularly from European creators and public institutions;

Added:81. Underlines that protecting minors online is a shared responsibility that requires the involvement of parents, guardians, public authorities, platforms and schools; highlights the need for adequate resources, and calls for structured cooperation between education systems, digital platforms and regulatory authorities to deliver high-quality digital and media literacy programmes; calls on the Commission to encourage exchange of best practices and cross-border cooperation to ensure safe and responsible online environments;

Added:82. Stresses the need to provide parents and guardians with adequate training and guidance to help them support their children’s digital experience; calls for EU-funded training and awareness initiatives for parents, guardians, teachers and educators, including on the effects of excessive use of social media, exposure to harmful content and online addiction; stresses that minors are particularly vulnerable to online disinformation, on account of their developmental stage and the evolving nature of their media literacy and critical thinking skills; emphasises the urgent need for age-appropriate awareness campaigns in schools to empower minors to recognise and report online risks; encourages online platforms and digital service providers to adopt voluntary measures and tools that help strengthen the digital skills, critical thinking and digital literacy of minors and support parents or guardians in guiding their online experience; recalls that the most vulnerable children offline are often also the most vulnerable online and highlights the need for targeted support for vulnerable children, including those from low-income backgrounds or with disabilities; encourages age-appropriate literacy support for minors acting as digital content creators, with guidance for teachers and youth workers, and ethical guidelines for children’s images and narratives online;

°

° °

Change 2

Removed:83. pověřuje svou předsedkyni, aby předala toto usnesení Radě, Komisi a vládám a parlamentům členských států.

Added:83. Instructs its President to forward this resolution to the Council, the Commission and the governments and parliaments of the Member States.