National Crime Agency (NCA) și Internet Watch Foundation (IWF) au lansat astăzi, primul ghid destinat părinților și tutorilor privind protejarea fotografiilor copiilor în era inteligenței artificiale. Autoritățile avertizează că imagini aparent obișnuite, publicate pe rețelele sociale, pot fi copiate de infractori și transformate cu ajutorul AI în materiale de abuz sexual asupra copiilor, fără ca victimele să fi avut vreodată contact cu agresorii.

Ghidul a fost publicat în contextul în care autoritățile spun că folosirea inteligenței artificiale de către rețelele de exploatare sexuală a copiilor a devenit una dintre amenințările cu cea mai rapidă creștere din mediul online. Cele două organizații subliniază că nu le cer părinților să renunțe complet la publicarea fotografiilor de familie, ci îi îndeamnă să înțeleagă noile riscuri și să ia măsuri pentru a limita accesul infractorilor la imaginile copiilor.

Potrivit datelor prezentate de IWF, în 2025 au fost identificate 8.029 de imagini și videoclipuri generate cu ajutorul inteligenței artificiale care reprezentau materiale realiste de abuz sexual asupra copiilor, cu 14% mai multe decât în anul precedent. Cele două organizații avertizează că infractorii folosesc fotografii publice de pe rețelele sociale, de pe site-urile școlilor sau ale cluburilor sportive pentru a crea imagini false, extrem de convingătoare, care pot fi distribuite în rețele de exploatare sexuală a copiilor, folosite pentru șantaj sau pentru alte infracțiuni.

Printre cele mai mari riscuri se numără aplicațiile de tip „nudification”, care pot transforma cu ajutorul AI un selfie sau o fotografie în care copilul este complet îmbrăcat într-o imagine nud falsă. Organizația Report Remove, care sprijină minorii afectați de distribuirea imaginilor intime fără consimțământ, a raportat deja cazuri în care astfel de imagini au fost folosite pentru șantaj. Serviciul Childline a prezentat inclusiv cazul unei adolescente de 15 ani care a descoperit că un necunoscut i-a creat o imagine nud falsă folosind fotografii preluate de pe contul său de Instagram.

Autoritățile atrag atenția că riscul nu se limitează la conturile personale ale părinților. În Regatul Unit au fost semnalate cazuri în care fotografii ale elevilor, preluate de pe site-urile școlilor și de pe paginile acestora de socializare, au fost transformate cu ajutorul AI în materiale de abuz sexual asupra copiilor. Ulterior, autorii au încercat să șantajeze instituțiile de învățământ, amenințând că vor publica imaginile dacă nu primesc bani.

NCA și IWF recomandă părinților să își seteze conturile de socializare ca private, să distribuie fotografiile copiilor doar către persoane de încredere, să verifice imaginile publicate în trecut și să reanalizeze acordurile prin care au permis școlilor, grădinițelor sau cluburilor sportive să publice fotografii cu copiii lor. De asemenea, părinții sunt încurajați să discute cu cei mici despre publicarea imaginilor în mediul online și să le respecte dreptul de a refuza fotografierea sau distribuirea acestora atunci când nu se simt confortabil.

Avertismentul vine în contextul în care Guvernul britanic pregătește noi măsuri legislative pentru combaterea folosirii inteligenței artificiale la generarea materialelor de abuz sexual asupra copiilor. Printre măsurile propuse se numără incriminarea dezvoltării, deținerii și distribuirii modelelor de inteligență artificială create special pentru producerea unor astfel de materiale.

Noul ghid pentru părinți face parte din campania lansată de autoritățile britanice pentru a informa familiile despre modul în care fotografiile copiilor pot fi exploatate cu ajutorul inteligenței artificiale și despre măsurile prin care aceste riscuri pot fi reduse.