Brytyjskie agencje ostrzegają rodziców przed „rzeczywistym” zagrożeniem AI, gdy gwałtownie rośnie liczba materiałów przedstawiających seksualne wykorzystywanie dzieci, i wzywają do ograniczenia udostępniania zdjęć

LONDYN, 4 lipca — Rodzice zostali ostrzeżeni przed publikowaniem zdjęć swoich dzieci w Internecie, ponieważ mogą one zostać wykorzystane do stworzenia materiałów przedstawiających wykorzystywanie seksualne wygenerowanych przez sztuczną inteligencję (AI) – poinformowała National Crime Agency (NCA), powołując się na PA Media/dpa.

NCA oraz Internet Watch Foundation (IWF) opublikowały nowe wytyczne dotyczące ochrony dzieci przed rosnącą liczbą obrazów przedstawiających wykorzystywanie dzieci przez AI, w ramach nowej kampanii skierowanej do rodziców i opiekunów – podała NCA.

Dzieje się tak po tym, jak brytyjska szkoła padła ofiarą gangów przestępczych, które wykorzystały ogólnodostępne zdjęcia uczniów do tworzenia seksualnych obrazów dzieci przy użyciu technologii AI, a następnie groziły opublikowaniem tych zdjęć, jeśli nie zostanie dokonana wpłata – poinformowała IWF.

Organizacje te zaalarmowały również o gwałtownym wzroście wykorzystywania narzędzi AI do tworzenia obrazów przedstawiających seksualne wykorzystywanie dzieci; analitycy IWF znaleźli 3 440 wygenerowanych przez AI filmów w 2025 r. w porównaniu z zaledwie 13 w 2024 r.

Nowa kampania ma na celu pomoc rodzicom i opiekunom w podejmowaniu świadomych decyzji dotyczących wizerunku ich dzieci, rozważaniu zgody na publikację wizerunku oraz omawianiu z dziećmi zagrożeń związanych z AI i seksualnymi obrazami typu „deepfake” – podała NCA.

„To zagrożenie jest niepokojące” – powiedziała Kerry Smith, dyrektor generalna IWF.

„Jeśli czyjś wizerunek znajduje się w Internecie, może on stać się łatwym łupem dla przestępców, a każdy, zwłaszcza dzieci, może znaleźć się na celowniku.

„Nie chcemy mówić, aby nie udostępniać zdjęć swoich dzieci osobom, które się kocha i którym się ufa, ale chcemy, aby wszyscy byli świadomi potencjalnych ryzyk i podejmowali świadome decyzje, mając do dyspozycji pełne fakty.

„To nie są hipotetyczne zagrożenia, one są realne” – dodała Smith.

„Wpływ takich obrazów może być niszczycielski.

„Szkody są bardzo realne. A potencjał trwałych uszkodzeń to coś, czemu, jak sądzę, każdy rodzic zapobiegłby, robiąc wszystko, co w jego mocy.

„Chcemy przywrócić im tę kontrolę i rozpocząć publiczną dyskusję na temat tego, czy domyślnie powinniśmy udostępniać wizerunek w Internecie”.

Przestępcy, którzy wcześniej szantażowali brytyjską szkołę, stworzyli ponad sto seksualnych obrazów jej uczniów, wykorzystując zdjęcia ze strony internetowej szkoły – ostrzegła IWF.

Chociaż IWF zdołała zapobiec przesłaniu tych obrazów, obawy pozostają, że w przyszłości więcej szkół może paść ofiarą ataków.

Obrazy przedstawiające seksualne wykorzystywanie dzieci wygenerowane przez AI stają się coraz bardziej powszechne i realistyczne w miarę postępu technologii – ostrzegły również IWF i NCA.

AI jest również wykorzystywana do tworzenia bardziej brutalnych treści, przy czym 65 procent z 3 443 filmów przedstawiających seksualne wykorzystywanie dzieci wygenerowanych przez AI, zidentyfikowanych w 2025 r., sklasyfikowano jako Kategorię A — najcięższą kategorię prawną w prawie brytyjskim, która obejmuje przestępstwa takie jak gwałt i tortury seksualne.

Dla porównania, 43 procent filmów przedstawiających przestępcze wykorzystywanie dzieci bez użycia AI, które IWF odnotowała w 2025 r., należało do Kategorii A.

IWF zidentyfikowała również 8 029 wygenerowanych przez AI obrazów i filmów przedstawiających realistyczne seksualne wykorzystywanie dzieci w 2025 r. — to 14-procentowy wzrost przestępczych treści AI w porównaniu z poprzednim rokiem.

Nowe wytyczne sugerują utworzenie grupy „bliskich znajomych” dla rodziców i opiekunów, którzy nadal chcą udostępniać zdjęcia swoich dzieci w Internecie, lub dostosowanie ustawień prywatności w postach w mediach społecznościowych, aby tylko wybrana liczba osób mogła je zobaczyć.

Zawierają również porady dotyczące rozmów z dziećmi i młodzieżą o AI i zgodzie na wykorzystanie wizerunku, a także tego, co zrobić, jeśli padną ofiarą ataku lub ich wizerunek zostanie stworzony lub udostępniony w Internecie.

Rodzice zostali również zachęceni do informowania dzieci i młodzieży, że nagie lub półnagie zdjęcia osób poniżej 18. roku życia mogą być zgłaszane i usuwane z Internetu — w tym te stworzone lub zmienione przy użyciu AI.

Usługa Report Remove, prowadzona przez National Society for the Prevention of Cruelty to Children (NSPCC) i IWF, oferuje również wsparcie zdrowia psychicznego dla młodych ludzi.

Tim Wright z National Crime Agency powiedział: „Narzędzia sztucznej inteligencji stają się coraz potężniejsze, bardziej dostępne i łatwiejsze w użyciu, a my widzimy, jak przestępcy je wykorzystują, aby atakować dzieci w nowy sposób.

„Zdjęcia udostępniane w Internecie, nawet codzienne zdjęcia rodzinne, mogą zostać skradzione i zmanipulowane w celu stworzenia treści o charakterze seksualnym bez wiedzy dziecka lub rodzica.

„Podczas gdy my i nasi koledzy z policji zwalczamy przestępców, prewencja pozostaje kluczowa.

„Zachęcamy rodziców i opiekunów do podjęcia dziś kilku prostych kroków: przejrzenia ustawień prywatności na kontach w mediach społecznościowych; dokładnego zastanowienia się, kto ma dostęp do zdjęć ich dzieci; oraz otwartych rozmów z rodziną, przyjaciółmi, szkołami i klubami na temat udostępniania wizerunku i zgody.

„Co najważniejsze, jeśli coś pójdzie nie tak, zachowajcie spokój, uspokójcie swoje dziecko, że nie jest winne, i zgłoście obawy policji lub CEOP [Child Exploitation and Online Protection], aby działania mogły zostać podjęte tak szybko, jak to możliwe”.

Obrazy i filmy przedstawiające seksualne wykorzystywanie dzieci są nielegalne w Wielkiej Brytanii, niezależnie od tego, czy zostały stworzone lub zmienione przy użyciu AI, czy nie.

IWF wezwała również firmy technologiczne do oceny i zabezpieczenia swoich modeli AI przed ich udostępnieniem, aby utrudnić przestępcom wykorzystywanie generatywnej AI do tworzenia materiałów przedstawiających wykorzystywanie dzieci. — Bernama-PA Media/dpa