Alarmierender Anstieg von KI-generiertem Kindesmissbrauchsmaterial im öffentlichen Internet
Die Internet Watch Foundation (IWF) hat die Alarmglocken geläutet, weil immer mehr KI-generiertes Material über Kindesmissbrauch in öffentlich zugänglichen Bereichen des Internets auftaucht.
Anders als in der Vergangenheit tauchen diese Inhalte nun auf den gängigen Online-Plattformen auf, anstatt sich auf das Dark Web zu beschränken, auf das man nur über spezielle Browser wie Tor zugreifen kann.
Beunruhigender Realismus
Nach den Erkenntnissen der IWF-Experten wird die Technologie der künstlichen Intelligenz zunehmend genutzt, um unglaublich lebensechte visuelle Inhalte zu erzeugen, die Kinder als Opfer von Gewalt oder Missbrauch darstellen. Das verstörende Material wird dann über verschiedene Online-Plattformen zu verdrehten und schändlichen Zwecken verbreitet.
Was noch beunruhigender ist, ist die Tatsache, dass die KI-Tools, die diese Bilder erstellen, an echten Inhalten von Opfern trainiert wurden.
Derek Ray-Hill, IWF-Interimsgeschäftsführer
Das Vorhandensein dieser KI-produzierten Bilder kann besonders beunruhigend sein, weil sie so realistisch sind, dass es für den Betrachter extrem schwierig ist, sie von tatsächlichem Kindesmissbrauch zu unterscheiden. Diese Zweideutigkeit schadet den Personen, die diesen Inhalten ausgesetzt sind, immens und verstärkt die Auswirkungen der Erfahrung.
Eine Datenanalyse des IWF hat ergeben, dass ein erheblicher Teil des in den letzten sechs Monaten entdeckten digitalen Missbrauchsmaterials, in das Kinder verwickelt sind, auf Servern in wichtigen Ländern wie Russland, den Vereinigten Staaten, Japan und den Niederlanden gehostet wird.
Dringende Maßnahmen erforderlich
Die beunruhigende Realität ist, dass fast das gesamte (99 %) von der KI erstellte Material über Kindesmissbrauch in offen zugänglichen Bereichen des Internets entdeckt wurde, das nun einen kritischen Punkt erreicht hat. Diese Situation bringt noch mehr Menschen in die Gefahr, diesen schrecklichen und potenziell traumatischen Bildern ausgesetzt zu sein.
IWF-Analysten warnen, dass die Betrachtung von KI-erstelltem Kindesmissbrauchsmaterial genauso erschütternd sein kann wie der Anblick echter Kinder in Missbrauchsbildern, wenn man nicht darauf vorbereitet oder trainiert ist, mit solchem Material umzugehen.
Strafverfolgungsbehörden und Technologieunternehmen müssen ihre Kräfte bündeln, um proaktiv den Zugang zu digital erzeugten Kindesmissbrauchsinhalten zu entfernen und zu blockieren und den Ursprung dieses verstörenden Materials zurückzuverfolgen.