Die BBC hat herausgefunden, dass Pädophile die Technologie der künstlichen Intelligenz (KI) nutzen, um realistisch aussehendes Material zum sexuellen Missbrauch von Kindern zu produzieren und zu vermarkten.
Einige Leute haben Konten auf bekannten Content-Sharing-Websites wie Patreon, wo sie Abonnementgebühren für den Zugriff auf die Bilder zahlen.
In Bezug auf solche Bilder auf ihrer Website erklärte Patreon, dass es eine "Null-Toleranz"-Politik habe.
Der National Police Chiefs Council bezeichnete es als "empörend", dass einige Plattformen "riesige Gewinne" einfahren, aber keine "moralische Verantwortung" tragen.
Mit Hilfe einer Software für künstliche Intelligenz (KI) namens "Stable Diffusion", die entwickelt wurde, um Bilder für die Verwendung in Grafikdesign oder Kunst zu produzieren, wurden die Missbrauchsbilder erstellt.
KI ermöglicht es Computern, Aufgaben auszuführen, für die sonst menschliche Intelligenz erforderlich wäre.
Die Nutzer der Software "Stable Diffusion" können ein beliebiges Bild mit Hilfe von Worteingaben beschreiben, woraufhin das Programm das Bild produziert.
Nach Angaben der BBC wird die Software jedoch verwendet, um lebensechte Darstellungen von sexuellem Kindesmissbrauch, einschließlich der Vergewaltigung von Säuglingen und Kleinkindern, zu erzeugen.
Die Online-Ermittlungsteams der britischen Polizei für Kindesmissbrauch sollen bereits auf solches Material gestoßen sein.
Die Journalistin und unabhängige Forscherin Octavia Sheepshanks beschäftigt sich schon seit einiger Zeit mit diesem Thema. Über die Kinderhilfsorganisation NSPCC teilte sie der BBC ihre Erkenntnisse mit.
Es gehe nicht nur um sehr junge Mädchen; Pädophile sprächen von Kleinkindern, seit KI-generierte Bilder möglich geworden seien.
Im Vereinigten Königreich ist es rechtswidrig, ein "Pseudobild" zu besitzen, zu veröffentlichen oder zu übertragen, das von einem Computer erstellt wurde und sexuellen Kindesmissbrauch zeigt.
Es wäre falsch zu behaupten, dass niemand geschädigt wurde, weil keine echten Kinder auf solchen "synthetischen" Bildern abgebildet waren, so Ian Critchley, der Leiter des National Police Chiefs' Council (NPCC) für den Schutz von Kindern.
Er prophezeite, dass ein Pädophiler "auf dieser Skala von Gedanken über synthetische Bilder bis hin zum tatsächlichen Missbrauch eines lebenden Kindes vorankommen könnte".
Es gibt einen dreistufigen Prozess, durch den Missbrauchsbilder verbreitet werden.
- Mit Hilfe von KI-Software erstellen Pädophile Bilder.
- Sie stellen Bilder auf Websites wie dem japanischen Foto-Sharing-Dienst Pixiv ein.
- Kunden können dafür bezahlen, dass sie diese Konten auf Websites wie Patreon ansehen, indem sie auf Links auf diesen Konten klicken, die sie zu ihren expliziteren Bildern führen.
Auf der beliebten japanischen Social-Media-Website Pixiv, die vor allem von Künstlern genutzt wird, die Manga und Anime teilen, stellen einige der Bildschöpfer ihre Werke ein.
Die Macher der Seite nutzen sie jedoch, um in Gruppen und über Hashtags, die Themen anhand von Schlüsselwörtern indizieren, für ihre Arbeit zu werben, denn das Teilen von sexualisierten Cartoons und Zeichnungen von Kindern ist in Japan, wo die Seite gehostet wird, nicht verboten.
Nach Angaben eines Pixiv-Sprechers räumt das Unternehmen diesem Problem höchste Priorität ein. Am 31. Mai erklärte es, dass alle fotostilisierten Darstellungen sexueller Inhalte, an denen Minderjährige beteiligt sind, von nun an verboten seien.
Das Unternehmen behauptete, seine Überwachungssysteme im Vorfeld verstärkt zu haben und erhebliche Ressourcen für die Bewältigung von Problemen bereitzustellen, die sich aus den Fortschritten der KI ergeben.
Nach den Recherchen von Frau Sheepshanks scheinen Nutzer in großem Umfang Bilder von Kindesmissbrauch zu erstellen.
Ihr zufolge ist "das Volumen einfach enorm, so dass die Leute [Ersteller] sagen: "Wir wollen mindestens 1.000 Bilder pro Monat machen."
Nutzer haben in ihren Kommentaren zu bestimmten Pixiv-Bildern deutlich gemacht, dass sie sexuell an Kindern interessiert sind; einige haben sogar angeboten, nicht KI-generierte Bilder und Videos von Missbrauch zur Verfügung zu stellen.
Einige der Gruppen auf der Plattform standen unter Frau Sheepshanks Beobachtung. Sheepshanks' Beobachtung.
Die Leute teilen 'Oh, hier ist ein Link zu echtem Zeug', erklärt sie, "in diesen Gruppen, die 100 Mitglieder haben.
Ich wusste nicht einmal, dass Worte [solche Beschreibungen] existieren; es war das schrecklichste Zeug. "
Viele Pixiv-Konten haben Links in ihren Biografien, die auf das verweisen, was sie als "unzensierte Inhalte" auf der Patreon-Website in den USA bezeichnen.
Mit einer geschätzten Marktkapitalisierung von 4 Milliarden Dollar (3,1 Milliarden Pfund) hat Patreon nach eigenen Angaben über 250.000 Schöpfer, von denen die meisten echte Konten bekannter Autoren, Journalisten und Prominenter sind.
Mit dem Kauf von monatlichen Abonnements für den Zugang zu Blogs, Podcasts, Videos und Bildern können Fans die Schöpfer für nur 3,85 Dollar (3 £) unterstützen.
Unsere Untersuchung ergab jedoch, dass Patreon-Konten fotorealistische, KI-generierte und diffamierende Bilder von Kindern zu unterschiedlichen Preisen verkaufen, je nach Art der gewünschten Inhalte.
Eine Person kommentierte ihr Konto mit den Worten: "Ich trainiere meine Mädchen auf meinem PC", und fügte hinzu: "Unterwerfung". Ein Nutzer warb mit "exklusiver unzensierter Kunst" für 8,30 Dollar (6,50 Euro) pro Monat.
Die BBC hat Patreon ein Beispiel geliefert, das die Plattform als "halbwegs realistisch und gegen unsere Richtlinien" bezeichnete. Das Konto sei sofort gelöscht worden.
Nach Angaben von Patreon, das nach eigenen Angaben eine "Null-Toleranz-Politik" verfolgt, können Urheber keine Inhalte mit sexuellen Themen finanzieren, die Minderjährige betreffen.
Das Unternehmen fügte hinzu, dass es "zunehmende Mengen" dieser schädlichen Inhalte "identifiziert und entfernt" habe, um die Aussage zu ergänzen, dass der Anstieg von KI-generierten schädlichen Inhalten im Internet "real und beunruhigend" sei.
Es behauptete, "sehr proaktiv" zu sein, mit engagierten Teams, Technologie und Partnerschaften, um "Teenager sicher zu halten", und fügte hinzu: "Wir verbieten bereits KI-generiertes synthetisches Material zur Ausbeutung von Kindern.".
Eine globale Zusammenarbeit zwischen Wissenschaftlern und einer Reihe von Unternehmen, angeführt von der britischen Firma Stability AI, brachte den KI-Bildgenerator Stable Diffusion hervor.
Es hat mehrere Versionen gegeben, bei denen in den Code Beschränkungen eingebaut wurden, die die Arten von Inhalten, die erstellt werden können, einschränken.
Eine frühere "Open-Source"-Version, die es den Nutzern ermöglichte, den Generator so zu trainieren, dass er jedes beliebige Bild, auch illegale Bilder, erzeugt, wurde jedoch im vergangenen Jahr der Öffentlichkeit zugänglich gemacht.
In einer Erklärung gegenüber der BBC erklärte Stability AI, dass es "jeglichen Missbrauch für illegale oder unmoralische Zwecke auf unseren Plattformen verbietet, und unsere Richtlinien sind eindeutig, dass dies CSAM (Material über sexuellen Kindesmissbrauch) einschließt".
"Wir unterstützen nachdrücklich die Bemühungen der Strafverfolgungsbehörden, gegen diejenigen vorzugehen, die unsere Produkte für illegale oder ruchlose Zwecke missbrauchen", so das Unternehmen.
Da die KI weiterhin rasant voranschreitet, wurden Bedenken hinsichtlich der potenziellen Gefahren geäußert, die sie eines Tages für die Sicherheit, die Privatsphäre oder die Menschenrechte der Menschen darstellen könnte.
Ian Critchley von der NPCC sagte, er sei auch besorgt, dass der Zustrom lebensechter künstlicher Intelligenz (KI) oder "synthetischer" Bilder es schwieriger machen könnte, tatsächliche Missbrauchsopfer zu finden.
"Es schafft zusätzliche Anforderungen an die Polizei und die Strafverfolgungsbehörden, zu identifizieren, wo ein tatsächliches Kind, wo auch immer auf der Welt, missbraucht wird, im Gegensatz zu einem synthetischen oder künstlichen Kind", erklärte er. "
Mr. Critchley versicherte, dass er dies als einen Wendepunkt für die Gesellschaft betrachte.
Wie er es formulierte: "Wir können dafür sorgen, dass das Internet und die Technik die fantastischen Möglichkeiten, die sie für junge Menschen schaffen, zulassen, oder es kann ein viel schädlicherer Ort werden."
