Das Internet in Echtzeit nach antisemitischen Verschwörungstheorien durchsuchen und Hassreden herausfiltern: Mit der Software „Projekt Eagle“ haben Simon Rolle und Arthus Achilles eine Möglichkeit entwickelt, unter Einsatz eines aktuellen KI-Chatbots die Plattform „X“ auf antisemitische Verschwörungsmythen zu überprüfen. Für ihr Projekt haben Sie 2023 den Bundeswettbewerb „Jugend forscht“ in der Kategorie Mathematik/Informatik gewonnen.

Über die Frage, wie antisemitische Kommentare in Sozialen Netzwerken noch besser erkannt werden können, hat sich Bundesinnenministerin Nancy Faeser mit den beiden Bundessiegern ausgetauscht und dankte ihnen für ihren Innovationsgeist und ihr Engagement. Faeser ermutigte außerdem „alle Menschen in unserem Land, ganz egal wie alt sie sind, sich gegen Antisemitismus stark zu machen - auf der Straße wie auch im Netz“.

In einem Interview von Juni 2023 berichten beide von dem Schlüsselmoment, aus der ihre Idee entstanden ist, was KI dabei für eine Rolle spielt – und wie sich die Technik im Sinne unserer Demokratie nutzen lässt:

Ihr seid Bundessieger im Fachgebiet Mathematik/Informatik. Wart ihr sehr überrascht oder hattet ihr euch von Anfang an gute Chancen ausgerechnet?

Simon Rulle/Arthur Achilles: Beim Bundeswettbewerb von Jugend forscht in Bremen waren wir sehr begeistert von den anderen Projekten, den starken Leistungen und den interessanten Gesprächen. Wir waren daher sehr überrascht, gleichzeitig aber auch sehr dankbar, dass wir mit dem Bundessieg im Fachgebiet Mathematik/Informatik ausgezeichnet wurden.

Wie ist die Idee zu dem prämierten Projekt entstanden?

Rulle/Achilles: Uns treibt die Frage um: Wie kann unsere Demokratie im digitalen Zeitalter wehrhaft werden? Ein Schlüsselmoment dabei war der Anschlag in Halle vom 9. Oktober 2019. Dieser zeigt nicht nur die grausame Brutalität antijüdischer Gewalt. Sondern auch die besonderen Gefahren, die sich aus der symbiotischen Verbindung von antisemitischen Verschwörungsmythen als Gedankengut und deren digitalen Verbreitung im Internet ergeben. Dabei brauchte der Attentäter keine analogen Kontakte mehr, er konnte sich völlig alleine im Netz radikalisieren. Und da war unsere Überlegung, ob man nicht ein Werkzeug, eine Möglichkeit schaffen könnte, derartige Radikalisierungstendenzen quasi in Echtzeit zu erkennen. Und dies, bevor es in der „echten Welt“ zur Gewalt kommt. Dafür müssen die Extremisten, die unsere Demokratie bedrohen, vorab aber im Netz aufgespürt werden.

Wie konkret funktioniert denn die Software? Es ist ja sicher nicht einfach, aus den scheinbar unüberschaubaren sozialen Netzwerken gezielt antisemitische Kommentare und Hassreden zu identifizieren.

Rulle/Achilles: Das Internet ist ja kein rechtsfreier Raum, aber zu oft ein rechtsdurchsetzungsfreier Raum. Im „Analogen“ kann die Polizei Streife fahren, während es im Internet tatsächlich eher unübersichtlich ist.

Herzstück unseres Projektes ist daher eine künstliche Intelligenz, die Texte basierend auf ihrem antisemitisch verschwörungsmythischen Inhalt klassifiziert. Durch ihr kontextualisiertes Verständnis löst sie die große Herausforderung, die beispielsweise Stichwortlisten mit sich bringen. Denn diese springen bei allen Chiffren und Codes gleichermaßen an. Sie können nicht unterscheiden, ob hier tatsächlich Hass verbreitet oder ganz im Gegenteil vor diesem Gedankengut gewarnt wird.

Um dieser Herausforderung gerecht zu werden, haben wir beim Erstellen des Trainings-Datensatzes darauf geachtet, dass dieser neben antisemitischen Verschwörungsmythen auch solche Kommentare beinhaltet, die sich mit Verschwörungsmythen kritisch auseinandersetzen. Zusätzlich haben wir auch Texte aus vollkommen anderen Themenbereichen hinzugefügt, damit die künstliche Intelligenz später nicht von diesen verwirrt wird. Die Beiträge wurden dabei von uns manuell basierend auf einer Operationalisierung der Definition der antisemitischen Verschwörungsmythen gelabelt.

Verschwörungsmythen sind dabei Erzählungen, die die Welt raumzeitlich für ein Individuum oder ein Kollektiv ordnen, in dem sie die Schuld an der eigenen Lage einer Gruppe vermeintlich im Verborgenen agierenden bösen Verschwörern zuschreibt. Im Antisemitismus kommt diese Rolle dabei den Juden und Jüdinnen sowie allen mit ihnen assoziierten Akteuren zu. Der Hass kann sich damit auch auf Ärzte, Journalisten, Wissenschaftler und Politiker richten.

Die mit diesem Datensatz anschließend trainierte künstliche Intelligenz ist in der Lage, einen Text in Millisekunden zu bewerten.

Im zweiten Schritt unseres Projektes haben wir die KI eingebettet in einen „Graphexplorationsalgorithmus“. Den kann man sich vorstellen als ein Programm, was sich auf Plattformen von Account zu Account hangelt und dabei die Verbindungen der Nutzer zueinander erfasst. Bei jedem Nutzer analysiert das von uns entwickelte Werkzeug aber zugleich auch die von ihm veröffentlichten Kommentare. So realisieren wir eine inhaltliche Analyse sozialer Medien, die nicht nur Antisemitismus, sondern vor allem auch Antisemiten findet und das nicht, weil sie vielleicht einem antisemitischen Account folgen, sondern aufgrund ihres eigenen öffentlichen Auftritts.

Spielten dabei eigene Erfahrungen im Umgang mit Antisemitismus, Verschwörungstheorien, Hasskommentaren eine Rolle?

Rulle/Achilles: Als Christen leben wir an unserer Schule St. Michael in Paderborn den interreligiösen Dialog. Der Besuch in der Synagoge mit Polizeischutz und Videoüberwachung hat uns bestürzt. Welches Armutszeugnis ist es für einen Teil der Gesellschaft, dass 78 Jahre nach dem Holocaust Jüdinnen und Juden immer noch besonderen Schutz brauchen. Gerade aber weil wir von dem Hass nicht direkt betroffen sind, sehen wir es umso mehr als unsere Aufgabe an, dass wir als starke Zivilgesellschaft unseren Beitrag zum Schutz der so wertvollen Vielfalt leisten. Denn jeder Angriff auf Minderheiten ist ein Angriff auf unsere liberale Demokratie.

Lässt sich das Programm auch auf andere Themenbereiche anwenden wie beispielsweise Rassismus oder allgemeine Desinformationen?

Rulle/Achilles: Ja, mit dem von uns entwickelten Werkzeug wäre es auch möglich, weitere Formen gruppenbezogener Menschenfeindlichkeit zu identifizieren. Da braucht es einen neuen, initialen Datensatz, mit dem die künstliche Intelligenz die Strukturen von beispielsweise Rassismus oder Sexismus erkennen kann. Man erhält dann aber nicht nur einfach eine weitere Erkennungskategorie, sondern ist auch in der Lage, die Schnittmengen unterschiedlicher antidemokratischer Szenen zu erkennen.

Wie geht es nun mit der Software weiter? Hat sie bereits einen Entwicklungsstand erreicht, dass sie breit anwendbar ist?

Rulle/Achilles: Unsere Software hat im Kern drei Anwendungsfelder. Zum einen ermöglicht die Erkennung antisemitischer Verschwörungsmythen in Millisekunden eine präventive Prüfung von Kommentaren. Online-Auftritte der Zeitung oder kleine Foren sind somit fähig, kosteneffizient und zugleich präzise, Debatten zu schützen, aber auch lebendiger zu machen. Denn die Kommentare können so vor Veröffentlichung durch die künstliche Intelligenz automatisiert analysiert werden und müssen nicht mehr „stundenlang“ auf eine manuelle Prüfung warten.

Der zweite Anwendungsbereich ist die Forschung. Unser Werkzeug ermöglicht, eine Echtzeitanalyse der verschiedenen Szenen zu betreiben und damit zu erfahren, wie sich der digitale Diskurs im Internet verschiebt und wie sich antidemokratisches Gedankengut, wenn man so will, auf einer Meta-Ebene verbreitet.

Die dritte Stütze, die unser Projekt verfolgt, ist über eine Art Gemengelage hinaus nicht nur Antisemitismus, sondern auch Antisemiten zu finden. Hier erweist sich unser Ansatz als wertvoll, in den großen Datenmengen des Internets, konkret diejenigen zu finden, die antidemokratisches Gedankengut verbreiten.

Natürlich weiß jeder, der mit KI arbeitet, dass Präzision und Verlässlichkeit noch erhöht werden können. Deshalb arbeiten wir weiter an unserer Software.

Falls ihr das jetzt schon absehen könnt: Wollt ihr eure Expertise später mal beruflich einsetzen?

Rulle/Achilles: Ja, wir freuen uns darauf, im interdisziplinären Ansatz die Möglichkeiten der künstlichen Intelligenz zu erforschen. Denn das Potenzial dieser neuen Technologie ist gewaltig, aber uns ist es wichtig, dass es zum Wohle der Gesellschaft eingesetzt wird. Wir sind überzeugt, dass künstliche Intelligenz einen Beitrag leisten kann, unsere Demokratie im digitalen Zeitalter wehrhaft zu machen. Unser Projekt evaluiert die technischen Möglichkeiten. Wie diese zum Schutz der Jüdinnen und Juden in unserer Demokratie eingesetzt werden, das entscheiden Zivilgesellschaft und Politik.

Als Landessieger Nordrhein-Westfalen im Fachgebiet Mathematik/Information qualifizierten sich Simon Rulle und Arthur Achilles für das Finale von „Jugend forscht“ auf Bundesebene.

Für den Bundeswettbewerb der 58. Wettbewerbsrunde vom 18. bis 21. Mai 2023 in Bremen stellten sich insgesamt 173 Jugendliche mit insgesamt 108 Projekten einer ausgewählten Fachjury. Die Finalisten setzen sich in insgesamt 120 Wettbewerbsveranstaltungen auf Regional- und Landesebene durch. Die Projekte teilen sich in sieben Fachgebiete auf: Arbeitswelt, Biologie, Chemie, Geo- und Raumwissenschaften, Mathematik/Informatik, Physik und Technik.