Wer fälscht Informationen?

Forschung Wer fälscht Informationen?

Woher stammen Desinformationen und wie verbreiten sie sich im Netz? Das sind Fragen, mit denen sich auch Wissenschaftlerinnen und Wissenschaftler in Deutschland beschäftigen. Das Bundesministerium für Bildung und Forschung (BMBF) treibt einige dieser Forschungsvorhaben voran, um die Verbreitung von Desinformation einzudämmen. Denn um Lösungen für eine vertrauenswürdige digitale Welt zu entwickeln, muss man die Mechanismen hinter der Erzeugung und Verbreitung von Desinformation verstehen. 

Bildschirn und digitales Gehirn zeigt

Durch Techniken der Künstlichen Intelligenz sind Nachrichten immer leichter zu fälschen

Foto: Getty Images/Yuichiro Chino

Desinformation und seine digiitalen Verbreitungskanäle verändern sich in einem rasanten Tempo. So verlagert sich die Verbreitung von Desinformation zunehmend in Messengerdienste, wie WhatsApp oder Telegram. Das Projekt DYNAMO trägt diesen Veränderungen Rechnung.

Es hat sich zum Ziel gesetzt, effektive Instrumente zu entwickeln, die der Verbreitung von Desinformation nachhaltig entgegenwirken. Dazu sollen drei große Fragestellungen beantwortet werden. Die Forschenden untersuchen erstens, wie sich Desinformationen in Messengerdiensten ausbreiten und wie aus ihnen heraus andere soziale Medien erreicht werden. Zweitens analysieren sie, inwiefern wiederkehrende Muster bestehen, aus denen sich Bekämpfungsstrategien ableiten lassen. Drittens soll erforscht werden, welche üblichen Verfahrensweisen hinter den Verbreitungsmustern von Desinformationskampagnen stecken und welchen Einfluss dabei emotionale Inhalte haben. 

Verbundkoordinator
Fraunhofer-Institut für Sichere Informationstechnologie (SIT), Darmstadt
Partner
Universität Duisburg-Essen, Essen
Universität Kassel
Hochschule der Medien Stuttgart
Volumen
1,60 Mio. € (davon 100% Förderanteil durch BMBF)
Laufzeit
09/2021 - 08/2024
Bekanntmachung
Forschung Agil - Erkennen und Bekämpfung von digitalen Desinformationskampagnen

Zuvor hatten Forschende im Rahmen des interdisziplinären Projekts  DORIAN – Desinformation im Internet aufdecken und bekämpfen –  die Mechanismen der Verbreitung digitaler Desinformation erforscht. Projektpartnerinnen und -partner aus Informatik, Medienpsychologie, Technik-, Rechts- und Kommunikationswissenschaften haben das Phänomen analysiert und interdisziplinäre Ansätze gegen Desinformationskampagnen und für Meinungspluralität entwickelt.

Auch technisch hat das Projekt die Desinformationsforschung vorangebracht: Mit maschinellem Lernen konnten die Wissenschaftler von DORIAN zum Beispiel Eigenschaften von Malicious Social Bots erkennen und mit derselben Methode Webinhalte vollautomatisch kategorisieren. Die Forschenden entwickelten zudem erste Strategien, um sogenannte Deep Fakes, zum Beispiel täuschend echte Videodateien, zu entlarven. 

Verbundkoordinator
Fraunhofer-Institut für Sichere Informationstechnologie (SIT), Darmstadt
Partner
Hochschule der Medien Stuttgart
Universität Duisburg-Essen
Universität Kassel
Volumen
1,19 Mio. € (davon 100% Förderanteil durch BMBF)
Laufzeit
08/2017 - 01/2019
Veröffenltichung
In der Open-Access-Publikation „Desinformationen aufdecken und bekämpfen“ sind die Forschungsergebnisse erschienen.

Künstliche Intelligenz kann Falschnachrichten nicht nur erkennen, sondern auch entwickeln

Deep Fakes sind tatsächlich immer leichter zu produzieren. So ist Künstliche Intelligenz (KI) nicht nur Heilmittel, um Desinformation im Internet zu erkennen und ihr entgegenzuwirken. Mit ihr droht gleichzeitig eine Verschärfung des Problems. Denn durch Techniken der KI können auch Bild-, Audio- und Videomaterial immer einfacher täuschend echt gefälscht werden. 

Im interdisziplinären Forschungsverbund Forum Privatheit und am Internationalen Zentrum für Ethik in den Wissenschaften Tübingen werden solche Entwicklungen untersucht.

Verbundkoordinator
Fraunhofer-Institut für System- und Innovationsforschung ISI, Karlsruhe
Partner
Universität Duisburg-Essen
Fraunhofer-Institut für Sichere Informationstechnologie, Darmstadt
Universität Kassel, provet
Universität Kassel, Institut für Soziologie
Eberhard Karls Universität Tübingen
Unabhängiges Landeszentrum für Datenschutz Schleswig-Holstein (ULD), Kiel
Ludwig-Maximilians-Universität München (LMU)
Volumen
7,4 Mio. € (davon 100 % Förderanteil durch BMBF)
Laufzeit
04/2017 - 03/2021
Veröffentlichung
Forum Privatheit 

Die Verbreitung von Desinformation auf Social Media

Mit ATHENE in Darmstadt, CISPA in Saarbrücken und KASTEL in Karlsruhe fördert das BMBF zudem drei Zentren für IT-Sicherheitsforschung. Deren Ziel ist es, Lösungen für eine vertrauenswürdigere digitale Welt zu entwickeln. Unter anderem wird dabei die Bedeutung von Social Media bei der Verbreitung von Informationen untersucht.
 

Mehr zum Thema finden Sie auf den Seiten des BMBF:  Forschung über Desinformationsstrategien

Schlagwörter