Rasante Fortschritte in der künstlichen Intelligenz bieten zahlreiche Chancen, bringen aber auch neue Sicherheitsrisiken mit sich: Das neu eröffnete KI-Sicherheitsinstitut AISI Deutschland soll künftig als zentrale Schnittstelle für die Analyse und Abwehr dieser Gefahren agieren. Die Entwicklungen können nun frühzeitig bewertet, analysiert und es kann effektiv gehandelt werden.

Strategische Einschätzung und krisenfeste Reaktion

Das AI Safety und Security Institute Deutschland – kurz AISI Deutschland – ist ein nationales Kompetenz- und Evaluierungsinstitut. Es untersucht die Themen Cybersicherheit, neue KI-Modelle und deren Auswirkungen. Zudem soll das Institut Lösungen für einen sicheren Umgang mit KI-Systemen entwickeln und die Bundesregierung sowie die Verwaltung, aber auch die Wirtschaft und Zivilgesellschaft beraten. 

Ziel des KI-Sicherheitsinstituts ist es, die Folgen der rasanten technischen Entwicklung für die IT-Sicherheit in Staat, Wirtschaft und Gesellschaft strategisch einzuschätzen und krisenfest darauf zu reagieren. Hierfür werden bestehende Kapazitäten zur Risiko- und Fähigkeitsanalyse moderner KI-Modelle durch das AISI Deutschland zentral gebündelt und ausgebaut. Deutschlands digitale Souveränität wird weiter gestärkt. Gleichzeitig soll der Informationsaustausch mit vergleichbaren ausländischen Instituten intensiviert werden. Es gilt zudem, international auf einheitliche Standards im Umgang mit KI hinzuwirken.

Internationale Zusammenarbeit bei KI-Einsatz

Beide zuständigen Bundesminister, Bundesdigitalminister Karsten Wildberger und Bundesinnenminister Alexander Dobrindt, verwiesen zur Eröffnung auf die wichtige und notwendige internationale Zusammenarbeit beim Einsatz von KI. Bundesminister Karsten Wildberger dazu: „Deutschland braucht ein leistungsfähiges KI-Sicherheitsinstitut, das mit der enormen technologischen Entwicklungsgeschwindigkeit Schritt hält. Wir müssen Risiken und Leistungsfähigkeit moderner KI-Systeme technisch fundiert und schnell bewerten können.“ 

Bundesminister Alexander Dobrindt betonte zudem, dass KI kontrollierbar bleiben muss: „Künstliche Intelligenz bietet enorme Chancen für Bürgerinnen und Bürger, Wirtschaft und Staat." Klar sei aber auch: „KI muss kontrollierbar bleiben und wir müssen an ihrer rapiden Entwicklung teilhaben“, so Dobrindt weiter.

Vom Nationalen Sicherheitsrat beschlossen

Die Gründung des KI-Sicherheitsinstituts wurde vom Nationalen Sicherheitsrat beschlossen. Das AISI Deutschland wird gemeinsam vom Bundesdigitalministerium (BMDS) und Bundesinnenministerium (BMI) aufgebaut und geleitet. 

Es ist keine Regulierungsbehörde, sondern ein analytisch-operatives Kompetenzzentrum – ein „Think- & Do-Tank“. Das KI-Sicherheitsinstitut befindet sich dabei an der Schnittstelle von Sicherheit, Technologieanalyse, Innovation und strategischer Beratung.

Zusätzlich zum AISI Deutschland ist das Bundesamt für Sicherheit in der Informationstechnik (BSI) als Behörde des BMI die zentrale Cyber-Sicherheitsbehörde Deutschlands und im internationalen Vergleich einzigartig. Zu seinen Hauptaufgaben gehören unter anderem der Schutz vor Cyberangriffen, das Informieren der Bürgerinnen und Bürger, Unternehmen und Institutionen über Risiken zu Ransomware, Phishing und Spionage und die Koordinierung von Abwehrmaßnahmen in Deutschland bei großflächigen Cyberangriffen. Das BSI beherbergt das Kompetenzzentrum KI und hat einen Kriterienkatalog für KI-Cloud-Dienste veröffentlicht.