Deutschland bekommt AI-Sicherheitsinstitut – Experten sollen AI-Modelle wie Claude Mythos bewerten

Der Sicherheitsrat der Bundesregierung hat die Gründung eines eigenen AI-Sicherheitsinstituts beschlossen. Nach Angaben von Bitkom und dem TÜV-Verband trägt das Institut den Arbeitstitel „Deutsches AI Security Institute (DE-AISI)“. Es soll die Fähigkeiten und Risiken moderner AI-Modelle analysieren, auf internationale Standards hinwirken und die Bundesregierung zu neuen Entwicklungen rund um AI beraten. Laut Bundesdigitalminister Karsten Wildberger soll das neue Institut mit „Top-Expertise von Experten auf Weltniveau“ ausgestattet werden.

Zunächst ist es als virtuelle Institution geplant, die auf die Strukturen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) zurückgreift. Ein fester Standort soll später folgen.

Hintergrund der Gründung ist unter anderem die rasante Entwicklung leistungsfähiger AI-Modelle: Damit sollen die Chancen und auch Risiken solcher Modelle (etwa Claude Mythos) in Zukunft besser eingeschätzt werden können.

Branchenverbände begrüßen den Schritt. Bitkom empfiehlt allerdings ein eigenständiges Forschungsmandat und eine Finanzierung auf dem Niveau des britischen AI-Sicherheitsinstituts, das als Vorbild dient. Details zu Budget und personeller Ausstattung stehen bislang noch aus.