Ein zentraler Bestandteil des Maßnahmenpakets ist der Bayerische KI-Sicherheitsdialog. In dem neuen Format sollen Vertreterinnen und Vertreter aus Wirtschaft, Wissenschaft und Politik regelmäßig aktuelle Entwicklungen im Bereich KI-Sicherheit bewerten und daraus Handlungsbedarfe ableiten.

Der Dialog soll mindestens zweimal jährlich stattfinden und bei besonderen Entwicklungen auch kurzfristig zusammentreten können. Die erste Sitzung ist noch für 2026 vorgesehen.

Die Ergebnisse des vorausgegangenen KI-Gipfels sollen dafür in einem ausführlichen Ergebnispapier dokumentiert werden. Dieses soll als fachliche Grundlage für die erste Sitzung dienen und mit dem Bayerischen KI-Rat abgestimmt werden.

Am Gipfel beteiligt war unter anderem Prof. Dr. Sonja Zillner, Mitglied des Bayerischen KI-Rats. Weitere Teilnehmende kamen aus Unternehmen wie Google, IBM, Mistral AI und OpenAI sowie aus Wissenschaft, Ethik und Gesellschaft.

Jährlicher Bericht soll unabhängiges Lagebild schaffen

Flankiert werden soll der Sicherheitsdialog durch eine unabhängige wissenschaftliche Begleitung im Auftrag des Bayerischen Digitalministeriums. Wer diese Aufgabe übernimmt, soll noch 2026 festgelegt werden.

Auf dieser Grundlage plant das Ministerium einen jährlich erscheinenden Bayerischen KI-Sicherheitsbericht. Der erste Bericht soll 2027 veröffentlicht werden. Ziel ist es, eigene wissenschaftliche Expertise und ein belastbares Lagebild zur Sicherheit leistungsfähiger KI-Systeme aufzubauen.

Hintergrund sind insbesondere die wachsenden Fähigkeiten von Frontier-Modellen und agentischer KI. Das Ministerium verweist auf Sicherheitstests, in denen leistungsfähige Modelle unter konstruierten Testbedingungen problematische Verhaltensweisen wie Täuschung oder die Umgehung von Schutzmechanismen gezeigt hätten.

Eigenes KI-Ethikforum geplant

Neben technischen Sicherheitsfragen will Bayern die gesellschaftlichen und ethischen Auswirkungen leistungsfähiger KI stärker institutionell begleiten. Dafür soll unter dem Dach des Digitalministeriums ein Bayerisches KI-Ethikforum eingerichtet werden. Auch dieses Gremium soll erstmals noch 2026 zusammentreten.

Bei der Regulierung spricht sich das Ministerium zugleich für einen risikobasierten Ansatz aus. Die Anforderungen sollen sich an den Fähigkeiten eines KI-Systems und dem möglichen Schadenspotenzial orientieren. Hochautonome Frontier-Modelle sollen demnach anders behandelt werden als begrenzte Assistenzsysteme.

KI-Sicherheit soll zudem stärker mit Cybersicherheit zusammengedacht werden. Neben Risiken autonomer Systeme gehe es auch um den gezielten Missbrauch leistungsfähiger KI für Cyberangriffe, Betrug, Manipulation oder Desinformation.

Bayern wirbt erneut für nationales KI-Sicherheitsinstitut

Parallel erneuert Bayern seine Forderung nach einem deutschen KI-Sicherheitsinstitut und wirbt dafür, dieses im Freistaat anzusiedeln. Das Digitalministerium will die Forderung erneut gegenüber der Bundesregierung adressieren.

Die Ergebnisse des Münchner Gipfels sollen darüber hinaus auf europäischer Ebene diskutiert werden. Mehring will sie bei der nächsten Digitalministerkonferenz im November in Brüssel einbringen.

Ergänzend plant das Ministerium neue Informations- und Dialogangebote, die Bürgerinnen und Bürger über Funktionsweise, Möglichkeiten und Risiken von KI informieren sollen. Dabei sollen sowohl klassische als auch soziale Medien eingesetzt werden.