„Das KI-Amt soll Grundsätze ausarbeiten und die Behörden der Mitgliedsstaaten koordinieren, damit der EU AI Act europaweit einheitlich angewendet und durchgesetzt wird“, erklärt Dr. Björn Herbers, CMS-Partner im Brüsseler Büro. Die EU-Kommission übernehme damit eine zentrale Rolle, um zu verhindern, dass die neuen Regeln zerfleddern. Angedockt ist das KI-Amt an die Generaldirektion Kommunikationsnetze, Inhalte und Technologien der EU-Kommission. Derzeit arbeitet die neue Behörde bereits an Leitlinien zur Definition von KI-Systemen und zu KI-Verboten. Beide sind innerhalb von sechs Monaten vorzulegen, nachdem der EU AI Act in Kraft ist, also Ende dieses, spätestens Anfang nächsten Jahres. Zudem laufen die Vorarbeiten zu den Verhaltenskodizes für KI-Allzweckmodelle oder General Purpose-AI (GPAI) wie ChatGPT & Co.
Duale Struktur für Kontrolle und Durchsetzung
Die Überwachung und Durchsetzung der Vorgaben aus dem EU AI Act übernehmen die nationalen Behörden in den Mitgliedsstaaten. Das KI-Amt bekommt aber eine Sonderzuständigkeit als Marktüberwachungsbehörde für die GPAI-Vorgaben, kontrolliert diese und setzt sie auch durch. „Insgesamt sind die Befugnisse des KI-Amts sehr weitgehend: Es kann nicht nur Informationen zu technischen Spezifikationen der Systeme anfordern, sondern im Extremfall auch anordnen, ein GPAI-Modell vom Markt zu nehmen“, so Herbers. Zuständig für diese wichtige Aufgabe ist das Referat für KI-Regulierung und Compliance, das der Deutsche Kilian Gross leitet: „Sein Referat wird im Scheinwerferlicht stehen, wenn es tatsächlich zu Untersuchungen der großen AI-Modelle kommt“, so Herbers. Dem Vernehmen nach könnte das KI-Amt ähnlich wie im Kartellrecht vor allem internationale Tech-Anbieter in den Fokus nehmen. Nur etwa drei bis zehn europäische KI-Start-ups dürften sowohl durch die EU-Behörde als auch die nationalen Marktüberwachungsbehörden kontrolliert werden.
Spagat zwischen Sicherheit und Tempo für Innovationen
„Das KI-Amt soll eine Balance herstellen: Damit Menschen KI nutzen, müssen sie ihr vertrauen. Dafür braucht es Regeln und Grenzen. Andererseits bremst ein zu enges Korsett innovative Start-ups aus“, sagt Dr. Thorsten Ammann, Partner der Praxisgruppe Intellectual Property und Technology bei DLA Piper mit Fokus auf künstliche Intelligenz. Die neue Behörde hält er vor diesem Hintergrund für eine gute Idee, weil sie interdisziplinär besetzt ist. Zu den geplanten 140 Mitarbeitenden zählen Tech-Experten genauso wie Juristen, Verwaltungsassistenten und Wirtschaftswissenschaftler. „Behörden wie die Bundesnetzagentur oder das Bundesamt für Informationssicherheit mit einer ähnlichen Zusammensetzung zeigen, dass das gut funktionieren kann“, so Ammann. 80 Beschäftigte werden laut eines Sprechers der EU-Kommission neu eingestellt. Der Rekrutierungsprozess läuft. Die EU-Kommission soll auch an der US-Westküste auf der Suche sein. Leiterin wird Lucilla Sioli, die bisherige EU-Direktorin für KI und digitale Industrie.
Um KI-Innovationen und -Investitionen zu beflügeln, soll die neue KI-Behörde auch als Bindeglied funktionieren für einen schnelleren Transfer zwischen Forschung und Wirtschaft, indem sie beispielsweise Zugang verschafft zu KI-Sandkästen und Praxistests. Es gibt einen Beirat mit Vertretern aus Industrie, Start-ups, KMU und Hochschulen, zudem sind Foren unter anderem mit der Open-Source-Gemeinschaft geplant. Zugleich sollen internationale KI-Sicherheitsinstitute aus UK oder den USA hier eine Anlaufstelle finden.
Nur gut gedacht?
Wie immer hängt der Erfolg von der praktischen Umsetzung, aber auch von der Finanzierung ab: „Man braucht sehr gut qualifizierte Leute, die bereit sind, vor der Welle zu schwimmen. Und die muss man mit den richtigen Anreizen zu gewinnen wissen“, sagt Ammann. Für Deutschland ist zudem noch unklar, wer die Aufgabe der nationalen Marktüberwachung übernimmt, so Ammann: „Die Bundesregierung arbeitet angeblich gerade an einem Entwurf für ein Durchführungsgesetz zum AI Act.“ Laut Tobias Haar, General Counsel beim KI-Startup Aleph Alpha in Heidelberg, wartet die nationale und internationale Branche mit Spannung auf die Entscheidung: „Heiße Kandidaten sind die Bundesnetzagentur, das Bundesamt für Sicherheit in der Informationstechnik, die künftige Bundesbeauftragte für Datenschutz oder die Landesdatenschutzbeauftragten.“
