Bundesnetzagentur übernimmt KI Aufsicht

KI-Snack mit Inga | KI Aufsicht in Deutschland
Die Bundesnetzagentur ist jetzt Aufsichtsbehörde 

Die Entscheidung war im politischen Berlin bereits erwartet worden: Die Bundesregierung will die Bundesnetzagentur zur zentralen Aufsichtsbehörde für KI-Anwendungen nach dem europäischen AI Act machen. Mit dem geplanten KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) soll sie künftig als koordinierende Stelle fungieren und die Marktüberwachung in Deutschland bündeln.

Warum die Bundesnetzagentur?
 

Die Wahl überrascht wenig. Die Behörde verfügt über Erfahrung in der Regulierung komplexer, technologiegetriebener Märkte – etwa im Telekommunikations-, Energie- und Plattformbereich. Zudem ist sie bereits in europäische Regulierungsnetzwerke eingebunden. Ziel ist eine zentrale Anlaufstelle für Unternehmen, statt eines Flickenteppichs unterschiedlicher Behörden.
 

Gleichzeitig bleibt es beim sogenannten „One-Stop-Shop mit Fachaufsicht“: In regulierten Branchen behalten spezialisierte Behörden ihre Zuständigkeit – etwa die BaFin im Finanzsektor oder Datenschutzbehörden bei DSGVO-Fragen. Die Bundesnetzagentur übernimmt die Koordination und Marktüberwachung im Sinne des AI Act.

Ab wann wird kontrolliert?

Der AI Act ist seit August 2024 in Kraft. Die Pflichten greifen jedoch gestaffelt:
 

• Ab 2025: Erste Verbote (z. B. bestimmte biometrische Echtzeitüberwachung) und Anforderungen an Hochrisiko-Systeme beginnen wirksam zu werden.
• 2026: Die meisten regulatorischen Verpflichtungen gelten vollständig, inklusive umfassender Marktüberwachung und Sanktionsmöglichkeiten.
   

Die nationale Aufsichtsstruktur muss bis dahin operativ arbeitsfähig sein. Unternehmen sollten daher nicht davon ausgehen, dass Kontrollen erst „irgendwann später“ beginnen.
 

Wie wird kontrolliert?

Die Marktüberwachung orientiert sich an klassischen EU-Produktsicherheitsmechanismen. Das bedeutet:
 

• Prüfung von Dokumentationen
• Anforderung technischer Unterlagen
• Stichprobenkontrollen
• Anordnungen zur Nachbesserung
• Vertriebsverbote bei schweren Verstößen
• Bußgelder (bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes)

Besonders bei Hochrisiko-KI werden Behörden systematisch prüfen, ob Risikomanagement, Transparenz- und Dokumentationspflichten eingehalten werden.

Empfehlungen für den sicheren Einsatz von KI

Wer KI professionell einsetzt oder anbietet, sollte jetzt strukturiert vorgehen:

1. Interne KI-Inventarliste führen

Erstelle ein zentrales Register aller eingesetzten KI-Systeme:
 

• Zweck der Anwendung
• Anbieter
• Datenarten (personenbezogen?)
• Risikokategorie nach AI Act
• Zuständiger Verantwortlicher im Unternehmen

Das ist die Basis für jede Compliance-Prüfung.

2. Risikoklassifizierung dokumentieren

Bewerte systematisch, ob es sich um:

• minimales Risiko
• begrenztes Risiko
• Hochrisiko-KI
• oder unzulässige KI handelt

Diese Bewertung sollte nachvollziehbar dokumentiert sein.

3. Schulungspflichten ernst nehmen

Mitarbeitende, die mit KI arbeiten oder Entscheidungen darauf stützen, müssen geschult werden:

• Funktionsweise und Grenzen der Systeme
• Bias- und Diskriminierungsrisiken
• Dokumentationspflichten
• menschliche Kontrollmechanismen

Das reduziert Haftungsrisiken erheblich.
 

4. Transparenz sicherstellen

Kennzeichne KI-generierte Inhalte klar.
Informiere Nutzer, wenn sie mit KI interagieren.
Offenlege automatisierte Entscheidungsprozesse, sofern relevant.
 

5. Vertragsprüfung mit Anbietern
 

Bei externen KI-Tools:

• Wer ist Anbieter im Sinne des AI Act?
• Wer trägt welche Compliance-Verantwortung?
• Gibt es Dokumentation, Risikobewertung, Konformitätserklärung?
   

Gerade bei SaaS-Lösungen ist die Rollenverteilung entscheidend.
 

6. Governance-Struktur aufbauen
 

Empfehlenswert ist eine interne KI-Policy mit:

• Freigabeprozessen
• Prüfmechanismen
• Zuständigkeiten
• Eskalationswegen

Größere Unternehmen sollten ein KI-Compliance-Board oder eine verantwortliche Stelle benennen.

Einordnung

Für reine Content-Nutzung von KI bleibt das Risiko überschaubar.
Für HR, Finanzentscheidungen, Medizin, Scoring oder automatisierte Bewertungssysteme wird es dagegen regulatorisch ernst.

Die Aufsicht wird nicht mit Massenrazzien starten. Aber sie wird dort ansetzen, wo:
 

• Grundrechte betroffen sind
• wirtschaftliche Risiken entstehen
• Beschwerden eingehen

oder Marktteilnehmer auffällig werden.
 

Kommentar & Meinung von Inga:
 

Natürlich ist die KI-VO kein Bestseller mit dem man sich gerne bei Kaffe und Croissant auf´s Sofa setzt. Dennoch finde ich die Regulierung von KI grundsätzlich absolut sinnvoll.
 

KI kann ein enormer Produktivitäts-Turbo sein – gleichzeitig entstehen aber auch neue Risiken. Gerade im Unternehmensalltag zeigt sich häufig ein Problem: Mitarbeitende nutzen KI-Tools, ohne geschult zu sein oder ohne klare Prozesse zu haben, wann und wie KI eingesetzt werden darf.
 

Aus meiner Erfahrung liegt hier eines der größten Risiken.
Nicht die Technologie selbst ist das Problem – sondern fehlendes Know-how und fehlende Strukturen im Umgang damit.

Deshalb sind zwei Dinge besonders wichtig:
 

• Qualifizierung der Mitarbeitenden im Umgang mit KI

• klare Prozesse und Verantwortlichkeiten im Unternehmen
   

Idealerweise gibt es im Unternehmen eine Person oder ein kleines Team, das das Thema KI federführend koordiniert und eng mit den Fachabteilungen zusammenarbeitet. Einige Unternehmen gehen sogar noch weiter und fördern KI-Kompetenz aktiv – etwa durch interne Workshops, kleine Challenges oder gemeinsame Projekte zur Prozessoptimierung.

Solche Ansätze helfen nicht nur dabei, Risiken zu reduzieren, sondern auch echte Effizienzgewinne zu realisieren.


KI kann also enorme Chancen eröffnen – aber nur dann, wenn Know-how, klare Prozesse und Verantwortungsbewusstsein zusammenkommen.

Checkliste KI-VO: Hol dir unsere Checkliste für einen kompakten Überblick zu den Anforderungen

Quellen und weiterführende Links:

https://artificialintelligenceact.eu/

Factsheet für kleine und mittelständische Unternehmen und StartUps

https://www.heise.de/news/AI-Act-Bundesregierung-bringt-KI-Gesetz-auf-den-Weg-11173623.html

https://www.bundesnetzagentur.de/DE/Fachthemen/Digitales/KI/start_ki.html