EU AI Act: Was die KI-Verordnung ab dem 2. August 2026 für Unternehmen bedeutet

Ein wichtiger neuer Baustein sind die Transparenzpflichten nach Artikel 50 des EU AI Acts. Sie sollen dafür sorgen, dass Menschen erkennen können, wann sie mit bestimmten KI-Systemen interagieren oder bestimmten KI-generierten beziehungsweise manipulierten Inhalten begegnen.

Für Unternehmen sind insbesondere folgende Neuerungen relevant:

• Interaktion mit KI kenntlich machen
  Bei KI-Systemen, die direkt mit Menschen interagieren – beispielsweise Chatbots –, müssen Betroffene grundsätzlich darüber informiert werden, dass sie mit einem KI-System kommunizieren, sofern dies nicht ohnehin offensichtlich ist.
• KI-generierte Inhalte technisch erkennbar machen
  Anbieter von KI-Systemen, die synthetische Texte, Bilder, Audio- oder Videoinhalte erzeugen, müssen grundsätzlich dafür sorgen, dass diese Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar sind. Für bestimmte bereits vor dem 2. August 2026 in Verkehr gebrachte Systeme ist eine begrenzte Übergangsregelung bis zum 2. Dezember 2026 vorgesehen.
• Deepfakes kennzeichnen
  Wer KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte einsetzt, die einen Deepfake darstellen, muss grundsätzlich offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden.
• Besondere Informationspflichten bei bestimmten KI-Anwendungen
  Wer Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss betroffene Personen grundsätzlich über deren Einsatz informieren.
• KI-generierte Texte von öffentlichem Interesse transparent machen
  Wer KI-generierte oder manipulierte Texte veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss den KI-Einsatz grundsätzlich offenlegen. Eine wichtige Ausnahme besteht beispielsweise, wenn eine menschliche redaktionelle Prüfung stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Die konkreten Pflichten hängen dabei immer von Rolle und Anwendung ab – also beispielsweise davon, ob ein Unternehmen ein KI-System anbietet oder selbst einsetzt. 

Die neuen Vorgaben zeigen, warum Unternehmen einen Überblick über ihre KI-Landschaft brauchen. Wer nicht weiß, wo KI bereits eingesetzt wird, kann auch schwer beurteilen, welche Anforderungen des EU AI Acts greifen.

Unternehmen sollten deshalb ihre KI-Anwendungen systematisch erfassen, Verantwortlichkeiten festlegen und regulatorische Anforderungen bereits in die Entwicklung und Einführung neuer Lösungen integrieren. Dazu gehören neben Transparenz auch Datenschutz, Risikobewertung, menschliche Kontrolle und die erforderliche KI-Kompetenz der Mitarbeitenden.

Gerade bei Anwendungen, die Entscheidungen vorbereiten oder Auswirkungen auf Rechte und Freiheiten von Personen haben können, ist eine frühzeitige Bewertung entscheidend.

Während Unternehmen heute vor allem KI-Assistenten und Copiloten produktiv einsetzen, entwickelt sich die Technologie bereits weiter: KI-Agenten übernehmen zunehmend eigenständig Aufgaben, treffen innerhalb definierter Grenzen Entscheidungen und kommunizieren mit anderen Anwendungen oder Agenten.

Damit steigen auch die Anforderungen an Governance und Compliance. Unternehmen müssen nachvollziehen können, welche Agenten auf welche Daten zugreifen, in wessen Auftrag sie handeln und wie Entscheidungen dokumentiert werden. Klassische Benutzer- und Rollenmodelle reichen dafür künftig häufig nicht mehr aus.

Gleichzeitig müssen regulatorische Anforderungen aus dem EU AI Act, der DSGVO, NIS2 oder DORA technisch umgesetzt werden. Gefragt sind Sicherheitskonzepte, die Identitäten absichern, Zugriffe kontrollieren und die Kommunikation zwischen Agenten nachvollziehbar machen. So entsteht die Grundlage für einen vertrauenswürdigen und skalierbaren Einsatz agentischer KI im Unternehmen.

Der EU AI Act macht deutlich: AI Compliance entsteht nicht erst kurz vor einem Audit. Sie beginnt bereits bei der Planung eines KI-Projekts und begleitet den gesamten Lebenszyklus einer KI-Anwendung.

Die Telekom MMS unterstützt Unternehmen dabei mit einem ganzheitlichen Ansatz – von der strategischen Beratung über AI Governance und Datenschutz bis hin zur technischen Umsetzung vertrauenswürdiger KI-Lösungen.

• KI-Workshop: Als Sparringspartner bieten wir praxisnahe Einblicke, führen zusammen einen individuellen Readiness-Check durch und erarbeiten maßgeschneiderte, rechtskonforme Strategien für den nachhaltigen Erfolg im Unternehmen.
• Datenschutz & Compliance: Unsere Teams begleiten Unternehmen bei der Umsetzung regulatorischer Anforderungen aus EU AI Act, DSGVO und Data Act und integrieren Datenschutz sowie Compliance frühzeitig in KI-Projekte.
• KI-Kompetenz: Der EU AI Act verpflichtet Unternehmen bereits heute dazu, angemessene KI-Kompetenzen sicherzustellen. Mit praxisnahen Workshops und Trainings vermitteln wir Mitarbeitenden und Führungskräften das notwendige Wissen für einen sicheren und verantwortungsvollen Umgang mit KI.

Die KI-Verordnung markiert den Übergang von ersten KI-Experimenten hin zu einem professionellen und verantwortungsvollen Einsatz künstlicher Intelligenz. Unternehmen, die Governance, Datenschutz und Sicherheit frühzeitig zusammendenken, schaffen nicht nur regulatorische Sicherheit, sondern auch die Grundlage für skalierbare und vertrauenswürdige KI-Anwendungen – von Assistenten bis hin zu autonomen KI-Agenten.

Die Telekom MMS begleitet Unternehmen auf diesem Weg – mit AI Governance, Compliance, Datenschutz und der technischen Umsetzung zukunftssicherer KI-Lösungen.