KI-Kennzeichnung ist jetzt Pflicht

Seit dem 2. August 2026 sind Unternehmen EU-weit verpflichtet, KI-generierte Inhalte zu kennzeichnen und Chatbots als Maschinen erkennbar zu machen. Das regelt die europäische KI-Verordnung (AI Act). Wer im Netz unterwegs ist, hat künftig das Recht zu erfahren, ob ein Bild, ein Video oder ein Audioinhalt von einer Künstlichen Intelligenz erzeugt wurde. Die Verbraucherzentrale Bayern erklärt, was die neuen Regeln konkret bedeuten und wohin man sich bei Verstößen wenden kann.

Chatbots & Deepfakes: Was jetzt gilt

Artikel 50 der KI-Verordnung verpflichtet Anbieter ab sofort, bestimmte KI-generierte Anwendungen transparent zu kennzeichnen. Damit sollen Verbraucher vor Täuschung und Identitätsbetrug geschützt werden. Sie ist insbesondere dort von Bedeutung, wo das Täuschungspotenzial am größten ist, etwa bei diesen Szenarien:  

• Chatbots und automatische KI-E-Mails müssen als solche erkennbar sein und wer mit einer KI kommuniziert, muss das von Beginn der Interaktion an wissen.
• KI-generierte Bilder, Videos und Audioinhalte, insbesondere sogenannte Deepfakes, müssen als solche gekennzeichnet werden, wenn sie echte Personen, Orte oder Ereignisse täuschend echt darstellen. Das gilt ausdrücklich auch für synthetische Stimmen: Wer einen Anruf oder eine Sprachnachricht erhält, die mit einer geklonten Stimme erzeugt wurde, muss darüber informiert werden.
• KI-Texte: Auch vollautomatisch erzeugte Texte wie etwa massenhaft produzierte Nachrichtenbeiträge ohne redaktionelle Überarbeitung müssen gekennzeichnet werden.

Wichtig ist dabei: “Bereits bei Beginn der ersten Interaktion muss klar auf den Einsatz von KI hingewiesen werden. Ein versteckter Hinweis im Impressum oder im Kleingedruckten genügt nicht", sagt Tatjana Halm, Referatsleiterin Recht und Digitales bei der Verbraucherzentrale Bayern.

Wo die Pflichten enden  

Besteht keine größere Täuschungsgefahr, muss der KI-Einsatz nicht offengelegt werden. So fallen etwa Produktempfehlungen in Online-Shops, Navigationssysteme, Spam-Filter oder die automatische Fotooptimierung auf dem Smartphone nicht unter die Kennzeichnungspflicht.

Bei rein privater, nicht beruflicher Nutzung von KI ist die Kennzeichnung ebenfalls nicht notwendig.

Was Verbraucher bei Verstößen tun können

Verstöße gegen die Kennzeichnungspflichten können bei der Bundesnetzagentur gemeldet werden, die als zentrale Beschwerdestelle in Deutschland eingesetzt wurde.  

„Die neuen Regeln sorgen für mehr Transparenz. Aber Betrüger halten sich nicht an Regeln, so dass eine fehlende Kennzeichnung keine Sicherheit darstellt. Verbraucher sollten Inhalte im Netz weiterhin kritisch im Gesamtzusammenhang hinterfragen", so Halm abschließend.

Auffällige Maschen und Methoden können außerdem an das Beschwerdeportal der Verbraucherzentrale Bayern gemeldet werden.