Verbraucher sollen künstlich erzeugte Inhalte künftig besser erkennen können
Ob Chatbots, Bilder, Videos oder Texte – Künstliche Intelligenz begegnet Verbraucherinnen und Verbrauchern inzwischen nahezu täglich. Oft ist jedoch nicht erkennbar, ob Inhalte von Menschen erstellt oder von einer KI erzeugt wurden. Das soll sich künftig ändern.
Mit der europäischen KI-Verordnung (AI Act) führt die Europäische Union neue Transparenzpflichten ein. Ab dem 2. August 2026 müssen Anbieter vieler KI-Systeme offenlegen, wenn Nutzerinnen und Nutzer mit künstlicher Intelligenz interagieren oder wenn Inhalte mithilfe von KI erzeugt wurden.
Die Verbraucherzentrale NRW erklärt, welche Änderungen auf Verbraucher zukommen.
Chatbots und KI-Systeme müssen sich zu erkennen geben
Künftig sollen Nutzer klar erkennen können, wenn sie mit einer künstlichen Intelligenz kommunizieren.
Das betrifft unter anderem:
- KI-Chatbots
- Sprachassistenten
- automatisierte Dialogsysteme
- generative KI-Anwendungen
Anbieter müssen deutlich machen, dass die Antworten nicht von einem Menschen, sondern von einem KI-System stammen.
Bilder, Videos und Texte erhalten Kennzeichnungen
Die neuen Vorschriften sehen außerdem vor, dass künstlich erzeugte Inhalte entsprechend markiert werden.
Dazu gehören:
- KI-generierte Bilder
- Videos
- Tonaufnahmen
- Texte
- bearbeitete Medieninhalte
Besonders sogenannte Deepfakes, die täuschend echt wirken können, müssen künftig deutlich als künstlich erstellt oder verändert gekennzeichnet werden.
Auch KI-generierte Nachrichten- und Informationsinhalte müssen grundsätzlich erkennbar sein, sofern sie nicht redaktionell bearbeitet wurden.
So lassen sich KI-Inhalte erkennen
Verbraucher können KI-Inhalte künftig unter anderem an folgenden Hinweisen erkennen:
- Kennzeichnungen wie „Mit KI erstellt“
- Hinweise wie „Mit KI verändert“
- Wasserzeichen
- Transparenzhinweise bei Chatbots
- technische Metadaten in Dateien
Die Europäische Union arbeitet zudem an einheitlichen Symbolen, die KI-generierte Inhalte künftig leichter identifizierbar machen sollen.
Nicht jede KI ist sofort erkennbar
Trotz neuer Kennzeichnungspflichten rät die Verbraucherzentrale NRW weiterhin zu Aufmerksamkeit.
Nicht jede Kennzeichnung sei auf den ersten Blick sichtbar. Manche Informationen werden lediglich in sogenannten Metadaten gespeichert und können nur mit technischen Werkzeugen ausgelesen werden.
Zudem könnten Markierungen verloren gehen oder fehlen.
Vorsicht bei besonders perfekten oder emotionalen Inhalten
Verbraucher sollten Inhalte weiterhin kritisch hinterfragen.
Besondere Aufmerksamkeit empfehlen Experten bei:
- ungewöhnlich perfekten Bildern
- stark emotionalisierenden Beiträgen
- sensationellen Behauptungen
- unbekannten Quellen
- reißerischen Videos
Gerade deshalb sollen die neuen Kennzeichnungspflichten künftig mehr Transparenz schaffen.
Was tun bei fehlenden KI-Kennzeichnungen?
Wer den Verdacht hat, dass gesetzlich vorgeschriebene Hinweise fehlen, kann sich künftig an die zuständige Marktaufsicht wenden.
In Deutschland übernimmt diese Aufgabe die Bundesnetzagentur.
Betroffene sollten:
- Screenshots anfertigen
- Inhalte dokumentieren
- Veröffentlichungsort festhalten
- Zeitpunkt der Sichtung notieren
Unternehmen, die gegen die neuen Vorschriften verstoßen, müssen mit Bußgeldern rechnen.
Fazit
Mit den neuen EU-Regeln zur Künstlichen Intelligenz soll die Transparenz im Internet deutlich steigen. Verbraucher sollen künftig schneller erkennen können, ob Texte, Bilder, Videos oder Chat-Antworten von Menschen oder von KI-Systemen stammen. Gleichzeitig bleibt ein kritischer Blick auf digitale Inhalte auch in Zukunft wichtig.
