EU AI Act: Ab 2. August musst du KI kennzeichnen – was jetzt auf dich zukommt
Der EU AI Act wird Realität: Welche Inhalte künftig gekennzeichnet werden müssen, was als Deepfake gilt und warum Online-Shops, Unternehmen und Content-Ersteller jetzt genau hinschauen sollten.
29.07.2026 8 min
Zusammenfassung & Show Notes
Ab dem 2. August greift mit Artikel 50 des EU AI Acts die Pflicht zur Kennzeichnung bestimmter KI-generierter Inhalte. Doch wer ist eigentlich betroffen? In dieser Folge erklärt Buschi die Unterschiede zwischen Anbietern und Betreibern von KI-Systemen und zeigt, warum die neuen Regeln weit mehr Unternehmen betreffen, als viele vermuten.
Außerdem geht es um den überraschend weit gefassten Begriff des 'Deepfakes', KI-generierte Produktbilder im E-Commerce und die Frage, wann Texte gekennzeichnet werden müssen und wann nicht. Eine praxisnahe Einordnung der neuen Vorgaben inklusive Einschätzung zu möglichen Bußgeldern und den Herausforderungen für Unternehmen.
Die KI-Kantine ist ein Projekt von Michael Busch – Entwickler, Unternehmer und neugieriger Kantinenphilosoph.
Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.
Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.
Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.
Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.
📬 Fragen, Feedback oder eigene KI-Erlebnisse? Schreib mir an podcast@ki-kantine.de
Alle Folgen & mehr: https://ki-kantine.letscast.fm/
Alle Folgen & mehr: https://ki-kantine.letscast.fm/
Transkript
(Transkribiert von TurboScribe. Upgrade auf Unbegrenzt, um diese Nachricht zu entfernen.) Diese Podcast-Folge über KI nutzt zusätzliche KI
-generierte Stimme.
Ja, Mahlzeit.
Mahlzeit.
Sag mal, freust du dich schon auf den
2.
August?
Was ist denn jetzt da schon wieder?
Ab 2.
August wirst du endlich nicht mehr getäuscht von
der KI.
Denn da tritt die neue KI-Kennzeichnungspflicht in
Kraft.
Aha.
Das ist der Artikel 50 vom EU-AI
-Act.
Und der muss ab dem 2.
August umgesetzt werden.
Grundsätzlich geht es halt darum, dass eigentlich man
mittlerweile die KI nicht mehr gut erkennen kann.
Also es ist so täuschend echt, sowohl im
Text, wie im Bild, wie auch im Video
oder wie im Audio, dass du eigentlich nicht
mehr sagen kannst, ist das jetzt menschengemacht oder
KI gemacht.
Dadurch droht halt eben eine Täuschungsgefahr.
Und deshalb muss man halt jetzt kennzeichnen, ob
es mit KI erstellt wurde.
Rein rechtlich wird hier unterschieden zwischen Anbieter und
Betreiber.
Ich finde, die Unterscheidung ist für mich als
Nicht-Juristen jetzt schon ein bisschen schwierig, weil
ich die Begriffe Anbieter und Betreiber ja schon
sehr bedeutungsnah empfinde.
Anbieter bist du wohl, wenn du selber KI
-Systeme entwickelst oder eine KI unter deinem Namen
in den Betrieb bringst.
Das gilt jetzt zum Beispiel auch, wenn du
so auf der Webseite einen Chatbot hast, der
jetzt nicht gekennzeichnet ist als ein externer Chatbot,
sondern dass es eigentlich aussieht, als wäre es
dein Chatbot.
Dann bist du auch ein Anbieter.
Und ein Betreiber bist du, wenn du halt
mit KI irgendwas erstellst.
Bild, Video, Text.
Interessant.
Es wird also höchstwahrscheinlich viel mehr Betreiber geben
als Anbieter.
Und klar ist auch, wenn du irgendwas als
Privatperson machst, gilt diese Kennzeichnungspflicht natürlich nicht.
Aber es ist schon ein schmaler Grad, finde
ich.
In den Gesetzestexten steht wohl, ausschließlich persönliche und
nicht berufliche Tätigkeit musst du nachgehen, wenn du
irgendwas in der KI generierst.
Als Beispiel ist jetzt zum Beispiel eine Partyeinladung
oder sowas.
Aber wenn du zum Beispiel eine Firmenparty machst,
Jubiläum, wir sind 25 Jahre im Geschäft, dann
ist es eben nicht mehr persönlich, auch wenn
es nur eine Partyeinladung ist.
Und wenn du also ein sogenannter Betreiber bist,
dann ist ein Begriff der, der über allem
steht.
Das ist der Begriff Deepfake.
Und ich bin ganz überrascht gewesen, dass dieser
Begriff ein Überbegriff ist.
Ich habe eine genaue Vorstellung, was Deepfake ist.
Und die genaue Vorstellung ist genau völlig falsch
gewesen.
Für mich war ein Deepfake immer ein Video
oder ein Bild, eigentlich sogar nur ein Video,
wo ein Gesicht verändert wurde.
Zum Beispiel in ein anderes Gesicht umgetauscht wurde.
Aber als Deepfake gilt eigentlich alles.
Also ein durch KI erzeugtes oder manipuliertes Bild
oder ein Ton oder ein Videoinhalt, der stellt
dann halt Personen, Gegenstände oder Orte oder Ereignisse
dar, von denen man als Betrachter nicht sofort
erkennen kann, dass die nicht echt sind.
Wenn du also eine Katze, die Karate durchführt,
als Video zeigst, dann ist das zwar auch
von KI generiert, aber es wird dich jetzt
nicht so irritieren, dass du nicht genau weißt,
ob diese Katze das jetzt wirklich kann oder
nicht.
Wenn aber der Papst im Karate Auftritt hat,
dann weiß man das wiederum nicht so.
Und dann musst du eben, weil das ist
eine bekannte, real existierende Person, dann musst du
dann eben kennzeichnen.
Aha.
Was ich besonders interessant fand, weil es mich
ja aus dem E-Commerce auch interessiert, wenn
du also ein Produktfoto hast, und das ist
das Originalfoto, es ist natürlich kein Problem.
Wenn du aber dieses Foto jetzt einfach nimmst
und in eine Situation stellst, sprich du hast
also ein Foto von einer Weinflasche, und willst
diese Weinflasche jetzt auf einen schönen Tisch in
einer schönen Wohnung stellen, dann ist das ein
KI-Bild.
Und hier ist eine Kennzeichnung erforderlich.
Du musst es spätestens bei der ersten Interaktion
mit einem Texthinweis kennzeichnen.
Und da reicht es wohl auch nicht, wenn
du dann im Text das hinschreibst, oder noch
irgendwo unter AGBs oder irgendwas.
Sondern es muss eigentlich direkt im generierten Content
dargestellt werden.
Wenn ich ehrlich bin, fühlt es sich so
ein bisschen an, als hätten wir nochmal so
einen neuen Cookie-Hinweis.
Weil wenn du jetzt wirklich bei jedem Bild,
wo du irgendwas, ich meine so ein Bild
mit einer Weinflasche, und das ist doch jetzt
keine Verwirrung, wenn das jetzt hinten dran ein
bisschen schöner aussieht, aber ist KI-generiert, musst
du Kennzeichen.
Das heißt, du hast jetzt überall dann irgendwelche
Icons oder sowas, es gibt ja von der
EU selber so Icons, die du da hinterlegen
kannst, um zu zeigen, KI-generiert.
Das Gute ist, dass du das nicht rückwirkend
machen musst.
Also jetzt nicht sagst, okay, ich habe in
den letzten 10 Jahren in meinem Shop die
ganzen Bilder, oder sagen wir mal, da gab
es noch keine KI, aber in den letzten
3 Jahren habe ich viele Sachen mit KI
gemacht, die musst du jetzt nicht rückwirkend nochmal
veröffentlichen.
Aber wenn du das Bild zum Beispiel nimmst
und jetzt aktiv nochmal in einem neuen Newsletter
raussendest, hast du eventuell schon wieder ein Problem,
wenn du es nicht gekennzeichnet hast.
Interessant.
Und das Thema Text ist ja nochmal eine
ganz andere Baustelle.
Also wenn du einen Text erzeugst oder manipulierst
mit KI und das weitgehend automatisierst, das heißt,
es wird jeden Tag ein KI-generierter Blogpost
geschrieben, der Blogpost wird nochmal zusammengefasst und in
Social Media ausgespielt.
Dazu wird auch ein Bild automatisch generiert.
Dann ist das zu kennzeichnen, und zwar das
Bild und der Text.
Wurde der Text aber vor der Veröffentlichung nochmal
menschlich überprüft oder sogar redaktionell kontrolliert und übernimmt
auch ein Mensch die inhaltliche Verantwortung für den
Text, dann muss es nicht kennzeichnen.
Auch hier ist es erst mal zu hinterfragen,
was ist überhaupt eine Veröffentlichung?
Wenn du es jetzt in einer kleinen Freundeskreisgruppe
schreibst, sicher nicht.
Aber wenn die Gruppe größer wird und das
ein paar hundert Leute sind, ist es schon
wieder zu überlegen.
Dann ist es nicht ganz sicher, dass es
nicht KI-kennzeichnungspflichtig ist.
Und wenn du es kennzeichnest, dann musst du
es eigentlich da oben drüber kennzeichnen.
Also entweder machst du einen Banner oben drüber
oder unter der Überschrift.
Ich sage ja, Cookie-Banner 2.0. Und
die Bußgelder, die dann aufgerufen werden können, sind
knackig.
Jeder kann dich ja bei der Bundesnetzagentur anzeigen,
dass du da was nicht gekennzeichnet hast.
Und es ist ja auch eine wettbewerbsrechtliche Verletzung.
Also kannst du auch bei der Wettbewerbszentrale anzeigen.
Es gibt ja solche Abmahnkanzleien, die da nichts
anderes machen als solche Vergehen zu melden.
Von den Deepfakes, wenn du also Persönlichkeitsrechte verletzt
hast oder Datenschutzsachen, da brauchen wir gar nicht
zu reden.
Also Holla die Waldfee.
Ich denke, da wird es jetzt anfangs noch
so eine Kulanzphase geben, weil ja auch die
Rechtsprechung, es gibt ja noch keine Rechtsprechung dazu,
man muss es ja erstmal alles, die Stränge
und so weiter mal definieren.
Aber ich möchte jetzt kein Präzedenzfall sein, weil
ich irgendwas gemacht habe.
Ich halte mich da jetzt mal lieber übervorsichtig
daran.
Also übervorsichtig bei unserem Chili müssen wir nicht
mehr sein, das ist langsam kalt.
Können wir jetzt in Limo essen?
Die KI-Kantine ist ein Projekt von Michael
Busch, der auch beim nächsten Mal wieder ein
frisches KI-Gericht auftischt mit einer Prise Ponz
und einer Beilage Skepsis.
Die KI-Kantine, hier ist die KI-Kantine.