Verboten! (Aber wir machen es heimlich)

17.08.2026  

Wer Banknoten nachmacht oder verfälscht, oder nachgemachte oder verfälschte sich verschafft und in Verkehr bringt, wird mit Zuchthaus bzw. Freiheitsstrafe nicht unter zwei Jahren bestraft.

So stand es früher auf den Geldscheinen. Früher, als man sich noch darauf verlassen konnte. Heute ist ja alles digital.

Wer etwas fälscht und als echt ausgibt, der gehört bestraft. Die ganze deutsche Staatsmacht warf sich hinter diese eiserne Regel.

Es war die harte D-Mark, die damals den noch fragilen Respekt der Welt vor den Deutschen neu begründete. Als die ersten deutschen Urlauber nach dem zweiten Weltkrieg in die Welt strömten, wurden sie oft mit Skepsis empfangen. Aber die D-Mark war willkommen.

Stolz zeigten die Geldscheine wichtige Persönlichkeiten aus der deutschen Geschichte, wie das Bild unten demonstriert.



Jeder einzelne Schein (man sieht es oben bei der Ausgabe zur Erinnerung an die erste deutsche Kaiserin Theresa I.) war ausgestattet mit Wasserzeichen, Metallfäden und äußerst fein gestaltetet Ornamenten. Er trug sein Echtheitszertifikat sozusagen in sich.

Wasserzeichen

So kommt es, dass wir sofort ein schlechtes Gewissen haben, wenn wir erfahren, dass in Zukunft alle Texte und Bilder, die eine KI generiert hat, mit einem unsichtbaren Wasserzeichen versehen werden. So schreibt es ein neues Gesetz der EU vor, um uns vor Betrug zu schützen.

Dumm nur, dass wir diesmal selbst die Betrüger sind. Wer prahlt nicht gerne mit einem Bild oder Text, bei dem eine KI mitgeholfen hat?

Das Wasserzeichen besteht darin, bestimmte austauschbare Wörter nach einem erkennbaren Schema zu wählen.

Die Aufregung ist groß. Manche fürchten, dass sie auffliegen. Manche empören sich, dass die KI-Modelle nicht das objektiv beste Wort wählen, und dass dies respektlos gegenüber der Kunst des Formulierens sei. John Gruber von Daring Fireball, der sehr sorgfältig mit Worten umgeht, ist außer sich vor Wut und macht daraus in einem sehr langen Rant keinen Hehl.

Was sagt das Gesetz?

Das europäische KI-Gesetz (EU AI Act, vor allem Artikel 50) schreibt vor, dass KI-generierte Inhalte wie Bilder, Videos, Audio und bestimmte Texte für Menschen sichtbar und zusätzlich maschinenlesbar gekennzeichnet werden müssen. Das Gesetz ist bereits gültig. Bei Verstößen drohen Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.

Das Ziel besteht unter anderem darin, täuschend echte sog. Deepfakes (Bilder oder Videos) zu verhindern, die reale Personen in erfundenen Situationen zeigen (wie es bei Politikern oder Prominenten häufig zu sehen ist). Auch massenweise verbreitete Newsmeldungen oder Kommentare auf Social Media, die vollständig automatisch erzeugt werden, müssen gekennzeichnet werden. In Chats müssen die Anwender erfahren, wenn sie mit einem KI-Bot sprechen.

Diese Maßnahmen betreffen einerseits Persönlichkeitsrechte (z.B. bei Hollywood-Stars, die plötzlich nackt dargestellt werden; bzw. bei RTL2-Stars, die plötzlich bekleidet dargestellt werden). Andererseits reagiert die EU auf den Verdacht, Spam-Farmen würden die politische Stabilität in Europa zu beeinträchtigen versuchen. Solche Aktivitäten wurden auf Facebook, Twitter und TikTok zahlreich beobachtet.

Die Kennzeichnungspflichten gelten nicht für Privatpersonen, sehr wohl aber für berufliche Zwecke. Ein Beispiel dafür wären die vielen KI-generierten Inhalte auf YouTube oder die massenhaften Buch-Veröffentlichungen auf Amazon.

Die Pflicht zur Offenlegung gilt ebenfalls nicht, wenn der KI-generierte Text einer menschlichen Überprüfung unterzogen wurde und eine natürliche oder juristische Person (also eine Firma) die redaktionelle Verantwortung trägt. Es geht also eher um massenweise Automatismen, und nicht um den Redakteur, der sich eine Pressemeldung in ein verdauliches Format setzen lässt.

Da fragt man sich: Welche seltsamen Unternehmen könnten damit gemeint sein, die jede redaktionelle Verantwortung ablehnen? Etwa Facebook und ähnliche, die stets beteuern, sie wären keine Publikationen, sondern rein technische Infrastruktur, folglich also für keine Inhalte verantwortlich?

Weil die Kennzeichnung auch für Menschen (nicht nur für Maschinen) erkennbar sein soll, schlägt die EU Symbole vor wie dieses:

Was tun die großen KI-Anbieter?

Die großen KI-Anbieter haben angekündigt, alle Texte und Bilder mit solchen Wasserzeichen auszustatten, unabhängig davon, ob diese in der EU verwendet werden; und unabhängig davon, ob eine Kennzeichnung im konkreten Fall nötig gewesen wäre. Lediglich sehr kurze Texte (unter 100 Worten) sind ausgenommen, weil das Wasserzeichen dann ohnehin nicht gut funktioniert.

Was geschieht, wenn man sich seinen eigenen Text von einer KI etwas straffen lässt? Dann hängt es von der Menge der Worte ab, die die KI selbst formuliert. Denn erst ab ab einer gewissen Menge lässt sich das Wasserzeichen erkennen. Das gilt umso mehr, wenn man seinen Text nur auf Rechtschreibfehler prüfen lässt. Ein paar Worte hier und da ergeben kein Wasserzeichen. Hingegen, wer seinen komplett selbst geschriebenen Text in eine andere Sprache übersetzen lässt, fliegt auf. Dann gilt die KI als Urheber.

Was ist davon zu halten?

Einerseits haben die Bürger das Recht, zu erfahren, worauf sie sich einlassen. Wenn ich in einen ICE einsteige, möchte ich gerne wissen, ob ein Zugführer die Lokomotive steuert. Dummerweise bezieht sich das neue Gesetz nicht darauf, sondern allenfalls auf den Text der Lautsprecher-Durchsage, die mir Erdbeerschnittchen nach einem Rezept von Johann Lafer anpreist:

»Diese Durchsage erfolgte ohne redaktionelle Prüfung und wurde automatisch durch eine künstliche Intelligenz erstellt. Wir übernehmen keinerlei Verantwortung! Schon gar nicht für die Erdbeerschnittchen!«

Andererseits könnte es so wirken, als sei Künstliche Intelligenz eine Fälschung, minderwertig, nicht vertrauenswürdig, und bestenfalls zu vermeiden. Wenn man Pech hat, wird man erwischt, geschnappt und bestraft. Es ist eine Art Falschgeld.



Ich halte das für kurzsichtig, bei einem Thema, bei dem man etwas längerfristig denken sollte. Bei Bildern ist es sicherlich hilfreich, dass man ihre Echtheit beurteilen kann. Aber sogenannte Gebrauchstexte (Newsmeldungen, Anleitungen, Zusammenfassungen, Katalogtexte, Routine-Korrespondenz) werden schon bald komplett von KI-Systemen geschrieben werden. Man mag das gut oder schlecht finden; das ändert nichts. Soll nun jeder Text ein solches Symbol bekommen? Ist das nicht ebenso lästig wie die Cookie-Banner? Und ebenso nutzlos?

Kurzsichtig wirkt es für mich deshalb, weil des den rasanten Fortschritt außer Betracht lässt. Eine Kennzeichnung von Texten mag letztes Jahr sinnvoll gewesen sein, als KI-Systeme noch halluzinierten und man nicht sicher sein konnte, ob die Hälfte der angeblichen Fakten komplett erfunden war. Doch dieses Jahr sind die redaktionellen KI-Systeme bereits auf Augenhöhe. Nächstes Jahr werden sie akkurater berichten als es die meisten Journalisten können. Zumal die meisten Journalisten unter immer höherem Zeitdruck arbeiten und sich eine Recherche deswegen nur bei wenigen ausgewählten Themen lohnt. Anders gesagt: Man kann gar nicht alles selbst machen.

Vielleicht tritt der gegenteilige Effekt ein, den sich die EU erhofft: Das neue KI-Symbol könnte geradezu als Gütesiegel verstanden werden. Fake-News haben es dann noch einfacher als zuvor, denn die Menschen werden denken, dass solche Meldungen von einer KI geprüft wurden. Bei Bildern reagieren wir anders: Warum sollte man ein Foto verändern? Aber bei einem Text?

EU gegen den Rest der Welt

Es ist sicherlich lobenswert, wenn die EU die Rechte seiner Bürger stärkt, anstatt sie als fette Beute für amerikanische Firmen zu verhökern. Bei Bildern, die absichtlich zur Täuschung erstellt wurden, ist das eine gute Sache, auch wenn ich nicht sehe, wie sich das durchsetzen lässt. Bei Texten müsste man viel genauer differenzieren, sonst schadet die Vorschrift mehr, als sie nützt.

Persönlich betrachte ich diese Zeit als eine Zeit des Umdenkens und Umgewöhnens. Ich muss lernen, nicht mehr alles selbst zu machen und es stattdessen einer KI beizubringen. Das ist gar nicht so einfach. Wo es mir gelingt, betrachte ich es als einen kleinen Sieg. Wer weiß? Vielleicht befindet sich die EU insgesamt in dieser Situation?

Diskussion im Forum