20,000 Unterschriften erreicht
An: Friedrich Merz, Markus Söder (Parteivorsitzende CDU, CSU), Lars Klingbeil, Saskia Esken (Parteivorsitzende SPD), alle Koalitionsverhandler*innen
Deepfakes von echten Menschen verbieten!
Verbietet das Fälschen von Menschen! Rettet die Demokratie vor Deepfakes und manipulativen Bots!
Durch Künstliche Intelligenz kann man Texte, Bilder, Töne und Videos erstellen, die für Laien kaum noch als Fälschung erkennbar sind. Diese Deepfakes werden schon jetzt benutzt, um Menschen zu verleumden oder in Verruf zu bringen. Sie werden verwendet für politische Desinformation, Cybermobbing, Rachepornos und gefälschte Produktempfehlungen. Letzteres kann durchaus lebensbedrohlich sein, denn immer wieder wird mit Deepfakes prominenter Persönlichkeiten aus der Medizin für wirkungslose oder schädliche Medikamente geworben.
Manipulative Social Bots, also Social-Media-Konten, die direkt oder indirekt vorgeben, ein Mensch zu sein, es aber nicht sind, verbreiten diese und andere Fakes. Es rollt ein Tsunami aus Fälschungen auf uns zu, der es immer schwerer macht, zwischen Wahrheit und Lüge zu unterscheiden. Dadurch gefährden Deepfakes und Bots unsere Demokratie, denn Demokratie braucht Vertrauen, und Vertrauen braucht Wahrhaftigkeit.
Diese Petition versteht sich als überparteilich. Sie zielt nicht darauf ab, politische Inhalte irgendeiner Art einzuschränken, sondern darauf, eine neue Form von Fälschung generell zu verbieten.
Egal, ob Friedrich Merz, Alice Weidel, Lars Klingbeil, Katharina Dröge, Heidi Reichinnek oder du – niemand darf gefälscht werden. Die neue Regierung muss handeln. Eine bloße Kennzeichnungspflicht für KI-generierte Inhalte, wie aktuell von der EU vorgesehen, reicht nicht aus.
Warum ist das wichtig?
Das Erstellen von Deepfakes echter Menschen ohne deren Einwilligung muss generell verboten werden!
Um Wirkung zu entfalten, muss das Verbot allgemein und absolut sein. Auch für die Satire darf es keine Ausnahmen geben, denn sonst ließe sich immer behaupten, eine Fälschung sei doch nur Satire. (Satire braucht keine Deepfakes! Sie kommt seit Jahrtausenden sehr gut ohne aus.)
Alle Anbieter von Deepfake-Tools müssen ihre Produkte dementsprechend einschränken. Das vorsätzliche Verbreiten von nicht erlaubten Deepfakes muss ebenfalls strafrechtliche Konsequenzen haben. (Think before you share!) Hierbei müssen auch die Plattformen in die Pflicht genommen werden. Natürlich sind manche Deepfakes heute schon strafbar, sofern man sie als Beleidigung, üble Nachrede, Verleumdung oder Ähnliches einstufen kann. Da die Beweislast aber bei den Geschädigten liegt und es viel Interpretationspielraum gibt, reagieren die großen Plattformen zu lasch und zu selten auf Beschwerden (Notice & Takedown). Nur ein generelles Verbot würde für die nötige Trennschärfe und ein entsprechendes Problembewusstsein sorgen. Allen muss klar sein, dass die Erstellung eines Deepfakes ohne Einwilligung der gefälschten Person strafbar ist!
Alle Anbieter von Deepfake-Tools müssen ihre Produkte dementsprechend einschränken. Das vorsätzliche Verbreiten von nicht erlaubten Deepfakes muss ebenfalls strafrechtliche Konsequenzen haben. (Think before you share!) Hierbei müssen auch die Plattformen in die Pflicht genommen werden. Natürlich sind manche Deepfakes heute schon strafbar, sofern man sie als Beleidigung, üble Nachrede, Verleumdung oder Ähnliches einstufen kann. Da die Beweislast aber bei den Geschädigten liegt und es viel Interpretationspielraum gibt, reagieren die großen Plattformen zu lasch und zu selten auf Beschwerden (Notice & Takedown). Nur ein generelles Verbot würde für die nötige Trennschärfe und ein entsprechendes Problembewusstsein sorgen. Allen muss klar sein, dass die Erstellung eines Deepfakes ohne Einwilligung der gefälschten Person strafbar ist!
Des Weiteren fordern wir, dass manipulative Social-Bots, die sich als echte Menschen ausgeben, generell verboten werden!
Tun wir das nicht, dann werden unsere Debatten bald in einer Flut von KI-generierten Beiträgen aus Trollfabriken ertrinken. Dies ist kein Eingriff in die Redefreiheit! In den Worten des Historikers Yuval Noah Harari: »Bots genießen keine Redefreiheit. Menschen von einer öffentlichen Plattform zu verbannen, ist ein heikler Schritt, und Demokratien sollten mit solcherlei Zensurmaßnahmen sehr vorsichtig sein. Bei einem Verbot von Bots ist es jedoch ganz einfach: Es verletzt die Rechte von niemandem, weil Bots keine Rechte haben.«¹
Botnetze sind gefährliche Verbreiter toxischer Desinformationen und müssen von digitalen Plattformen aktiv gesucht, gelöscht und den Behörden gemeldet werden² .
Beispielhaft für die Wirksamkeit solch strenger Verbote ist das Verbot des Fälschens von Geld. Der Philosoph Daniel Dennett schrieb dazu: »Geld existiert seit mehreren tausend Jahren, und von Anfang an wurde das Fälschen als ein sehr ernstes Verbrechen angesehen, das in vielen Fällen mit der Todesstrafe geahndet wurde, da es das Vertrauen untergräbt, auf dem die Gesellschaft basiert. Heute, zum ersten Mal in der Geschichte, ist es dank künstlicher Intelligenz möglich, gefälschte Menschen zu erschaffen, die in vielen der neuen digitalen Umgebungen, die wir geschaffen haben, als echt durchgehen können. Diese gefälschten Menschen sind die gefährlichsten Artefakte in der Geschichte der Menschheit. Sie könnten nicht nur Ökonomien, sondern auch die menschliche Freiheit selbst zerstören. Bevor es zu spät ist, müssen wir sowohl die Erschaffung von gefälschten Menschen als auch deren Weitergabe verbieten. Die Strafen für beide Vergehen sollten äußerst hart sein, da die Zivilisation selbst auf dem Spiel steht.«³
Ohne Vertrauen kann weder eine Währung noch eine Demokratie funktionieren.
Dein Gesicht und deine Stimme gehören dir. Das Fälschen von Menschen muss verboten werden!
Zu den Unterzeichnenden gehören:
Martin Bechler, Hennes Bender, Sarah Bosetti, Ralph Caspers, Abdul Kader Chahin, Marti Fischer, Sebastian Fitzek, Flix, Annette Frier, Andreas Fröhlich, Benno Fürmann, Nina George, Robert Gwisdek, Romy Hausmann, Michael „Bully“ Herbig, Karoline Herfurth, Nora Imlau, Oliver Kalkofe, Ursula Karven, Friederike Kempter, Marc-Uwe Kling, Kai Lüftner, Bjarne Mädel, Matthias Matschke, Walter Moers, Ruth Moschner, Moritz Neumeier, Michael Ostrowski, Bastian Pastewka, Ralph Ruthe, Martin Rütter, Dimitrij Schaad, Rocko Schamoni, Sebastian 23, Ingmar Stadelmann, Saša Stanišić, Björn Staschen, Torsten Sträter, Gerry Streberg, Rosalie Thomass, Max Uthoff, Eckart von Hirschhausen und Bodo Wartke.
Digitalcourage e.V.
Initiative Save Social
Teilenswert e.V.
Die vollständige Liste aller Unterzeichner*innen ist hier einzusehen.
───
¹ Harari, Yuval Noah: Nexus. Penguin Verlag, München, 2024, S. 474.
² Zur Klarstellung: Nützliche Bots, die z. B. automatisch Untertitel oder Übersetzungen erstellen, sollen natürlich nicht verboten werden. Sie müssen aber klar und standardisiert gekennzeichnet werden, zum Beispiel durch „bot“ im Accountnamen und durch ein Roboter-Icon. Auch muss in der Accountbeschreibung eindeutig erklärt werden, was der Bot tut.