willst Du das bei jeder Nutzung von KI anwenden? Ich verstehe das Gesetz so, dass es im Prinzip für uns gilt, wenn wir über die KI DeepFakes erstellen würden. Das ist in den Magix-Programmen nicht möglich. Schönes Wochenende Korntunnel
@korntunnel, wird uns nicht direkt betreffen, aber man sollte mal darüber gesprochen haben. Und MAGIX wird sich dazu aber als Unternehmen, was KI anbietet oder eingekauft nutzt, auch äußern und positionieren müssen.
Meine Videos im Forum (BA) haben den Hinweis schon, wenn ich die Sprachdienste verwende.
Hier kommt ein Artikel aus der heutigen MAZ (Märkische Allgemeine Zeitung):
Meinung Perspektiven
Wo KI drinsteckt, muss (meist) auch KI draufstehen
Von Sven Christian Schulz
Der Hinweis „mit KI erstellt“ wird in Europa künftig häufiger zu sehen und zu hören sein. Neue EU-Regeln sollen offenlegen, wann Bilder, Videos, Audios oder Texte künstlich erzeugt oder manipuliert wurden – bei Verstößen drohen empfindliche Bußgelder.
In TV-Spots und Supermarktprospekten ist der Hinweis „mit KI erstellt“ längst zu sehen: Seit Sonntag, 2. August, gelten in der EU neue Transparenzpflichten für den Einsatz Künstlicher Intelligenz (KI). Sie sollen erkennbar machen, wann Inhalte künstlich erzeugt oder manipuliert wurden. Bisher gab es für den KI-Einsatz kaum Regeln – das ist nun zum Glück vorbei. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Was künftig für wen gilt – und wo Ausnahmen greifen. Neu für Profis: Unternehmen, Behörden und andere professionelle Nutzer müssen KI-Inhalte vor allem dann kenntlich machen, wenn sie täuschend echt wirken oder ein öffentlich relevantes Thema betreffen. Dazu zählen etwa Deepfakes, die Politiker bei erfundenen Handlungen zeigen oder ihr Gesicht manipulieren. Der Hinweis muss gut sichtbar sein, bei Musik und anderen Audios hörbar. Auch bei Chatbots muss klar sein, wenn kein Mensch, sondern eine KI antwortet. Wie die Kennzeichnung konkret aussieht, schreibt das Gesetz nicht vor. Ein gut erkennbarer Hinweis wie „KI-generiert“ auf einem Plakat an der Bushaltestelle, im Filmabspann oder unter dem Text aus dem Rathaus kann genügen. Offensichtlich künstliche Illustrationen und abstrakte Bilder, die niemand für echt halten würde, sind dagegen von der Vorgabe ausgenommen. Für Texte gilt: Transparenz ist bei Themen von öffentlichem Interesse Pflicht, etwa Politik, Gesundheit oder Finanzen. Eine Ausnahme von der Kennzeichnungspflicht gibt es nur, wenn ein Mensch den Text sorgfältig geprüft hat. Wer die KI-Ergebnisse ungeprüft übernimmt, riskiert Fehler und im Ernstfall rechtliche Folgen. Die Verantwortung trägt immer der Mensch, der die KI einsetzt. Neu für private Nutzer: Solange Bilder und Texte im privaten Raum bleiben, müssen diese nicht mit „KI generiert“ gekennzeichnet werden. Wer E-Mails von einer KI formulieren lässt oder KI-Bilder in privaten Chats verschickt, muss dies nach den EU-Vorgaben in der Regel nicht offenlegen. Neu für Vereine: Wo ein wirtschaftlicher oder gewerblicher Zweck im Spiel ist, gilt auch die Transparenzpflicht. Wer für eine Aufführung mit Eintritt seines Tanzvereins Plakate von der KI gestalten oder für den Fußballverein mit Sponsoren Texte für seine Website erstellen lässt, muss dies meist kennzeichnen. Grauzonen und Unsicherheit beim KI-Einsatz in Vereinen sind vorprogrammiert. Im Zweifel gilt: Lieber einmal zu viel transparent machen, dass KI eingesetzt wurde. Neu für Influencer und Youtuber: Wer regelmäßig mit Bildern und Videos im Netz Geld verdient, muss auch KI-generierte oder manipulierte Inhalte entsprechend kennzeichnen. Plattformen wie Instagram, Tiktok und Youtube bieten dafür eigene Funktionen an und erkennen manche KI-Inhalte automatisch. Der Hinweis „KI-generiert“ könnte für Fans den Zauber mancher Influencer-Beiträge schmälern. Aus Sicht der EU ist genau diese Klarheit aber gewollt. Neu für Tech-Konzerne: KI-Anbieter wie OpenAI, Google oder Meta müssen ihre KI-generierten Inhalte technisch erkennbar machen. Pflicht werden maschinenlesbare Markierungen, etwa Einträge in Metadaten oder digitale Wasserzeichen, die für das menschliche Auge unsichtbar bleiben. Andere Plattformen können so erkennen, ob ein Bild, Video oder Audio mit KI erstellt wurde. Wurden weite Teile einer Doktorarbeit von der KI geschrieben, könnte dies künftig leichter von Prüfprogrammen erkannt werden. Wichtig ist nun, dass die EU-Kommission europäisches Recht gegenüber den Tech-Konzernen auch konsequent durchsetzt und sonst mit Strafen ahndet.
Eine Ausnahme von der Kennzeichnungspflicht gibt es nur, wenn ein Mensch den Text sorgfältig geprüft hat.
So wie ich das verstanden habe, muss man auch als Nutzer seine Videos auf Youtube kennzeichnen, wenn der Kanal nicht monetarisiert ist. Sobald etwas öffentlich ist (private Nutzung heisst: Im Familien- oder Freundeskreis z.B.) muss es gekennzeichnet werden, sobald das Bild etwas zeigt, das existieren KÖNNTE. Also selbst ein KI Bild mit einer fiktiven Südseeinsel und tanzenden Menschen am Strand, die es auch nicht gibt, muss gekennzeichnet werden, weil Zuschauer es als echt, also als real existierenden Ort mit echten Menschen, halten könnten.
Da ich Inhalte und Bilder aber generell nachbearbeite, reicht hier auch ein Hinweis mit "AI Modified".
Generell gibt es diese Kennzeichnungen (von der EU empfohlen aber nicht vorgeschrieben) :
AI Generated - Inhalt ist komplett von der KI erstellt worden
AI Assisted - Inhalt ist mit Hilfe einer KI entstanden, aber mit deutlichen menschlichen Anteilen
AI Modified - Inhalt wurde mit KI erstellt und nachträglich von einem Menschen nachbearbeitet und/oder verändert
Wer nicht kommerziell Videos veröffentlich, fährt mit einem diese Logos sicher und gut.
Abmahnanwälte reiben sich schon die Hände !
ABER : Im Gegensatz zu anderen Fällen (Urheberrecht, Raubkopien) dürfen hier Anwälte nicht einfach abmahnen. Das ist hier der Aufgabenbereich von Behörden ! Die Abmahnanwälte werden hier auf Unwissenheit und Angst setzen, so dass einige dann freiwillig zahlen aus Angst vor Konsequenzen.
Also, solltet ihr irgendwann Anwaltspost erhalten, nicht zahlen und evtl. den betreffenden Anwalt bei der Anwaltskammer bekannt machen. Anwälte können höchstens dann aktiv werden, wenn dadurch Wettbewerbs- oder Markenrecht verletzt wird, aber nicht allein, weil in einem Video ein AI-Logo fehlt !
@Marc-Goder ich hab grad mal geschaut, und gleich der erste KI-"Verdachtsfall" hat sich bestätigt, und in der Video-Beschreibung steht's auch.
Deine Zweifel muss man wohl aber grundsätzlich bestätigen, ich habe in der Woche schon an anderer Stelle geschrieben, was für KI-Unsinn den betreffenden Typen manchmal einfällt, und oft genug - wenn es mir die paar Klicks wert war - nichts gefunden, was dieser Kennzeichnungspflicht entsprechen würde.
Oft genug verschwinden solche "Darbietungen" und deren Urheber-Kanäle aber auch sehr schnell, Youtube setzt seine Community-Richtlinien auch in diesem Punkt konsequent durch.
In zwei meiner eigenen Videos habe ich ElevenLabs eingesetzt, was auch bereits unter KI fällt, und auch entsprechend gekennzeichnet.
Auf der Platform "seeart.ai" - einer Platform für die Generierung von hochwertigen KI Bildern - wird jetzt jedem erzeugten Bild ein Logo "AI Modified" hinzugefügt, wenn es in der Communtity innerhalb der Platform veröffentlicht wird. Ich füge in meine Musikvideos jetzt immer ein kleines, unauffälliges Logo in der linken, unteren Ecke ein, tut keinem weh und man ist erstmal safe. Das Gesetz ist ja frisch und man muss jetzt abwarten, was da kommt und wie es umgesetzt wird. Deswegen gibt es auch wohl noch so wenig Inhalte mit Kennzeichnung ...
Ich hab mir das Video grad mal reingetan...und bin fast platt😮
Durch meine Aktivitäten mit meinen beiden Youtube-Kanälen und der Mitgliedschaft in besagtem Youtube-Forum hatte ich eigentlich gedacht, dass ich einigermaßen gut informiert bin.
Aber selbst, wenn ich die Punkte heraus nehme, die mich bei meinen Youtube-Projekten nicht betreffen, bleibt genügend übrig, über das ich mir besser nochmal Gedanken machen sollte, und sei es nur der maßgebliche Bürokratie-Kram, der damit verbunden sein könnte.
Ist doch nicht so schwer... Für "nur" Magix Anwender heißt das, das man KI Stimmen (was ich auch mache) im Filmanfang - kennzeichnen muss, durch einen auch hörbaren, also gesprochenen Text, beispielsweise "Off-Texte durch KI generiert". Bei KI bearbeitet colorierten SW-Inhalten die Einblendung in der Szene "KI Bearbeitet". Bei anderen Effekten - ohne KI - ist nichts anzugeben. - Wenn ich nun noch KI-Glätten / Schärfen anwende, wer will wissen/sehen ob ich das mit KI oder manuell mit den Operatoren gemacht habe? - Niemand.
Also, wieder mal Mehraufwand für Bürger der EU, nicht für den Rest der Welt, die brauchen das nämlich derzeit nicht, auch nicht wenn wir das hier sehen....
Eine detaillierte Übersicht zu den rechtlichen Grundlagen bietet das Informationsportal der EU-Kommission zur Kennzeichnung von KI-Inhalten.
Wann du Text-to-Speech kennzeichnen musst
Täuschungsgefahr / Deepfakes: Wenn die synthetische Stimme so realistisch klingt, dass sie einer echten Person täuschend ähneln könnte und der Hörer fälschlicherweise denkt, eine reale Person spreche (Artikel 50 AI Act). [1]
Öffentliches Interesse: Wenn Audios oder Sprachnachrichten veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse (z. B. politische oder gesundheitliche Infos) zu informieren. [1, 2]
Voicebots / Chatbots: Wenn Nutzer direkt mit einem KI-Sprachsystem (z. B. am Telefon oder im Kundenservice) interagieren, muss die KI zu Beginn des Gesprächs offenlegen, dass sie eine KI ist. [1]
Plattform-Regeln: Soziale Netzwerke wie TikTok, Instagram oder YouTube verlangen in ihren eigenen Richtlinien oft eine Kennzeichnung von künstlich erzeugten Audio- und Videospuren, unabhängig von den strengen EU-Ausnahmen. [1]
Wann keine Kennzeichnung nötig ist
Reine Alltagshilfe: Interne, private oder rein technische Nutzungen (z. B. wenn du dir privat einen Text vorlesen lässt). [1]
Offensichtliche Nutzung: Wenn für jeden sofort erkennbar ist, dass es sich um eine computergenerierte Roboterstimme handelt und keine Täuschung vorliegt. [1]
Menschliche Freigabe: Wenn ein Mensch die redaktionelle Verantwortung trägt und der Inhalt entsprechend geprüft wurde (wobei dies bei reinen Audiofiles schwerer nachzuweisen ist als bei Texten).
Also, wieder mal Mehraufwand für Bürger der EU, nicht für den Rest der Welt, die brauchen das nämlich derzeit nicht, auch nicht wenn wir das hier sehen....
Genau das ist das Problem.
75% der betrügerischen KI-Werbung auf YouTube kommt von einem Unternehmen aus Litauen.
Und die brauchen halt gar nichts zu kennzeichnen.
Und solange das nur EU weit angewendet wird, kann man das alles die Toilette runterspülen.
Schreibst Du uns hier mal, woher Du die 75 % hast, die von einem Unternehmen aus Litauen kommen? Ich halte das selbst für einen Fake, der für uns hier ohnehin keine Bedeutung hat. Auch wenn ich die Aussage von @HolgerDUS auch so sehe, dass die Bürger der EU mal wieder Vorreiter sind, bin ich der Meinung, wir sollten das alles realistisch sehen.
Dass, was da aus Litauen oder sonstwoher kommt, ist Betrug, irreführende Werbung oder ähliches, und der wird auch nicht besser, wenn man die Richtlinien befolgt und KI drunter schreibt. 😊 Wer schützt uns vor den Betrügern, die wissentlich gegen den AI Act verstossen?
Ich sehe das so, dass der AI Act die Kennzeichnungspflicht nicht davon abhängig macht, ob das Unternehmen in Deutschland oder der EU sitzt. Diese Pflichten gelten, wenn die Voraussetzungen des Acts erfüllt sind. Möglich, dass ich das falsch sehe, aber möchte trotzdem erst mal gelassen bleiben und abwarten.
P.S. So als Nachsatz eine Bemerkung, weil mir aufgefallen ist, dass hier im Forum auch Ängste vor der KI bestehen. Das kann ich durchaus verstehen, dass alles ist nicht ohne Bedenken. Einige teile ich, einige nicht. Fakt ist sicherlich, dass wir die KI nicht mehr abschaffen können.
Wenn nun etwas dagegen unternommen wird, ist das anscheinend auch nicht recht? Kann sein, dass wir hier in der EU mal wieder über das Ziel hinausschießen, ich sehe aber einen Anfang als gemacht!
Danke für die interessante Information. Ich finde jedoch nirgends, dass dieses Unternehmen 75 % ausmacht.
Ist letzten Endes egal. Selbst wenn diese Gruppe unter ihren Bildern KI-generiert schreibt, wird doch nicht verhindert, dass Leute darauf reinfallen. Vielleicht merkt es der eine oder andere, dass der Rest auch nicht der Wahrheit entspricht, was gut wäre. Ich kann nirgendwo finden, dass dieses Unternehmen rechtskräftig wegen Betrugs verurteilt worden wäre, aber jede Menge Beschwerden und Reklamationen.
Ich kann mir vorstellen, dass solche Unternehmen genau der Grund sind, weshalb sich die EU Gedanken über eine Eindämmung gemacht hat. Wir werden ganz sicher feststellen, ob da (mal wieder) übers Ziel hinausgeschossen wurde. Ich selbst, muss ich sagen, fühle mich garnicht bis wenig betroffen.
Deshalb diffenziere ich da, wie in meinen beiden Beiträgen über Deinem geschrieben, und warte ab.
Btw: bei solchen Unternehmen inkl. der chinesischen kaufe ich grundsätzlich nicht. 🙂