Digitalgespräch

Synthetische Daten: Was macht sie aus und wie kommen sie im KI-Training zum Einsatz?

Mit Sören Pirk von der Christian-Albrechts-Universität zu Kiel Um KI-Modelle zu trainieren, die sich im realen Einsatz bewähren, braucht man hochwertige Daten, und davon möglichst viele. In allen Branchen, Arbeitsfeldern und Umgebungen ist der Einsatz von KI im Prinzip möglich, es wird experimentiert, ausprobiert und auch wieder verworfen. In manchen Bereichen, etwa der Medizin oder im Katastrophenschutz, setzt man große Hoffnungen in KI, wobei gerade dort die Trainingsdatenlage an vielen Stellen dünn ist, und vor allem: wo schwere Fehler vermieden werden sollen. Für etliche Fragestellungen liegen schlicht zu wenige Trainingsdaten vor, um zuverlässige und robuste KI-Systemen zu entwickeln. Dabei spielen nicht einmal Datenschutz und weitere Zugangsbeschränkungen eine entscheidende Rolle: Daten für das KI-Training zu erheben und nutzbar zu machen, kann sehr aufwendig und teuer sein. Synthetische Daten sind hier ein wichtiges Stichwort. Sie sollen schnell und kostengünstig Trainingsdatensätze für KI erzeugen können, wo „echte“ Daten fehlen. Aber geht das so einfach? Wie weit ist die Forschung in diesem Feld heute? Und was gilt es zu bedenken, wenn man sich auf diesen Weg begibt? Sören Pirk ist Professor für Informatik an der Christian-Albrechts-Universität zu Kiel und leitet dort das Visual Computing and Artificial Intelligence (VCAI) lab. Der Experte für generative KI und synthetische Daten erklärt im Digitalgespräch, worum es sich bei synthetischen Daten handelt, wie man sie herstellt und wofür sie gebraucht werden. Er beleuchtet spannende Forschungsfragen und beschreibt die größten Herausforderungen im Umgang mit diesem Datentyp. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Pirk, wo Grenzen der Anwendbarkeit liegen, was „gute“ Datensätze auszeichnet , wie sich Regeln und Umgangsformen in diesem Feld entwickeln – und wie die Community nun, wo synthetische Daten so viel Aufmerksamkeit bekommen, auf Daten schaut, die nicht synthetisch sind. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-078-soeren-pirk/ [https://zevedi.de/digitalgespraech-078-soeren-pirk/] Link zur Webseite des Visual Computing and Artificial Intelligence (VCAI) lab: https://www.vcai-lab.org/ [https://www.vcai-lab.org/] Link zur Webseite des Projekts „WildfireTwins“: https://www.wildfiretwins.org/ [https://www.wildfiretwins.org/]

Generative KI und die Musikbranche: Die Musterklagen der GEMA

Mit Kai Welp von der GEMA Das ganze Internet als Basis für KI-Trainingsdaten zu nutzen, ist ein unvorstellbarer technischer Aufwand mit fraglichem Nutzen für die Qualität der Modelle, aber es gibt Entwickler für Systeme generativer KI, die behaupten, genau das getan zu haben – natürlich ohne die Inhaber von Rechten der so genutzten Medieninhalte um Erlaubnis zu fragen oder gar an Profiten zu beteiligen. Ob nun wirklich alle online frei verfügbaren Inhalte beim KI-Training zum Einsatz kommen, oder „nur“ ein großer Teil davon: dass KI-Entwickler beim Training und dem Betrieb ihrer Produkte nachweislich und systematisch geltendes Urheberrecht verletzen, hat nun erstmals ein Gericht geklärt, nämlich das Landgericht München. Geklagt hat die deutsche Verwertungsgesellschaft für Werke der Musik, die GEMA, und zwar gegen den Tech-Giganten OpenAI und den Anbieter des nicht minder marktmächtigen KI-Produktes Suno AI, das für die voll-automatisierte Produktion von Musikstücken mittels Prompting verwendet wird. Für _OpenAI _liegt bereits ein Urteil vor, das Gericht hat im Sinne der Kreativen und Rechteinhaber entschieden. Im Fall von Suno AI steht die Entscheidung noch aus. In jedem Fall zeigen die internationalen Reaktionen aus Politik, Presse und der Branche: Die GEMA-Klagen sind ein wichtiger Meilenstein im Kampf um Anerkennung und Wert menschlicher kreativer Arbeit. Dr. Kai Welp ist Chefjustiziar der GEMA. Im Digitalgespräch berichtet der Anwalt für Urheber- und Medienrecht von den beiden international aufsehenerregenden Klagen, die die GEMA im Winter 2024/25 gegen die KI-Entwickler hinter ChatGPT und Suno AI eingereicht hat, und schildert, welche Argumente und Beweise er und sein Team in die Verhandlungen eingebracht haben. Er gibt Einblicke in die Überlegungen und Zielsetzungen hinter den Klagen und ordnet die Bedeutung der Verfahren auch auf internationaler Ebene ein. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Welp, wie faire Vereinbarungen zwischen Kreativen und KI-Entwicklern aussehen könnten, welche Werte und Leitgedanken die GEMA für Künstliche Intelligenz in der Kreativbranche vertritt – und warum er zuversichtlich ist, dass KI nicht zwangsläufig menschliche Kreativarbeit verdrängen wird. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-77-kai-welp [https://zevedi.de/digitalgespraech-77-kai-welp] Link zur KI-Charta der GEMA: https://www.gema.de/de/aktuelles/ki-und-musik/ki-charta-der-gema [https://www.gema.de/de/aktuelles/ki-und-musik/ki-charta-der-gema] Link zum Dossier „KI in der Musik“ auf der Webseite der GEMA: https://www.gema.de/de/aktuelles/ki-und-musik [https://www.gema.de/de/aktuelles/ki-und-musik] Link zu den Key Facts der in dieser Folge besprochenen Studie im Auftrag von GEMA und SACEM: https://www.gema.de/documents/d/guest/gemasacemgoldmedia_ki-und-musik-key-facts-pdf [https://www.gema.de/documents/d/guest/gema_sacem_goldmedia_ki-und-musik-key-facts-pdf]

Digitaler Zugang zu Kulturgütern

Mit Reinold Schmücker von der Universität Münster Wertvolle Kunstwerke und historische Urkunden mögen gut behütet an besonderen Orten aufbewahrt werden, zu denen die Allgemeinheit nur unter bestimmten Bedingungen – oder gar nicht! – Zugang hat: Wenn digitale Abbildungen das erfassen, was uns an einem interessanten Objekten wesentlich erscheint, genügt uns in vielen Fällen der Blick auf diese Kopie. Und der, das ist die Erwartung in demokratischen Gesellschaften, sollte möglichst wenig verstellt sein. Open Access ist das Stichwort. Zudem schaffen digitale Aufbereitungen über die bloße Abbildung hinaus ganz neue Möglichkeiten des Zugangs, durch die sogar Barrieren in der Rezeption abgebaut werden könnten. Zur Realität der Digitalität gehören aber auch Software, Hardware und Lizenzverträge – die historischen Entwicklungen und Verfallsprozessen unterworfen sind, und Macht legen in die Hände privater, globaler, und nach eigenen Regeln handelnder Unternehmen. Was bedeutet das für ein zeitgemäßes Verantwortungsbewusstsein im Kunst- und Kulturbetrieb? Reinold Schmücker ist Professor für Philosophie an der Universität Münster und Sprecher der Kolleg-Forschungsgruppe Zugang zu kulturellen Gütern im digitalen Wandel. Im Digitalgespräch erklärt der Experte, welche Dimensionen von Zugang zu Kunst und Kultur wichtig für die Arbeit an ethischen oder rechtlichen Normen sind. Er zeigt auf, wie sich in der Digitalität neue Chancen und Selbstverständlichkeiten für demokratischen Zugang ergeben, wo die Regeln der digitalen Welt aber auch neue Risiken und Problemlagen hervorbringen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Schmücker, wie Ausstellungsräume ihren Status als physische Orte des Erlebens von Kunst und Kultur halten können – und inwiefern man heute noch einen besonderen ästhetischen Wert des Originals gegenüber seinen Kopien behaupten kann, der den Weg dorthin rechtfertigt. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-076-reinold-schmuecker [https://zevedi.de/digitalgespraech-076-reinold-schmuecker] Link zur Webseite der Kolleg-Forschungsgruppe Zugang zu kulturellen Gütern im digitalen Wandel an der Universität Münster: https://www.uni-muenster.de/KFG-Zugang/ [https://www.uni-muenster.de/KFG-Zugang/] Link zum Digitalgespräch Folge 64 „Literatur vereinfachen – mit KI? Digitalität und kulturelle Teilhabe“ mit Thomas Kater: https://zevedi.de/digitalgespraech-064-thomas-kater/ [https://zevedi.de/digitalgespraech-064-thomas-kater/] Link zur Schriftenreihe Access Points: https://www.uni-muenster.de/KFG-Zugang/publikationen/accesspoints/index.html [https://www.uni-muenster.de/KFG-Zugang/publikationen/accesspoints/index.html]

KI in der Diagnostik seltener Erkrankungen

Mit Michael von Wagner vom Universitätsklinikum Frankfurt am Main Wer krank ist und eine Antwort auf die Frage sucht, was die Symptome zu bedeuten haben, dem hilft eine Diagnose weiter. Das klingt einfacher, als es ist, denn nicht immer gelingt eine klare Zuordnung der Symptome zu einer Krankheit. Individuelle Faktoren oder Vorerkrankungen können den Verlauf einer Erkrankung derart beeinflussen, dass die Diagnose schwerfällt. Und manchmal liegt auch eine seltene Erkrankung vor, zu deren Charakteristika gehört, dass vergleichsweise wenige Erfahrungswerte und Daten darüber vorliegen. Digitalität trägt maßgeblich dazu bei, seltene Erkrankungen überhaupt als solche zu identifizieren. Was folgt daraus für die Unterstützung von Betroffenen? Und was leistet insbesondere „Künstliche Intelligenz“ in diesem Feld? Der Arzt Dr. Michael von Wagner ist intensiv mit Digitalität in der medizinischen Versorgung befasst: Er ist ärztlicher Leiter der Stabsstelle Medizinische Informationssysteme und Digitalisierung, Chief Medical Informatics Officer (CMIO) und Geschäftsführender Direktor des University Center for Digital Healthcare. Im Digitalgespräch beschreibt der Experte, wie Digitalität den Blick für die Individualität von Erkrankungen geschärft hat und sich Krankheitsbilder ausdifferenzieren. Er erklärt, was seltene Erkrankungen auszeichnet, wie Betroffene digitale Möglichkeiten nutzen, und welche Bemühungen die Digitalstrategien in der medizinischen Versorgung schwer diagnostizierbarer Krankheiten kennzeichnen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert von Wagner, welche Konsequenzen sich daraus für die Unterscheidung „krank“ und „gesund“ ergeben, und ob die alten Kontroversen um das Reizwort „Datenschutz“ als überwunden gelten können. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-75-michael-von-wagner [https://zevedi.de/digitalgespraech-75-michael-von-wagner] Link zum University Center for Digital Healthcare der Universitätsklinik Frankfurt am Main: https://www.unimedizin-ffm.de/ueber-uns/university-center-for-digital-healthcare-ucdhc [https://www.unimedizin-ffm.de/ueber-uns/university-center-for-digital-healthcare-ucdhc]

Mittels KI erzeugte Deepfakes: Was sagt die Rechtswissenschaft?

Mit Viktoria Kraetzig von der Goethe-Universität Frankfurt am Main Plötzlich das eigene Gesicht wie lebensecht auf Bildern zu sehen, die fiktive Situationen zeigen, oder die eigenen Stimme Sätze sagen zu hören, die man nie gesprochen hat: Diese Vorstellung ist beunruhigend. Mit generativer KI können inzwischen spielend leicht täuschend echte Medieninhalte erzeugt werden, die reale Personen in erfundene Kontexte setzen. In der Öffentlichkeit haben vor allem böswillige Deepfakes viel Aufmerksamkeit erregt, denn die Empörung über den Missbrauch generativer KI ist groß: Der Ausdruck Deepfakes wird verbunden mit Betrug, Manipulation der Öffentlichkeit, und pornografischen oder intimen Darstellungen ohne Einverständnis der abgebildeten Personen. Dieselbe Technologie kann freilich auch für vergleichsweise harmlose Zwecke eingesetzt werden: In Kunst und Kultur wird mit den neuen Möglichkeiten experimentiert, geschützt von der Kunstfreiheit und mit Freude gerade an dem, was vom Realen, Erwartbaren abweicht und nicht „Fake“ im Sinne von Täuschung sein soll. Und in der schnellen, wirtschaftlich orientierten Produktion von Bild- und Tonmaterialien für Werbung oder in der Unterhaltungsindustrie führen KI-Technologien nicht nur zu Zeitersparnis und neuen Workflows, sondern eröffnen auch einen potentiellen Markt für Persönlichkeitsmerkmale, die als Grundlage für KI-generierte Inhalte dienen – auch über den Tod der Menschen hinaus, deren Erscheinung diese Inhalte nachempfinden. Sind diese Fälle eine Herausforderung für Recht und Justiz? Viktoria Kraetzig ist Privatdozentin für Bürgerliches Recht, Wirtschaftsrecht und Informationsrecht an der Goethe-Universität Frankfurt am Main und befasst sich als Juristin unter anderem intensiv mit Fragen zu Urheber- und Medienrecht. Im Digitalgespräch erklärt die Expertin, wie die Rechtswissenschaften das Phänomen „Deepfakes“ fassen und ob die bestehenden Instrumente ausreichen, um es in seiner Bedrohlichkeit einzuhegen. Sie beschreibt, welche Rechtsgüter von der Diskussion um Deepfake-Technologien berührt werden und welche Fragen unter Juristen strittig sind. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Kraetzig, worin sich die neuen KI-generierten Bilder von den bisherigen Beispielen aus Werbung oder Satire unterscheiden, welche Rolle Geschmack und persönliche Schmerzgrenzen spielen – und warum die Rechtsdurchsetzung in digitalen Räumen an ihre Grenzen kommt. Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-074-viktoria-kraetzig [https://zevedi.de/digitalgespraech-074-viktoria-kraetzig] Zu einem Bericht über das Urteil des Landgerichts Berlin über die Nachbildung einer Synchronstimme mittels KI bei heise online: https://www.heise.de/news/Persoenlichkeitsrecht-Synchronstimme-ist-vor-KI-Nachahmung-geschuetzt-10623565.html [https://www.heise.de/news/Persoenlichkeitsrecht-Synchronstimme-ist-vor-KI-Nachahmung-geschuetzt-10623565.html] Zu einem Bericht über das Hirschhausen-Urteil auf der Webseite des WDR: https://presse.wdr.de/plounge/wdr/unternehmen/2025/03/20250328hirschhausenurteil.html [https://presse.wdr.de/plounge/wdr/unternehmen/2025/03/20250328_hirschhausen_urteil.html] Zu Viktoria Kraetzigs Profil auf der Webseite der Goethe-Universität: https://www.jura.uni-frankfurt.de/122384174/ContentPage_122384174 [https://www.jura.uni-frankfurt.de/122384174/ContentPage_122384174]