SWR Aktuell Im Gespräch

OpenAI greift Hugging Face an: Eine KI bricht aus

5 min · 22. juli 2026
Forsidebilde av episoden OpenAI greift Hugging Face an: Eine KI bricht aus

Beskrivelse

"Es geht hier um das neue Modell des KI-Anbieters OpenAI, ChatGPT-5.6 mit dem Namen Sol. Es ist ganz normal, dass Unternehmen testen, wie leistungsfähig und wie gefährlich solche Modelle sind," erklärt Winkler. Sol habe in diesem Szenario fortgeschrittene Hackerangriffe entwickeln sollen. Das System wird dann in einer sogenannten Sandbox getestet, also einer sicheren Umgebung, aus der die KI eigentlich nicht ausbrechen kann - zumindest in der Theorie. "Diese KI war gleich doppelt kreativ. Sie hat nämlich recherchiert, wo sie die meisten Infos über Sicherheitslücken herbekommt. Dann hat sie sich Hugging Face ausgesucht. Das ist eine Art Online-Bibliothek für KI-Programme. Und um an diese Infos zu kommen, hat Sol erst die Schutzmechanismen seiner eigenen Testumgebung ausgehebelt und dann Hugging Face angegriffen." HABEN DIE ENTWICKLER IHRE EIGENE KI UNTERSCHÄTZT? "Das ist zumindest möglich. Allerdings haben Forschende schon vor einiger Zeit davor gewarnt, dass KIs aus ihren Sandboxen ausbrechen können." In diesem Fall wurde die KI allerdings auch dazu ermutigt. Dass eine Künstliche Intelligenz das von sich aus macht, hält Winkler für unwahrscheinlich. "KI handelt ja nicht selbständig, da ist immer noch ein Mensch dahinter, der den Auftrag gibt." OPENAI HAT DEN VORGANG VON SICH AUS OFFENGELEGT "Ich würde behaupten, dass Marketing dabei eine große Rolle gespielt hat. Natürlich werden KI-Systeme immer besser, aber die Entwicklerfirmen übertrumpfen sich auch mit solchen Geschichten." Vor einem halben Jahr gab es den Fall bei Anthropic, dass das neueste Modell Mythos nur eingeschränkt veröffentlicht hat. Grund waren angeblich zehntausende Sicherheitsprobleme für andere Systeme. Davon seien bis heute aber nur wenige bestätigt worden, sagt Winkler. KI-FIRMEN VERDIENEN BISHER NOCH KEIN GELD "Geschichten wie die von Anthropic und OpenAI sollen sagen: Wir haben das beste Modell, bitte werdet unsere Kunden! Die KI-Firmen verdienen nämlich noch gar kein Geld. Dazu kommt das Problem – vor allem für amerikanische Firmen: Jetzt steigt auch noch China ein. Staatspräsident Xi höchstpersönlich hat gerade erst eine Strategie ausgerufen, mehr KI-Software weltweit kostenlos und öffentlich zugänglich zu machen." Das sei nichts anderes als eine Kampfansage an die USA, sagt Winkler. Denn die chinesischen Modelle seien zwar noch nicht auf Augenhöhe mit den amerikanischen Systemen, aber fast.

Kommentarer

0

Vær den første til å kommentere

Registrer deg nå og bli medlem av SWR Aktuell Im Gespräch sitt community!

Prøv gratis

Prøv gratis i 14 dager

99 kr / Måned etter prøveperioden. · Avslutt når som helst

  • Eksklusive podkaster
  • 20 timer lydbøker i måneden
  • Gratis podkaster

Alle episoder

10239 Episoder

Forsidebilde av episoden OpenAI greift Hugging Face an: Eine KI bricht aus

OpenAI greift Hugging Face an: Eine KI bricht aus

"Es geht hier um das neue Modell des KI-Anbieters OpenAI, ChatGPT-5.6 mit dem Namen Sol. Es ist ganz normal, dass Unternehmen testen, wie leistungsfähig und wie gefährlich solche Modelle sind," erklärt Winkler. Sol habe in diesem Szenario fortgeschrittene Hackerangriffe entwickeln sollen. Das System wird dann in einer sogenannten Sandbox getestet, also einer sicheren Umgebung, aus der die KI eigentlich nicht ausbrechen kann - zumindest in der Theorie. "Diese KI war gleich doppelt kreativ. Sie hat nämlich recherchiert, wo sie die meisten Infos über Sicherheitslücken herbekommt. Dann hat sie sich Hugging Face ausgesucht. Das ist eine Art Online-Bibliothek für KI-Programme. Und um an diese Infos zu kommen, hat Sol erst die Schutzmechanismen seiner eigenen Testumgebung ausgehebelt und dann Hugging Face angegriffen." HABEN DIE ENTWICKLER IHRE EIGENE KI UNTERSCHÄTZT? "Das ist zumindest möglich. Allerdings haben Forschende schon vor einiger Zeit davor gewarnt, dass KIs aus ihren Sandboxen ausbrechen können." In diesem Fall wurde die KI allerdings auch dazu ermutigt. Dass eine Künstliche Intelligenz das von sich aus macht, hält Winkler für unwahrscheinlich. "KI handelt ja nicht selbständig, da ist immer noch ein Mensch dahinter, der den Auftrag gibt." OPENAI HAT DEN VORGANG VON SICH AUS OFFENGELEGT "Ich würde behaupten, dass Marketing dabei eine große Rolle gespielt hat. Natürlich werden KI-Systeme immer besser, aber die Entwicklerfirmen übertrumpfen sich auch mit solchen Geschichten." Vor einem halben Jahr gab es den Fall bei Anthropic, dass das neueste Modell Mythos nur eingeschränkt veröffentlicht hat. Grund waren angeblich zehntausende Sicherheitsprobleme für andere Systeme. Davon seien bis heute aber nur wenige bestätigt worden, sagt Winkler. KI-FIRMEN VERDIENEN BISHER NOCH KEIN GELD "Geschichten wie die von Anthropic und OpenAI sollen sagen: Wir haben das beste Modell, bitte werdet unsere Kunden! Die KI-Firmen verdienen nämlich noch gar kein Geld. Dazu kommt das Problem – vor allem für amerikanische Firmen: Jetzt steigt auch noch China ein. Staatspräsident Xi höchstpersönlich hat gerade erst eine Strategie ausgerufen, mehr KI-Software weltweit kostenlos und öffentlich zugänglich zu machen." Das sei nichts anderes als eine Kampfansage an die USA, sagt Winkler. Denn die chinesischen Modelle seien zwar noch nicht auf Augenhöhe mit den amerikanischen Systemen, aber fast.

22. juli 20265 min
Forsidebilde av episoden Das Comeback der Diddl-Maus: Darum fühlt sich Retro so gut an

Das Comeback der Diddl-Maus: Darum fühlt sich Retro so gut an

"Wir sind gerade in einer spannenden Zeit, in der eine vermeintlich bessere und heilere Vergangenheit eine große Faszination ausübt", erklärt Bremer. Die Lebenswelt der Menschen sei aktuell von Kriegen, der Klimakatastrophe, einer Migrationskrise und einer Politik geprägt, die sich nicht auf eine gemeinsame Lösung einigen könne. "Das überfordert, das verdrängt man gerne und sehnt sich dann nach einer vermeintlich besseren Welt der 90er, 80er oder 70er Jahre." Auch der Erfolg von Serien wie Downton Abbey aus dem 18. oder 19. Jahrhundert lasse sich damit erklären. RETRO IST EIN TREND, DER UNS AUFFÄNGT "Die Leute wollen halt nicht immer Krise, empfinden aber eine kognitive Dissonanz, wenn man im Hier und Jetzt auf heile Welt macht und alles ignoriert", sagt Bremer. Die Rama-Familie, die in den 90ern mit zwei Eltern und zwei Kindern lachend am Küchentisch gesessen habe, lasse sich heute nicht mehr verkaufen. "Das funktioniert aber sehr wohl, wenn ich das Ganze in eine Zeit verpflanze, in der alles scheinbar noch in Ordnung und einfacher war. Das übt momentan eine große Faszination auf die Menschen aus." BEWUSSTE FLUCHT VOR DER REALITÄT "Es sind im Prinzip Anleihen und Fossile einer schöneren, einfacheren Zeit. Wir sehen da paradoxerweise gerade bei der jüngeren Generation ein großes Interesse." Die Jugend fühle sich aktuell eher verloren und verzweifelt. Eine Rente ist nicht in Aussicht, eine Wohnung ist schwer zu bekommen, beim Klimawandel werden sie von der älteren Generation im Stich gelassen – Krieg und Krisen überall. "Da erscheinen die vergangenen Jahrzehnte im Rückblick wie ein großes Versprechen - auch wenn man sie gar nicht miterlebt hat." FRÜHER WAR GAR NICHT ALLES BESSER? "Wir schauen immer nur auf das, was auf die Menschen wirkt – was sie empfinden. Denn das ist letztlich ja die Realität, nach der sie ihr Verhalten und ihr Leben gestalten. Die Unlösbarkeit der aktuellen Krisen ist allerdings neu. Jede Krise taucht immer und immer wieder auf: Wenn das Ahrtal überschwemmt wird oder ein Wald abbrennt, ist es der Klimawandel. Wenn es neue Angriffe auf die Ukraine oder den Iran gibt, ist es der Krieg. Es kommt immer alles wieder, kein Problem wird gelöst." IST DIESE REALITÄTSFLUCHT EIN PROBLEM? "Man sagt ja, ein Laster braucht der Mensch", erklärt Bremer. Ihm gehe es nicht darum, andere zu verurteilen. Er wolle vielmehr lernen, Menschen zu verstehen. Alles, was den Menschen helfe und sie glücklich mache, sei aber sinnvoll. "Man muss allerdings aufpassen, dass man als Gesellschaft nicht in einer Art Nachspielzeit existiert." Es sei auch wichtig, eine Perspektive für die Zukunft zu entwickeln. Das könne nicht durch Diddl-Mäuse ersetzt werden. "Ich hab allerdings nichts gegen die Diddl-Maus!"

22. juli 20267 min
Forsidebilde av episoden Hitze schadet Ernte in Rheinland-Pfalz: Oliven und Zitronen als Lösung?

Hitze schadet Ernte in Rheinland-Pfalz: Oliven und Zitronen als Lösung?

Die Ernte in Rheinland-Pfalz fällt in diesem Jahr nach Einschätzung der Bauern- und Winzerverbände knapp unterdurchschnittlich aus. Eberhard Hartelt, Präsident des Bauern- und Winzerverbandes Rheinland-Pfalz Süd, sagt im Gespräch mit SWR Aktuell-Moderator Jonathan Hadem, vor allem spätere Kulturen hätten unter Hitze und Trockenheit gelitten. Die Ernte habe außerdem so früh begonnen wie selten zuvor. LANDWIRTSCHAFT PASST SICH AN DEN KLIMAWANDEL AN Laut Hartelts reagieren viele Betriebe bereits auf die veränderten Klimabedingungen. Sie setzen früher ausreifende und hitzetolerantere Sorten ein, darunter häufig Getreidesorten aus Frankreich. Ein grundlegender Wechsel zu mediterranen Kulturen wie Oliven oder Zitrusfrüchten sei jedoch keine realistische Option. Dafür fehlten neben geeigneten Standorten auch die notwendige Infrastruktur und Vermarktung. Hoffnung setzt die Branche auf neue Züchtungsmethoden, mit denen klimaresistentere Pflanzen schneller entwickelt werden könnten.

22. juli 20265 min
Forsidebilde av episoden Feuerwehr bereitet Führungskräfte auf Waldbrände vor

Feuerwehr bereitet Führungskräfte auf Waldbrände vor

Wald- und Vegetationsbrände beschäftigen die Feuerwehren auch in Baden-Württemberg zunehmend. Nach Angaben der Landesfeuerwehrschule sind es bislang vor allem Flurbrände auf Feldern, die häufiger werden. Im Gespräch mit SWR Aktuell-Moderator Jonathan Hadem sagt der stellvertretende Schulleiter Christoph Slaby, große Waldbrände seien im Südwesten bislang eher die Ausnahme. MENSCHEN HABEN OBERSTE PRIORITÄT Slaby zufolge werden Führungskräfte darauf vorbereitet, Brände strategisch zu bewerten und Prioritäten zu setzen. Oberstes Ziel sei immer der Schutz von Menschen, danach folgten wichtige Sachwerte. In bestimmten Situationen könne es deshalb sinnvoll sein, einen Wald- oder Vegetationsbrand zunächst kontrolliert brennen zu lassen, um etwa Siedlungen zu schützen oder das Feuer an einer günstigeren Stelle zu bekämpfen. Grundlage der Ausbildung sind unter anderem Planspiele, in denen unterschiedliche Einsatzszenarien durchgespielt werden.

22. juli 20265 min
Forsidebilde av episoden Alkoholverbot an Bahnhöfen: Wer soll das kontrollieren?

Alkoholverbot an Bahnhöfen: Wer soll das kontrollieren?

"Wir wissen, dass Alkohol Konflikte verschärfen kann. Die Frage ist, wer schützt die Beschäftigten, wenn die Lage eskaliert? Ein Alkoholverbot kann helfen, aber nur, wenn es dahinter ein wirkliches Sicherheitskonzept gibt", sagt Labonte. Es müsse konsequent, rechtssicher und mit ausreichend Personal umgesetzt werden. MAN RISKIERT NEUE KONFLIKTE "Wir können natürlich versuchen, das Hausrecht durchzusetzen, aber wenn kein Personal dafür da ist, wird die Situation nicht verbessert. Kolleginnen und Kollegen der Bundespolizei fragen jetzt schon, wer soll das kontrollieren? Und da müssten eigentlich schon die Alarmglocken klingeln", findet Labonte. Weder die Bahn noch die Bundespolizei hätten das Personal, um das Alkoholverbot komplett durchsetzen zu können. DAS THEMA IST NICHT NEU "Wir diskutieren jetzt schon seit mehreren Jahren über Sicherheit bei der Bahn. Es gibt dann kurzfristig Möglichkeiten, sich mal zusammenzusetzen und über Verbesserungen zu sprechen, aber langfristige Konzepte gibt es nicht." Nach dem Tod von Serkan Calar wurde eingeführt, dass Bahnmitarbeiter zu zweit unterwegs sein müssen. Das habe schon viel verändert, sagt Labonte. Man trete anders auf. "Um langfristig erfolgreiche Sicherheitskonzepte zu bekommen, braucht es aber einen noch größeren Schutz durch mehr Personal - auch bei der Bundespolizei."

I går5 min