SWR Aktuell Im Gespräch
"Es geht hier um das neue Modell des KI-Anbieters OpenAI, ChatGPT-5.6 mit dem Namen Sol. Es ist ganz normal, dass Unternehmen testen, wie leistungsfähig und wie gefährlich solche Modelle sind," erklärt Winkler. Sol habe in diesem Szenario fortgeschrittene Hackerangriffe entwickeln sollen. Das System wird dann in einer sogenannten Sandbox getestet, also einer sicheren Umgebung, aus der die KI eigentlich nicht ausbrechen kann - zumindest in der Theorie. "Diese KI war gleich doppelt kreativ. Sie hat nämlich recherchiert, wo sie die meisten Infos über Sicherheitslücken herbekommt. Dann hat sie sich Hugging Face ausgesucht. Das ist eine Art Online-Bibliothek für KI-Programme. Und um an diese Infos zu kommen, hat Sol erst die Schutzmechanismen seiner eigenen Testumgebung ausgehebelt und dann Hugging Face angegriffen." HABEN DIE ENTWICKLER IHRE EIGENE KI UNTERSCHÄTZT? "Das ist zumindest möglich. Allerdings haben Forschende schon vor einiger Zeit davor gewarnt, dass KIs aus ihren Sandboxen ausbrechen können." In diesem Fall wurde die KI allerdings auch dazu ermutigt. Dass eine Künstliche Intelligenz das von sich aus macht, hält Winkler für unwahrscheinlich. "KI handelt ja nicht selbständig, da ist immer noch ein Mensch dahinter, der den Auftrag gibt." OPENAI HAT DEN VORGANG VON SICH AUS OFFENGELEGT "Ich würde behaupten, dass Marketing dabei eine große Rolle gespielt hat. Natürlich werden KI-Systeme immer besser, aber die Entwicklerfirmen übertrumpfen sich auch mit solchen Geschichten." Vor einem halben Jahr gab es den Fall bei Anthropic, dass das neueste Modell Mythos nur eingeschränkt veröffentlicht hat. Grund waren angeblich zehntausende Sicherheitsprobleme für andere Systeme. Davon seien bis heute aber nur wenige bestätigt worden, sagt Winkler. KI-FIRMEN VERDIENEN BISHER NOCH KEIN GELD "Geschichten wie die von Anthropic und OpenAI sollen sagen: Wir haben das beste Modell, bitte werdet unsere Kunden! Die KI-Firmen verdienen nämlich noch gar kein Geld. Dazu kommt das Problem – vor allem für amerikanische Firmen: Jetzt steigt auch noch China ein. Staatspräsident Xi höchstpersönlich hat gerade erst eine Strategie ausgerufen, mehr KI-Software weltweit kostenlos und öffentlich zugänglich zu machen." Das sei nichts anderes als eine Kampfansage an die USA, sagt Winkler. Denn die chinesischen Modelle seien zwar noch nicht auf Augenhöhe mit den amerikanischen Systemen, aber fast.
10239 afleveringen
Reacties
0Wees de eerste die een reactie plaatst
Meld je nu aan en word lid van de SWR Aktuell Im Gespräch community!