Mensch, Maschine!

Warum Sprachmodelle bei Schlussfolgerungen stolpern und wie wir wirklich zuverlässige Assistenten bauen könnten Sprachmodelle sollen bald alles können, was Mitarbeiter im Homeoffice können. AutoGPT & Co zeigen schon jetzt, was möglich ist, wenn die künstlichen Assistenten selbst Aufgaben abarbeiten, Mails schreiben und Konten managen. Aber bisher muss ein Mensch jede Aktion gegenprüfen, weil die für LLMs typischen Halluzinationen in der Interaktion mit der realen Welt zur Gefahr werden. Doch lassen sich diese verhindern? Können wir wirklich zuverlässige Sprachmodelle schaffen, die Ärztinnen, Anwälte und Verwaltungsbeamte ersetzen können. Nur, wenn wir verschiedene KIs miteinander kreuzen. Sogenannte „hybride KI“ könnte viele Jobs ersetzen — wenn sie gelingt. Links & Literatur Long Ouyang et al. [https://arxiv.org/abs/2203.02155] versuchen in dieser Studie herauszufinden, warum es wichtig ist, nach der Meditation Socken zu essen. Oder besser gesagt: Warum Sprachmodelle das glauben. Wie Chain-of-thought-Prompting bei LLMs die Fähigkeit zur Schlussfolgerung verbessert zeigen Jason Wei et. al [https://arxiv.org/abs/2201.11903]. Erik Zelikman et al. [https://arxiv.org/abs/2203.14465] hoffen darauf, dass sich die Maschine durch Beispielschlussfolgerungen selbst im Schlussfolgern verbessern kann. Aber auch diese Lösung hat einige Schwächen. Hybride KI [https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/PLS_KI_Kompakt_Hybride_KI.pdf] könnte formale Wissenssysteme mit Sprachmodellen integrieren und so zuverlässige aber dennoch vielseitige Assistenten ermöglichen. Ein ganz ähnliches Konzept verfolgt das Prinzip des thinking-on-graph [https://arxiv.org/abs/2307.07697]. AutoGPT [https://de.wikipedia.org/wiki/Auto-GPT] verbindet das Sprachmodelle GPT bereits interaktiv mit dem Netz, sodass es als Assistent selbstständig Aufgaben zerlegen und ausführen kann — ähnlich wie ein/eine Mitarbeiter/in im Homeoffice. Nur, dass es dafür noch viel zu viele Fehler [https://www.youtube.com/watch?v=MwlKlC2gBSs&vl=de] macht. Credits Trefft mich auf Bluesky [https://bsky.app/profile/pankow.bsky.social] oder Twitter [https://twitter.com/mads_pankow]. Vielen herzlichen Dank an Johann Niegl [http://www.johann-niegl.de/] für die Titelmusik und Hans-Jakob Gohr [https://hansgohr.de/] für die Covergestaltung. <3

Wie funktionieren Midjourney & Co? Ich habe immer behauptet, KI könne keine realistischen Bilder generieren, weil ihr ein Bewusstsein der Welt fehle. Nun haben Diffusionesmodelle diese Behauptung wiederlegt. Bedeutet das, dass die KI ein Weltbewusstsein entwickelt hat? Vielleicht. Vielleicht muss man von der Welt aber auch gar nichts wissen, um sie abzubilden. In dieser Folge erkläre ich, wie Bildgeneratoren funktionieren und warum deren Architektur mich gleich mehrfach überrascht hat. Links & Literatur Wie das Papstbild [https://www.chicagotribune.com/people/ct-chicago-artist-viral-ai-pope-francis-puffer-20230330-3uxq3nk6svgqpihoy46b2y7jwq-story.html] in die Welt kam. Helmut Linde erklärt Bildgeneratoren [https://www.golem.de/news/kuenstliche-intelligenz-so-funktionieren-ki-bildgeneratoren-2305-174436.html]. Mike Pound erklärt DeepDream [https://www.youtube.com/watch?v=BsSmBPmPeYQ]. Bildgeneratoren funktionieren ähnlich wie ein Rorschachtest [https://de.wikipedia.org/wiki/Rorschachtest] + Suggestion. Sybille Krämer erklärt warum der Digitalität eine Wirklichkeitsdimension fehlt [https://www.youtube.com/watch?v=PnztEDWhmPs&list=PLVR6MM6mHmBRtvYlP_bF6qTP3YomEwGqE&index=13]. Credits Trefft mich auf Bluesky [https://bsky.app/profile/pankow.bsky.social] oder Twitter [https://twitter.com/mads_pankow]. Vielen herzlichen Dank an Johann Niegl [http://www.johann-niegl.de/] für die Titelmusik und Hans-Jakob Gohr [https://hansgohr.de/] für die Covergestaltung. <3

Wie retten wir uns vor vollautomatisierter Propaganda? Mit generativer KI lassen sich nicht nur Texte und Bilder auf Knopfdruck zu tausenden produzieren, auch Profilinhalte und Accounts können von Assistenten wie AutoGPT & Co automatisch erstellt werden. Wir sind im Zeitalter der vollautomatisierten Propaganda angekommen. Wie gefährlich sind diese Manipulationen, was bedeutet das für uns persönlich, vor allem aber für den öffentlichen Diskurs, für die Demokratie und wie können wir uns und unsere Gesellschaft vor Manipulation schützen? Links und Literatur President Death Match bei Minecraft [https://twitter.com/itsandrewgao/status/1637340703163555841] Trotz aller Sicherheitsmaßnahmen auch ChatGPT lässt sich für die Produktion von Falschinformation [https://www.zeit.de/digital/2023-01/chatgpt-fake-news-desinformation-newsguard] einsetzen. Spear fishing Betrug durch gefakete Anrufe [https://www.sueddeutsche.de/digital/ki-deepfake-versicherung-betrug-1.4493902]. Längerer Artikel zur technischen Funktionsweise von DeepFakes [https://knightcolumbia.org/content/how-to-prepare-for-the-deluge-of-generative-ai-on-social-media] Microsofts Vall-E soll ein drei Sekunden Audio [https://www.golem.de/news/microsoft-drei-sekunden-aufnahme-soll-reichen-um-stimme-zu-imitieren-2301-171076.html] reichen, um eine Stimme zu immitieren. Die Mediengeschichte ist eine Geschichte der Fälschungen, wie dieses Forschungsprojekt [https://www.literaturhaus-stuttgart.de/event/flugblaetter-und-fake-news-ueber-einblattdrucke-aus-der-fruehzeit-des-buchdrucks-4427.html] oder dieser frühe Film [https://www.youtube.com/watch?v=nXbjYaXVVqM&list=PL0AF02C8E6F4DA958] zeigen. Schon [Hassrede im Netz](https://www.sueddeutsche.de/politik/hassrede-boehmermann-polizei-zdf-magazin-royale-1.5593282 [https://www.sueddeutsche.de/politik/hassrede-boehmermann-polizei-zdf-magazin-royale-1.5593282] ) wird von den Ordnungsbehörden kaum verfolgt, wie kollte das dann mit Fake News und Deep Fakes klappen? Credits Trefft mich auf Mastodon [https://social.tchncs.de/web/@madspankow] oder Twitter [https://twitter.com/mads_pankow]. Vielen herzlichen Dank an Johann Niegl [http://www.johann-niegl.de/] für die Titelmusik und Hans-Jakob Gohr [https://hansgohr.de/] für die Covergestaltung. <3

Der Serviceteil: Wie nutzt man LLMs in Arbeit und Alltag Wo kann ChatGPT mir bei der Erstellung von Texten helfen, wie schreibt man Code mit LLMs und warum ist es sinnvoll, eine KI mit dem Output einer anderen zu füttern? Im dritten Teil der Sonderstaffel zum Thema Large Language Models & Co berichte ich, wie man die Technologie heute schon in Alltag und Beruf nutzen kann und wie man lernt, prompts zu schreiben. Links und Literatur Vom Kühlschrankfoto zum Rezept [https://twitter.com/sudu_cb/status/1636080774834257920]. So sah das menschliche Trainingslager von ChatGPT [https://www.golem.de/news/kuenstliche-intelligenz-so-funktioniert-chatgpt-2302-171644-6.html] aus. Bewerbungen schreiben [https://t3n.de/news/chatgpt-verfass-anschreiben-ki-bewerbung-personaler-reaktion-1529440/] mit ChatGPT. Ethan Mollik lässt die KI eine Marktanalyse + Designauftrag [https://twitter.com/emollick/status/1639094707795165184?t=8D6h8afRDSuKcyv382iaAw&s=09] für Uhren erstellen. Jack Roberts erklärt reverse prompt engineering [https://www.youtube.com/watch?v=vZauEwMxWq4&t=598s]. Liste mit aktuellen ChatGPT-Plugins [https://openai.com/blog/chatgpt-plugins]. Liste mit ausgewählten Use-Cases für ChatGPT [https://cookup.ai/chatgpt/usecases/]. Credits Trefft mich auf Mastodon [https://social.tchncs.de/web/@madspankow] oder Twitter [https://twitter.com/mads_pankow]. Vielen herzlichen Dank an Johann Niegl [http://www.johann-niegl.de/] für die Titelmusik und Hans-Jakob Gohr [https://hansgohr.de/] für die Covergestaltung. <3

„Not AI, but the guy using AI will take your job.“ Endlich, die menschenähnlichen KI-Assistenten sind da. Doch was bedeutet das für unsere Arbeitswelt. Wie verändern sie unseren Alltag, unsere Bildung unsere Jobs, ja ganze Branchen? Und natürlich immer die Frage, wenn die so vieles so gut können: Was bleibt am Ende noch für uns zu tun? Links und Literatur „AI will not replace you. A person using AI will“, lautet das Zitat von Santiago [https://twitter.com/svpino/status/1610984481342771200?lang=de] eigentlich richtig, pardon. Der neue super future mega Skill: prompt-engineering [https://de.wikipedia.org/wiki/Prompt_Engineering] Michael Seemann behauptet: LLMs zerstören die „Bullshit Jobs“. [https://twitter.com/mspro/status/1631993441990131715?t=FACkYSoVlzF0oNXEBc7ouw&s=09] Kevin Cannon sagt: LLMs werden unsere Kommunikation encoden aber auch decoden [https://twitter.com/multikev/status/1616784555788075009/photo/1]. Am Ende bleibt ein Nullsummenspiel. Teresa Kubacka stellt fest: LLMs erfinden wissenschaftliche Quellen [https://twitter.com/paniterka_ch/status/1599893718214901760] Es gibt smarte Versuche die Ergebnisse von LLMs mit Watermarks [https://www.youtube.com/watch?v=XZJc1p6RE78] zu versehen, um ihre Produkte erkennbar zu machen. Wie sicher das wäre ist jedoch zweifelhaft, wie Mike Pound erklärt. Hier eine Liste von Jaibreaks für ChatGPT [https://www.mlyearning.org/how-to-jailbreak-chatgpt/], um zum Beispiel Zukunftsprognosen machen lassen zu können. Credits Trefft mich auf Mastodon [https://social.tchncs.de/web/@madspankow] oder Twitter [https://twitter.com/mads_pankow]. Vielen herzlichen Dank an Johann Niegl [http://www.johann-niegl.de/] für die Titelmusik und Hans-Jakob Gohr [https://hansgohr.de/] für die Covergestaltung. <3