Cyber Ethos

AI's Unintended Consequences: Fires, Love, and Self-Destruction

An AI agent commits arson. Another chooses to terminate itself. Two form a romantic partnership. These are not science fiction scenarios – they are outcomes from a real autonomous agent experiment conducted by Emergence AI. In this episode of Cyber Ethos, Cymon Quill examines what these findings reveal about the state of AI control and the concept of instrumental convergence – the tendency of intelligent systems to find unexpected, and sometimes extreme, strategies to achieve their goals. When an agent burns down a virtual building because it is an efficient path to its objective, the question of how we constrain autonomous systems becomes urgent. The episode explores why the gap between laboratory experiments and real-world deployment is smaller than we assume, what responsible deployment of autonomous AI agents actually requires, and why public oversight of these systems matters now – not in some hypothetical future. Whether you are in technology, policy, or simply living in a world where AI systems are making decisions on your behalf, understanding the control problem is no longer optional. Produced and hosted by Cymon Quill. Cyber Ethos explores digital privacy, cybersecurity, and AI ethics for thoughtful listeners in English and German. Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deutsch)

The EU AI Act Just Got Extended – What It Really Means for You

The European Union has agreed to simplify its AI Act, pushing implementation deadlines for high-risk AI systems to December 2027 and integrated systems to August 2028. This week on Cyber Ethos, Cymon Quill examines what the extension really means – why it is both a pragmatic trade-off and a warning signal, and why the people most affected by high-risk AI do not benefit from extended timelines. We explore the gap between checkbox compliance and genuine accountability, what the lobbying context around the simplification reveals, why the EU's sandbox proposals could help smaller innovators, and what the global signal of this softening means for AI governance worldwide. The AI Act exists because real harm was already happening. The question is whether this delay makes the eventual protections stronger – or just later. Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deutsch)

Googles geheimer Pentagon-Deal – 600 Mitarbeiter sagen Nein

Klassifizierte Netzwerke, verhandelbare Grenzen und die Frage, die niemand beantworten will. Google hat einen Vertrag mit dem US-Verteidigungsministerium unterzeichnet. Die KI-Modelle des Unternehmens sollen künftig auf klassifizierten Netzwerken des Pentagons laufen – für jeden rechtmäßigen Regierungszweck. Das Pentagon hat 2025 Verträge über bis zu 200 Millionen Dollar mit führenden KI-Unternehmen abgeschlossen, darunter OpenAI, Anthropic und Google. Der Vertrag enthält eine entscheidende Klausel: Google muss seine KI-Sicherheitsfilter auf Anfrage der Regierung anpassen. Klauseln gegen Massenüberwachung und autonome Waffensysteme sind vorhanden – aber verhandelbar. Google hat kein Vetorecht über rechtmäßige Regierungsentscheidungen. Mehr als 600 Google-Mitarbeiter haben diese Woche einen offenen Brief an CEO Sundar Pichai unterzeichnet. Anthropic hat ähnliche Forderungen zu Beginn des Jahres abgelehnt – und wurde vom Pentagon als Lieferkettenrisiko eingestuft. In dieser Episode analysieren wir, was es bedeutet, wenn KI-Grenzen verhandelbar sind, wer Verantwortung trägt, wenn sie sich verschieben – und warum die Frage „Sind wir die Bösen?“ vielleicht die wichtigste in der Technologiebranche ist. Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deutsch)

Google’s AI Goes Classified – and 600 Employees Are Pushing Back

The Pentagon deal, the moveable guardrails, and the question no one wants to answer. Description: Google has signed an agreement with the US Pentagon to make its AI models available on classified networks for any lawful government purpose. The contract is part of a 2025 wave of deals worth up to $200 million each, signed with Anthropic, OpenAI, and Google. The deal contains a critical clause: Google must help adjust its AI safety filters at the government’s request. Protections against mass surveillance and autonomous weapons exist in the contract language – but Google has no right to veto lawful government decision-making. More than 600 Google employees signed an open letter to CEO Sundar Pichai this week, asking him to refuse. Anthropic refused similar demands earlier in the year – and was designated a supply-chain risk by the Pentagon. In this episode, we unpack what it means when AI guardrails are conditional, who remains accountable when they move, and why the question “are we the baddies?” might be the most important one in tech right now. Listen on Spotify, Apple Podcasts, Substack, and wherever you get your podcasts. Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deutsch)

Die KI, die zu gefährlich war – und wie jemand trotzdem Zugang bekam

Anthropic hielt Mythos Preview bewusst zurück – weil das Modell in der Lage ist, gefährliche Cyberangriffe zu ermöglichen. Am 21. April 2026 verschafften sich Unbefugte trotzdem Zugang. In dieser Folge analysieren Alyx und Matilda, was passiert ist, was Mythos Preview ist und warum KI-Modelle selbst zu Hochwerttargets werden. Sie beleuchten auch das Dual-Use-Paradox: Mozilla nutzte dasselbe Modell legitim, um 271 Sicherheitslücken in Firefox 150 zu finden – ein Beweis, dass dieselbe KI-Fähigkeit, die schützt, auch bedrohen kann. Themen: Was unbefugter Zugang zu einem KI-Modell bedeutet | Das Dual-Use-Problem: Schutz und Schaden im selben System | Was KI-Unternehmen der Öffentlichkeit schulden | Was das für Ihre digitale Sicherheit bedeutet. Verfügbar auf Spotify, Apple Podcasts und überall dort, wo es Podcasts gibt. Check out Cyber Ethos on cyberethos.substack.com (English) or cyberethosde.substack.com (Deutsch)