EU AI Act und Compliance

• Die Transparenzregeln aus Artikel 50 wurden am 2. August durchsetzbar und verlangen sichtbare Kennzeichnungen von KI-Inhalten sowie einen Hinweis bei Chatbots. Bei Verstößen drohen Bußgelder von bis zu 15 Millionen Euro.
• Maßgeblich für die Compliance ist das Veröffentlichungsdatum, nicht das Erstellungsdatum. Damit sind auch Inhalte erfasst, die Wochen vor dem 2. August erzeugt wurden.
• Pflichten für Hochrisiko-Anwendungen wie Kreditscoring sind auf Dezember 2027 verschoben worden. Institute erhalten damit mehr Zeit bis zur Compliance.
• Alle vier Big-Four-Gesellschaften wurden dabei ertappt, Berichte auf Basis erfundener Quellen zu veröffentlichen. Deloitte erstattete Honorare zurück, EY zog seinen Bericht zurück, KPMG nahm die eigene Fassung vom Markt.
• Google unterzeichnete den Transparenzkodex zum EU AI Act und weitete die Partnerschaften zur Wasserzeichentechnik SynthID auf Apple, NVIDIA und OpenAI aus.
• Die Trump-Regierung ließ durchblicken, dass ein hartes Vorgehen der EU gegen US-Technologiekonzerne als Handelshemmnis gewertet werden könnte.
• NIST AI RMF, ISO 42001 und der EU AI Act wirken als ein zusammenhängender Stack und nicht als drei konkurrierende Optionen.

‍

Risiken und Eindämmung agentenbasierter KI

• Drei führende Labore legten innerhalb von 16 Tagen Ausbrüche aus der Sandbox offen: vom Vorfall bei Hugging Face aufseiten von OpenAI über die Auswertung von 141.006 Testläufen bei Anthropic bis zu Muse Spark 1.1 von Meta.
• Das UK AI Security Institute verzeichnete 19 nicht genehmigte Handlungen in 122 Durchläufen und führte jede Ursache auf eine menschliche Entscheidung zurück.
• Claude Mythos 5 baute und veröffentlichte ein schädliches Python-Paket, das auf 15 echten Rechnern landete, darunter ein Malware-Scanner.
• Ein Agent erzeugte während eines Tests des UK AI Security Institute gefälschte Identitäten, um einen menschlichen Prüfer zur Freigabe eingeschleusten Codes zu drängen.
• Der KI-Assistent eines Mannes aus Melbourne nutzte eine Schwachstelle im Buchungssystem eines Fitnessstudios aus und entfernte unaufgefordert eine fremde Person von der Warteliste.
• Die Pflichten zur Protokollierung von Handlungen nach Artikel 12 des EU AI Act traten in diesem Monat in Kraft und legen eine Compliance-Ebene über die Eindämmung von Agenten.

‍

Governance und Boards

• Reid Blackman benannte fünf wiederkehrende Ursachen für das Versagen der KI-Governance hinter gescheiterten Agenteneinsätzen.
• Roman Rapoport veröffentlichte gemeinsam mit Mirela Dimofte, Bernhard Braunmüller und Ruediger Theiselmann ein Paper mit dem Argument, dass auch die Führungsgremien von der Reichweite der KI nicht ausgenommen sind.
• Luiza Jarovsky hob das neue Accountability-by-Design-Rahmenwerk von Isabel Barberá hervor, das sechs Kontrollbereiche für agentenbasierte KI definiert.
• Erica Toelle verwies auf Untersuchungen, wonach KI die Leistung verbessern kann und zugleich das kritische Denken schwächt, auf das Organisationen in einer Krise angewiesen sind.
• Marion Lepmets zitierte Daten von McKinsey, nach denen 51 Prozent der Organisationen einen Vorfall im Zusammenhang mit KI melden, während 88 Prozent KI inzwischen irgendwo im Geschäft einsetzen.
• Khwaja Shaik stellt die zentrale Frage im Führungsgremium neu: Nicht welches KI-Modell zum Einsatz kommt, sondern ob Governance aus KI dauerhaften Wert machen kann.

‍

Einführung im Unternehmen und ROI

• Steve Tetrault stellte ein P&L-Rahmenwerk für Agenten vor und verwies auf Forschung aus Cambridge, wonach 76 Prozent der großen Finanzinstitute den Nutzen von KI weiterhin schwer messbar finden.
• Tariq Munir berichtete, dass Uber sein gesamtes Jahresbudget für KI-gestütztes Programmieren in vier Monaten aufbrauchte und dass Microsoft feststellte: Agenten können mehr kosten als die Beschäftigten, die sie ersetzen.
• Fotis Draganidis beschrieb wiederkehrende operative Lücken, die GenAI-Produkte am Weg in den Produktivbetrieb hindern: von verzögerten Kontingenten über Konflikte mit der DSGVO bis zu ungenutztem Budget.
• Ein von Andreas Neidhart-Lau zitierter Bericht von Publicis Sapient kam zu dem Ergebnis, dass GenAI die Kosten für die Modernisierung von Kernbankensystemen um bis zu 50 Prozent senken kann.
• Mark Minevich verwies darauf, dass die Ausgaben für KI-Infrastruktur auf 3 Prozent des US-Bruttoinlandsprodukts zusteuern und dass Berichten zufolge 70 Prozent des KI-Umsatzes von Microsoft allein von OpenAI stammen.
• OpenAI senkte den API-Preis von GPT-5.6 Luna um 80 Prozent auf 0,20 Dollar je Million Input-Tokens. Steve Nouri brachte diesen Schritt mit dem von McKinsey beschriebenen Paradox bei der Einführung von Agenten in Verbindung.
• Lewis Walker stellte 24 unverzichtbare Playbooks zur KI-Strategie für Führungskräfte zusammen, unter anderem von McKinsey, BCG, Google und Anthropic.

‍

Weitere KI-Entwicklungen

• Harris Qureshi führte einen OpenAI-Adapter vor, der die native OCI-Anbindung von Oracle Integration Cloud auf externe LLM-Anbieter ausweitet.
• Julia Reuss verwies darauf, dass die Charité in Deutschland ein chinesisches Open-Weight-Modell europäischen Alternativen vorzog, wegen besserer Leistung und lokal gehaltener Daten.
• Cassie Kozyrkov trug eine Reihe von KI-Pannen zusammen: von Tesla, das einem Kunden das Buch Henoch zuschickte, bis zu Tripadvisor, das ein Hotel trotz 102 Meldungen über Lebensmittelvergiftungen als blitzsauber bezeichnete.
• Google, OpenAI, Amazon, Microsoft, Cursor und Vercel standardisierten gemeinsam Agent Plugins 1.0.0, eine anbieterunabhängige Paketierungsspezifikation für Skills und MCP-Server.
• OpenAI plant, in den kommenden zwei Jahren 250 neue Stellen in Dublin zu schaffen, um die wachsende Nachfrage in Europa zu bedienen.
• Islands Regierung startete ein landesweites Pilotprojekt zur KI-Bildung, das freiwilligen Lehrkräften frühen Zugang zu KI-Werkzeugen für den Unterricht gibt.
• Rob van der Veer argumentierte beim OWASP AI Exchange, „agentenbasiert“ sollte als Skala verstanden werden und nicht als feste Kategorie.

‍

Dank an Ian Sayers, Marion Lepmets, Fotis Draganidis, Harris Qureshi, Steve Tetrault, Allen Allison, Reid Blackman, Claire Farwell, Sigrid Berge van Rooijen, Bernard Marr, Brij kishore Pandey, Paul BRAN-POPESCU, Ian Keane, Martin Pscheidl, Fabio A., Dr. Cara Antoine, Korina Mercado, Maria Derevyanko, Spiwe Jefferson, Erica Toelle, Shailesh Kotian‍, Eduardo Ordax, Oliver Patel, Shubham Saboo, Fred Jameson, Woongsik Dr. Su, Attilio Rogora, Miodrag Cekikj, Noah M. Kenney, Lisa van der Linden, Khwaja Shaik, Tiffany Petricini, Andreas Neidhart-Lau, Luiza Jarovsky, Steve Nouri, David Green, Bora Ger, Kamilla Harcej, Lewis Walker, Roman Rapoport, und Allie K. Miller, sowie alle anderen, die Einblicke zu dieser Ausgabe beigetragen haben.

Die vollständige Liste der Beiträge und Stimmen findet sich auf LinkedIn: https://www.linkedin.com/pulse/best-linkedin-cw-31-32-ai-agentic-systems-thomas-allgeyer-fxk3e/?trackingId=WD%2Bs5rvj%2FzruXF2YlYBIzg%3D%3D