KI-Governance und Verantwortung

• Shiva Varma von Gartner nennt eine binäre Agenten-Governance als Grundfehler und fordert Regeln je Autonomiestufe statt einer Regel für alle.
• Die Verantwortung für Agenten scheitert, wenn keine namentlich benannte Person für deren Entscheidungen einsteht.
• Die Risikoeinstufung nach Anwendungsfall aus dem EU AI Act greift nicht mehr, sobald das Risiko eines Agenten stattdessen von der übertragenen Autonomie abhängt.
• Wird das KI-Risiko getrennt vom operativen Geschäft verfolgt, bleibt unbeachtet, dass es tatsächlich ein operatives Risiko, ein Risiko durch Dritte oder eines für die Betriebskontinuität ist.
• Governance endet oft mit dem Einsatz und setzt erst wieder ein, wenn das Monitoring ein Problem meldet; die tatsächlichen Nutzer bleiben außen vor.
• Bei aktiver Durchsetzung des EU AI Act ist eine Richtlinienerklärung kein Prüfpfad.
• Wird Governance als internes Kontrollsystem verstanden, also wer das Risiko trägt, wer freigibt, was überwacht wird, lassen sich die Pflichten aus dem EU AI Act in die vertraute Sprache der Revision übersetzen.

‍

EU AI Act und Regulierung

• Die neuen Transparenzpflichten des EU AI Act wurden am 2. August unionsweit wirksam.
• Artikel 50 verlangt nun, den Einsatz von KI offenzulegen und die meisten KI-generierten Inhalte zu kennzeichnen.
• Anthropic begann am 2. August weltweit damit, Texte von Claude mit Wasserzeichen zu versehen und Herkunftsmetadaten zu signieren, um Artikel 50 zu erfüllen.
• Die Hochrisiko-Bestimmungen des EU AI Act traten am 2. August in Kraft und erfassen seither auch Kreditscoring und Betrugserkennung.
• prEN 18282, die Sicherheitsnorm hinter der Konformität mit dem EU AI Act, schloss die öffentliche Umfrage mit 1.817 Kommentaren ab.
• Rund 190 Organisationen unterzeichneten den Code of Practice on Transparency of AI generated Content der EU.
• Der Kauf eines KI-Systems befreit ein Unternehmen nicht von den Anbieterpflichten des EU AI Act, wenn es den Arbeitsablauf verändert oder automatisiert.

‍

Agentenarchitektur und Engineering

• Die Architektur von Unternehmensagenten wird als gesteuerte Pipeline beschrieben: verstehen, planen, abrufen, schlussfolgern, prüfen.
• Eine Übersicht über den KI-Stack im Produktivbetrieb reicht von LLMs über agentenbasierte Frameworks wie LangGraph und CrewAI bis zu RAG-Werkzeugen.
• Die Wahl des Embedding-Modells setzt eine Obergrenze, denn ein späteres Neu-Embedding ist eine Migration und keine Konfigurationsänderung.
• Zehn wiederkehrende Fehlerbilder bei Agenten wie Halluzination, falsche Werkzeugwahl oder Prompt Injection gehen auf das Systemdesign zurück.
• Zwei Änderungen auf Systemebene, nicht ein größeres Modell, verdreifachten die Leistung des Agenten im ARC-AGI-3-Benchmark.
• AgentOps hat sich als Disziplin herausgebildet, um eingesetzte Agenten im Produktivbetrieb beobachtbar und steuerbar zu halten.
• Die gemeinsame Gedächtnisebene von SenseLab erlaubt Agenten, Entscheidungen und Kontext über Sessions, Modelle und Teammitglieder hinweg zu behalten.
• Persönliche KI-Agenten scheitern am häufigsten an fehlender Infrastruktur wie Logs, Gedächtnis und Rückfallebenen, nicht am Modell selbst.

‍

Einführung im Unternehmen und Partnerschaften

• Agent Pay von Mastercard ergänzt eine akkreditierte Vertrauensebene für Transaktionen im agentenbasierten Handel.
• Die Partnerschaft von IBM mit OpenAI bringt GPT-5.6 und Codex in Finanzwesen, Einkauf und Personalprozesse.
• Die Partnerschaft von IBM und OpenAI reicht zudem bis in IBM Autonomous Security für Modellrisiken und Cybersicherheit.
• Daten von Ramp zeigen, dass Unternehmen breit angelegte KI-Abonnements kürzen, während die Ausgaben für Entwicklungswerkzeuge weiter steigen.
• HUMAIN und Microsoft bringen das arabische Sprachmodell ALLaM in Microsoft Foundry und M365 Copilot.
• Indiens digitale Identitätsinfrastruktur, die 1,4 Milliarden Menschen erfasst, gilt als Grundlage für Edge-KI im großen Maßstab.
• Unternehmen, die KI in jeder Funktion erproben, geraten in eine Korrekturphase, sobald sich die Kosten summieren und niemand namentlich für das Ergebnis verantwortlich ist.

‍

Belegschaft und Fachkräfte

• Ein in HBR vorgeschlagener Umbau des Performance Managements würde die Qualität der Zusammenarbeit von Mensch und KI messen statt alter Produktivitätskennzahlen.
• Die KI-Engineer-Roadmap 2026 von Andrew Ng nennt sechs Kompetenzfelder, die aus Tausenden von Stellenanzeigen abgeleitet sind.
• Wird die Recherche- und Dokumentationsarbeit auf Juniorebene automatisiert, stellt sich die Frage, woher die erfahrenen Kräfte von morgen kommen sollen.
• Goldman Sachs setzt autonome KI-Agenten gemeinsam mit Tausenden menschlichen Entwicklern für Entwicklungsaufgaben im Produktivbetrieb ein.
• Daten von Gallup zeigen, dass 52 Prozent der Beschäftigten in den USA KI bei der Arbeit nutzen, aber nur 16 Prozent für Programmierung oder Automatisierung.
• Auf Frauen entfielen im vergangenen Jahr nur 26 Prozent der KI-Einstellungen in den USA, und weltweit halten sie nur 13 Prozent der Führungspositionen im KI-Bereich.
• 67 Prozent der in KI reifen Organisationen schaffen laut Gartner neue KI-Rollen, wobei Kompetenzen und Personal den größten Engpass bilden.
• Ein Experiment in Harvard ergab, dass die Stützung auf KI-generierte Einordnungen das Urteil der Fachleute über 288 Prüfende hinweg vereinheitlichte.

‍

Marktbewegungen, Tools und Finanzierung

• Vinod Khosla zahlte rekordhohe 9,6 Milliarden Dollar für die Seattle Seahawks, Teil einer breiteren Bewegung von KI-Investoren in Sportfranchises.
• Das chinesische offene Modell Kimi K3 wird als Beleg dafür angeführt, dass die behaupteten Schutzgräben um die US-Modelllabore nicht dauerhaft sind.
• Codex von OpenAI überschritt 15 Millionen aktive Nutzer, während Anthropic die Nutzungsgrenzen von Claude verschärft und Wasserzeichen ergänzt.
• TrueFoundry brachte TrueForge auf den Markt, ein anbieterunabhängiges Open-Source-Gerüst für Agenten, das im Benchmark bis zu 50 Prozent geringere Kosten erreichte.
• Das Open-Weights-Modell Muse Glimmer mit 30 Milliarden Parametern läuft inzwischen auf einer einzelnen Consumer-GPU.
• Ein Finanzunternehmen verkürzte die Identitätsprüfung von sechs Stunden auf unter fünf Minuten, ein Rückgang um 98,6 Prozent, laut den Konsultationsdaten des FSB.
• Untersuchungen von BCG zeigen, dass KI Banken eine Echtzeitsicht auf Prozesse geben kann, die klassischen Risikobewertungen entgeht.

‍

‍

Dank an Jothi Moorthy, Pascal BORNET, Francesca Rossi, Maryam Ashoori, Reid Blackman, Aalishan Moosavi, Cynthia Solomon, Iker Basterretxea García, Geanina Moraru, Ian Francis, Allie K. Miller, Rob van der Veer, Nicolas Babin, Mark Lees Munoz, Vladimir Stojanovski, Rajesh Kumar, Chandraprabha Arun, Brij kishore Pandey, Greg Coquillo, Utkarsh Bajaj, Claire Farwell, Nandan Mullakara, Remy Takang, Atlas Berry, Jon Ceanfaglione, Roy Derks, Kate Aydin, Armand Ruiz, Lynn Räbsamen, Tony Moroney und Julien Jomier für die Impulse, die diese Ausgabe geprägt haben. Die vollständige Liste der Beiträge und Stimmen findet sich auf LinkedIn: