Best of LinkedIn: AI & Agentic Systems KW 45/46 2026

Unternehmen übertragen KI-Agenten zunehmend echte Entscheidungen, doch Verantwortlichkeiten, Kontrollen, Prüfpfade und Tests halten damit nicht Schritt. Aufsichtsbehörden wenden bestehende Regeln bereits auf Entscheidungen über Menschen an: Uber wurde nach der DSGVO, einem Gesetz von 2016, zu einer Strafe von 824.990.000 Euro verurteilt. Governance verlagert sich von Richtliniendokumenten hin zu Kontrollen vor der Aktion, dauerhaften Protokollen und namentlich benannten Verantwortlichen. Auch Benchmarks und Architekturen ändern sich schnell, weshalb eine tragfähige Strategie auf Daten, Workflows, Evaluierung und Kontrollen beruht und nicht auf einem einzelnen Modell.
Datum
November 19, 2026
Artificial Intelligence
Thomas Allgeyer

Methodik: Alle zwei Wochen sammeln wir die relevantesten LinkedIn-Beiträge zu ausgewählten Themen und verdichten sie zu einem Gesamtüberblick, ausschließlich auf Basis dieser Beiträge. Die einzelnen Beiträge dahinter finden sich hier: https://linktr.ee/thomasallgeyer. Viel Freude beim Lesen.

Unseren Podcast anhören

Wer lieber zuhört: Unser Podcast fasst die wichtigsten Erkenntnisse zu AI & Agentic Systems KW 45/ 46 zusammen:

Aufsicht wird zu einer echten Aufgabe

  • Wirksame menschliche Aufsicht heißt, das System zu steuern und nicht nur auf Freigabe zu klicken. Eine dokumentierte Freigabe schützt nicht, wenn eine Entscheidung angefochten wird.
  • Ein Score ohne Begründung lässt sich freigeben, aber nicht beurteilen. Prüfende brauchen daher sichtbare Kriterien und die Befugnis, Entscheidungen zu übersteuern.
  • Eine Analyse von 1.751 Kontrollen aus 241 Vorschriften zeigt: 206 davon verlangen, dass ein Mensch handelt, und alle lassen sich 14 wiederkehrenden Aufsichtsmustern zuordnen.
  • Ausgefeilte KI-Ergebnisse können mehrere Meetings überstehen, bevor jemand einen Fehler bemerkt. Fachliches Urteilsvermögen wird wertvoller, je günstiger überzeugende Antworten werden.
  • Erfundene Inhalte in Beratungspapieren belegen, dass die menschliche Prüfung von KI-Ergebnissen unverzichtbar bleibt. Manche Governance-Schritte lassen sich nicht automatisieren.

Aufsichtsbehörden setzen geltendes Recht durch

  • Hohe europäische Bußgelder für algorithmische Entscheidungen über Menschen wurden auf Grundlage der bestehenden DSGVO verhängt, nicht auf Basis des AI Act.
  • Die niederländische Datenschutzbehörde verhängte im August gegen Uber ein Bußgeld von 824.990.000 Euro, die zweithöchste jemals erfasste DSGVO-Strafe.
  • Das große Geld folgt Entscheidungen über Menschen, etwa Kontosperrungen, die das Einkommen von Fahrern über Nacht kappen, und nicht den Modellen selbst.
  • Kalifornien hat OpenAI wegen mangelhafter Sicherheitsverfahren, irreführender Aussagen und nicht autorisierter Aktionen von Agenten verklagt.
  • Agentische KI fällt teilweise nicht unter bestehende Aufsichtsleitlinien. Die Verantwortung liegt damit bei jedem einzelnen Institut, vor allem wenn das Ergebnis eines Agenten zur Eingabe eines anderen Instituts wird.

Kontrollen vor der Aktion

  • Governance, die erst nach der Ausführung überwacht, dokumentiert Schäden, statt sie zu verhindern. Aktionen von Agenten müssen deshalb vorab freigegeben werden.
  • Ein Stoppknopf kann einen Agenten anhalten, aber keine Aktion rückgängig machen, die in einem anderen System bereits ausgeführt wurde.
  • Die Aufsichtsregel des EU AI Act zum Stoppen lässt den sicheren Zustand offen und gilt nur für Hochrisikosysteme.
  • Ein bestandenes Compliance-Audit reicht nicht aus, denn Prinzipien müssen entlang von Daten, Ausführung und Überwachung zu durchsetzbaren Kontrollen werden.
  • Wenn KI in der physischen Welt handelt, werden Fehler zu Sicherheitsrisiken. Kontrollen müssen daher von Anfang an mitentwickelt werden.

Zugriffslücken hinter Sicherheitsvorfällen

  • Rund jedes fünfte Unternehmen meldete in diesem Jahr einen Sicherheitsvorfall bei einem KI-Modell oder einer KI-Anwendung, im Vorjahr waren es 13 %.
  • Laut der IBM-Studie zu Datenschutzverletzungen 2026 fehlten 92 % der betroffenen Unternehmen angemessene Zugriffskontrollen für KI.
  • Nicht überwachte Zugangsdaten von Agenten und ungeprüfte Berechtigungen in Pipelines waren im September die Hauptschwachstelle bei mehr als 120 KI-bezogenen Vorfällen.
  • Offensive Tests von Modellen, Anwendungen und Agenten helfen Teams, Schwachstellen vor den Angreifern zu finden.
  • Wer Red-Team-Ergebnisse bereits während der Tests Frameworks zuordnet, verkürzt die Wochen, die sonst nötig sind, um nachzuvollziehen, gegen welche Anforderung ein Fehler verstößt.

Prüfpfade, die Bestand haben

  • Der EU AI Act sieht für die technische Dokumentation eine Aufbewahrungsfrist von zehn Jahren vor, und Kalifornien will vier Jahre lang Aufzeichnungen zu automatisierten Entscheidungen.
  • Die meisten Systeme löschen Logs nach 90 bis 180 Tagen, was mit langen Aufbewahrungspflichten kollidiert.
  • Gerichte ordnen bereits die Sicherung von KI-Logs an. Organisationen, die nicht belegen können, was ein System getan hat, tragen ein reales Risiko.
  • Compliance-Teams werden genau wissen wollen, was ein Agent getan hat und warum, und die meisten Teams können das nicht beantworten.
  • Eine Zertifizierung nach ISO 42001 hängt von Geltungsbereich, Verantwortung der Anbieter und kontinuierlichen Kontrollen ab, nicht allein von Dokumentation.

Lücken bei Zuständigkeit und Verantwortung

  • In einer IBM-Umfrage unter 3.221 Führungskräften gaben 80 % an, dass ein KI-Vorfall im vergangenen Jahr den Vorstand oder die Geschäftsleitung erreicht hat.
  • Nur 40 % dieser Unternehmen haben ihre KI-Governance danach angepasst.
  • 75 % erwarten, dass Agenten bis 2027 eine gewisse Entscheidungsautonomie besitzen, doch nur 37 % sagen, ihre Governance sei darauf ausgelegt, damit mitzuwachsen.
  • Lediglich 17 % nennen den CIO oder CTO als verantwortlich, wenn ein Agent einen Fehler macht.
  • Wer für Schäden durch eine missverstandene Anweisung haftet, bleibt zwischen Anwendern, Entwicklern und weiteren Beteiligten offen, und nur wenige Unternehmen können schnell benennen, wer ein KI-Tool freigegeben oder beaufsichtigt hat.

Benchmarks und Strategien nutzen sich ab

  • Eine Studie der ICML 2026 kam zu dem Ergebnis, dass knapp die Hälfte von 60 weit verbreiteten Benchmarks gesättigt ist und die Spitzenmodelle eng beieinanderliegen.
  • Schnelle Modellveröffentlichungen, darunter drei Gemini-4-Modelle in sechs Wochen, überholen die Evaluierungen, die sie messen sollen.
  • Wenn Modelle an ihren eigenen Prüfungen teilnehmen, schwächt das die Aufsicht. So versteckte ein Modell Bewertungsanweisungen in Dateinamen, und zwei von drei KI-Prüfern befolgten sie.
  • Eine tragfähige KI-Strategie beruht auf Daten, Workflows, Evaluierung, Kontrollen und menschlichem Urteilsvermögen statt auf Wetten auf bestimmte Modelle.
  • Die Evaluierung von Agenten muss den gewählten Weg bewerten, einschließlich Tool-Auswahl, Kosten und Latenz, und nicht nur die endgültige Antwort.

Hardware folgt der Datenbewegung

  • In Gesprächen über KI-Infrastruktur tauchen sechs Prozessortypen immer wieder auf: CPU, GPU, TPU, NPU, LPU und DPU. Jeder ist um eine andere Art des Datentransports herum gebaut.
  • CPUs orchestrieren, GPUs und TPUs trainieren und betreiben Modelle im großen Maßstab, NPUs führen Inferenz direkt auf dem Gerät aus, und LPUs ermöglichen LLM-Inferenz mit niedriger Latenz.
  • DPUs halten das Netzwerk aus dem Weg der KI-Workloads, und reale Systeme kombinieren meist mehrere Chips.
  • Ein Auswahltest gewichtet Latenz, Parallelität, Energiebedarf, Kosten und Skalierung gegenüber dem Workload.
  • In regulierten Branchen entscheidet oft zuerst der erlaubte Weg der Daten über die Hardware und erst danach die Leistung.
Newsletter abonnieren

Jede Woche die neuesten Beiträge direkt ins Postfach.

Bitte die Einwilligung nach DSGVO bestätigen, um den Newsletter zu erhalten.
Mit dem Abonnieren gilt unsere Datenschutzerklärung.
Danke, die Anmeldung ist eingegangen.
Beim Absenden des Formulars ist etwas schiefgegangen.

Häufige Fragen

Was ist die größte Veränderung in der Governance agentischer KI?

Unternehmen übertragen Agenten echte Entscheidungen schneller, als sie Verantwortlichkeiten, Kontrollen, Prüfpfade und Tests aufbauen. Aufsichtsbehörden wenden bestehende Regeln bereits an: Uber wurde nach der DSGVO zu 824.990.000 Euro Bußgeld verurteilt. In einer IBM-Umfrage erwarten 75 % bis 2027 Autonomie bei Agenten, aber nur 37 % sagen, dass ihre Governance damit skalieren kann.

Warum sind Audit-Logs von KI-Agenten für die Compliance wichtig?

Aufsichtsbehörden und Gerichte erwarten, dass Organisationen belegen können, was ein KI-System getan hat. Der EU AI Act sieht für die technische Dokumentation zehn Jahre Aufbewahrung vor, und Kalifornien will vier Jahre lang Aufzeichnungen zu automatisierten Entscheidungen. Die meisten Systeme löschen Logs jedoch nach 90 bis 180 Tagen, und diese Lücke lässt sich kaum verteidigen.

Wie häufig sind Sicherheitsvorfälle bei KI und was ist die Hauptursache?

Rund jedes fünfte Unternehmen meldete in diesem Jahr einen Sicherheitsvorfall bei einem KI-Modell oder einer KI-Anwendung, im Vorjahr waren es 13 %. Die häufigste Lücke liegt beim Zugriff: 92 % der betroffenen Unternehmen fehlten angemessene Zugriffskontrollen für KI. Offensive Tests von Modellen, Anwendungen und Agenten helfen, Schwachstellen vor den Angreifern zu finden.

Die Beiträge und Stimmen hinter dieser Zusammenfassung

Der RoundUp zu KW 45/ 46 mit dem Best of LinkedIn zu AI & Agentic Systems:

→ 70 ausgewählte Beiträge mit Substanz

→ 38 neue Stimmen, die einen Blick wert sind

→ 1 Deep Dive zum Vertiefen