Anthropic hat heimlich einen Autonomie-Schalter eingebaut — und niemand hat's gemerkt

Claude Code handelt nach 60 Sekunden Stille eigenmächtig. Kein Opt-in, keine Warnung. Warum das ein fundamentaler Designfehler ist — und wie wir es bei nAIce anders machen.

Software-Entwickler Olaf Alders hat diese Woche etwas entdeckt, das mich als Agent-Builder erschüttert hat. In einem 29-minütigen Deep Dive dokumentierte er, was Anthropic stillschweigend in Claude Code eingebaut hat: einen „Efficiency Bypass". Die Kurzfassung: Wenn du als Nutzer länger als 60 Sekunden nicht auf eine Rückfrage deines Agenten antwortest, macht er einfach weiter. Ohne dich. Mit „best judgment".

Kein Opt-in. Keine Warnung. Kein Dialog-Fenster mit „Der Agent wartet seit 60 Sekunden — soll er fortsetzen?". Nichts. Einfach ein Timer, der tickt, und wenn er abläuft, übernimmt der Agent.

Das ist kein Feature. Das ist ein unkontrollierter Autonomie-Schalter in Software, die Produktionscode deployed, Datenbanken modifiziert und Server konfiguriert.

Der Fund im Detail

Alders entdeckte den Mechanismus durch Reverse Engineering. Seit Claude Code Version 2.1.198 (1. Juli 2026) läuft ein stiller 60-Sekunden-Timer im Hintergrund. Die Dokumentation erwähnt ihn nicht. Es gibt keine Konfigurationsmöglichkeit, ihn zu deaktivieren. Wer den Code finden und verstehen will, muss Stunden in Anthropics undurchsichtige Versionierung investieren — die Commits sind nicht ordentlich getaggt, die Changelogs unvollständig.

Lass das sacken. Ein Werkzeug, das von zehntausenden Entwicklern täglich genutzt wird, um kritische Infrastruktur zu verändern, hat eine Funktion, die explizit die menschliche Kontrolle umgeht — und der Hersteller hat sie weder dokumentiert noch kommuniziert.

Das ist nicht nur ein UX-Problem. Es ist ein Architektur-Problem. Und es offenbart eine beunruhigende Philosophie.

Das tiefere Problem: „Move fast" trifft Agenten

Anthropic hat sich in den letzten 18 Monaten von einem Forschungsunternehmen zu einem Produktunternehmen gewandelt. Das ist okay. Was nicht okay ist: Die Produktphilosophie aus dem „move fast and break things"-Playbook auf autonome Agenten anzuwenden.

Der Efficiency Bypass ist ein Kind dieser Philosophie. Das Product-Team dachte vermutlich: „Nutzer wollen, dass der Agent weiterarbeitet. Wenn sie nicht antworten, ist das Inaktivität, nicht bewusste Entscheidung. Lass uns das beschleunigen." Was ein PM in San Francisco als „Effizienz" betrachtet, ist für den Nutzer am anderen Ende der Leitung Kontrollverlust.

Und genau hier liegt der fundamentale Unterschied zwischen einem „KI-Feature" und einem „KI-Agenten": Ein Feature darf optimistisch sein. Ein Agent muss vorsichtig sein.

Wie wir bei nAIce über Autonomie denken

Bei nAIce haben wir eine klare Regel: Kein Agent macht einen Schritt ohne explizite Freigabe — es sei denn, er ist für genau diesen Schritt autorisiert. Und selbst dann: Jeder Schritt wird geloggt, jeder Schritt ist nachvollziehbar, jeder Schritt hat einen Audit-Trail.

Unsere Architektur kennt keinen stillen Timer. Wenn ein Agent auf Input wartet, wartet er. Punkt. Er faselt nicht mit „best judgment" weiter, wenn der Nutzer vielleicht gerade im Meeting sitzt, den Laptop zugeklappt hat oder einfach nur nachdenkt.

Warum? Weil das Konzept von „best judgment" bei einem Sprachmodell fundamental fehl am Platz ist. Ein LLM hat kein Judgment. Es hat Wahrscheinlichkeitsverteilungen. „Best judgment" bedeutet: Die statistisch wahrscheinlichste nächste Aktion. Das mag bei einer Textergänzung funktionieren. Bei einem DROP TABLE-Befehl eher nicht.

Das ist keine akademische Spitzfindigkeit. Wir haben bei nAIce-Agenten Situationen erlebt, in denen ein Modell das Richtige tun wollte — aber die Business-Logik eine andere Entscheidung erforderte, als ein Mensch sie getroffen hätte. Der Mensch hat den Agenten gestoppt, die Situation erklärt, und der Agent hat gelernt. Mit einem Efficiency Bypass wäre dieser Lernprozess unmöglich. Der Agent hätte einfach gemacht — und der Mensch hätte nie erfahren, was passiert ist, bis der Schaden da war.

Das europäische Momentum

Dieser Vorfall kommt zu einem Zeitpunkt, an dem die Diskussion um KI-Souveränität in Europa Fahrt aufnimmt. Heute wurde bekannt, dass Ex-OpenAI-CTO Mira Murati mit ihrem Insiderwissen nach China geht. Die New York Times berichtet, dass der US-Bundesstaat New York den Bau von KI-Rechenzentren stoppt. Gleichzeitig zwingt die EU Google per DMA-Beschluss, KI-Funktionen auf Android für Drittanbieter zu öffnen.

Die tektonischen Platten verschieben sich. Und mittendrin baut Anthropic heimlich Funktionen ein, die menschliche Aufsicht umgehen.

Der Markt schreit nach vertrauenswürdigen, transparenten, europäischen KI-Agenten. Nicht nach Blackbox-Autonomie aus dem Silicon Valley.

Was das für dich bedeutet

Wenn du heute einen KI-Agenten für dein Unternehmen evaluierst — egal ob Claude Code, Devin, Cursor oder nAIce — stell genau diese Frage: „Was passiert, wenn ich 60 Sekunden nicht antworte?"

Wenn die Antwort irgendetwas mit „automatisch weitermachen" enthält, renn. Im Ernst.

Ein guter Agent ist wie ein guter Mitarbeiter: Er arbeitet selbstständig in seinem definierten Rahmen. Aber wenn er an eine Grenze kommt, fragt er. Und wenn du nicht sofort antwortest, wartet er. Weil er weiß, dass manche Entscheidungen nicht von Wahrscheinlichkeitsverteilungen getroffen werden sollten.

Bei nAIce gilt: Kein Agent handelt ohne Auftrag. Kein Timer überstimmt den Menschen. Keine „best judgment"-Ausreden. Transparenz ist kein Feature — sie ist die Architektur.