
Anthropic-Chef Dario Amodei attackiert in einem geleakten Memo OpenAIs
Pentagon-Vertrag als "80% Safety Theater" und beschuldigt die Trump-Regierung,
sein Unternehmen für mangelnde politische Loyalität zu bestrafen. OpenAI bessert
seinen Vertrag hastig nach, Investoren drängen auf Deeskalation, und ein großer
Tech-Branchenverband stellt sich hinter Anthropic. Gleichzeitig verhandelt
Amodei in einem letzten Anlauf direkt mit dem CTO des Pentagons.
Anthropic-CEO Dario Amodei hat in einem an mehr als 2.000 Mitarbeitende den
Pentagon-Deal seines Rivalen OpenAI als "Safety Theater" bezeichnet. Das
Schreiben, das am Mittwoch veröffentlichte, zeichnet das Bild eines Konflikts,
der weit über eine gescheiterte Vertragsverhandlung hinausgeht.
Die Vorgeschichte: Das Pentagon hatte am Freitag angekündigt, , nachdem das
Unternehmen sich geweigert hatte, dem Militär den Einsatz seiner KI für
Massenüberwachung im Inland und für vollständig autonome tödliche Waffen zu
gestatten. Noch am selben Tag verkündete OpenAI-CEO Sam Altman, dass sein
geschlossen habe, um seine KI-Modelle in klassifizierten Systemen
bereitzustellen.
Anzeige
Laut The Information sagte Amodei seinen Mitarbeitenden, Altman versuche, "es
der Regierung leichter zu machen, uns zu bestrafen, indem er unsere öffentliche
Unterstützung untergräbt".
Anzeige
DEC_D_Incontent-1
AMODEI WIRFT ALTMAN SYSTEMATISCHE TÄUSCHUNG VOR
In dem Memo zeichnet Amodei ein detailliertes Bild dessen, was er als Altmans
Verhaltensmuster beschreibt: öffentlich Anthropics rote Linien unterstützen, im
Hintergrund aber einen Vertrag unterzeichnen, der diese Linien faktisch
unterläuft.
Die Vertragssprache von OpenAI erlaube dem Pentagon die Nutzung für "alle
rechtmäßigen Zwecke". Zwar sehe der Vertrag eine "Sicherheitsschicht" vor, doch
Amodei hält diese Schutzmechanismen für weitgehend wirkungslos. "Unser
allgemeiner Eindruck ist, dass diese Art von Ansätzen, während sie nicht null
Wirksamkeit haben, im Kontext militärischer Anwendungen vielleicht 20% real und
80% Safety Theater sind", schrieb er.
Anzeige
Amodeis technisches Argument: Ein KI-Modell könne nicht wissen, ob ein Mensch in
den Entscheidungsprozess eingebunden sei, ob die analysierten Daten von
US-Bürgern oder aus dem Ausland stammten, oder ob sie mit Einwilligung erhoben
oder auf fragwürdigen Wegen beschafft worden seien. Modelleigene Verweigerungen
seien zudem unzuverlässig, Jailbreaks alltäglich.
Besonders hart geht Amodei mit dem Technologiepartner Palantir ins Gericht, über
den Anthropic bislang US-Behörden bedient hatte. Palantir habe Anthropic eine
Art Klassifikator-System angeboten, das angeblich bestimmte Anwendungen
blockiere. Amodeis Urteil: "Palantir ging davon aus, dass unser Problem war:
'Ihr habt einige unzufriedene Mitarbeiter, ihr müsst ihnen etwas anbieten, das
sie beschwichtigt oder das, was passiert, für sie unsichtbar macht, und das ist
die Dienstleistung, die wir erbringen.'" Amodei vermutet, auch OpenAI sei das
angeboten worden, doch der Konkurrent arbeite laut einer Quelle mit Kenntnis der
Pläne nicht mit Palantir bei der Pentagon-Arbeit zusammen.
Anzeige
DEC_D_Incontent-2
WARUM DAS PENTAGON ANTHROPIC LAUT AMODEI WIRKLICH ABLEHNT
Amodei benennt in dem Memo die aus seiner Sicht wahren Gründe für die Spannungen
mit der Trump-Regierung. "Die wahren Gründe, warum das Verteidigungsministerium
und die Trump-Regierung uns nicht mögen, sind, dass wir nicht an Trump gespendet
haben (während OpenAI/Greg viel gespendet haben)", schreibt Amodei laut The
Information. Gemeint ist OpenAI-Präsident Greg Brockman, der an ein
Trump-unterstützendes Super PAC gespendet haben soll.
Anzeige
"Wir haben Trump kein Lob im Diktator-Stil gegeben (während Sam das getan hat),
wir haben KI-Regulierung unterstützt, die gegen ihre Agenda ist, wir haben die
Wahrheit über eine Reihe von KI-Politikfragen gesagt (wie
Arbeitsplatzverlagerung), und wir haben unsere roten Linien tatsächlich mit
Integrität gehalten."
Amodei berichtet zudem, dass das Pentagon gegen Ende der Verhandlungen angeboten
habe, Anthropics Vertragsbedingungen zu akzeptieren, wenn das Unternehmen eine
einzelne Formulierung streiche: die zur "Analyse massenhaft erworbener Daten".
Genau diese Klausel decke das Szenario ab, das Anthropic am meisten beunruhige.
Das Unternehmen lehnte ab.
OPENAI BESSERT HASTIG NACH
Die öffentliche Reaktion auf den Pentagon-Deal fiel für OpenAI wenig
schmeichelhaft aus. Altman räumte ein, der übereilte Vertragsabschluss habe
"opportunistisch und schlampig" gewirkt. Nach Gegenwind von eigenen
Mitarbeitenden und der Öffentlichkeit aktualisierte : Die neuen Klauseln
verbieten laut Altman "absichtliches Tracking, Überwachung oder Monitoring von
US-Personen oder -Staatsbürgern, einschließlich durch die Beschaffung oder
Nutzung kommerziell erworbener persönlicher oder identifizierbarer
Informationen". Geheimdienste wie die NSA würden ebenfalls vom Deal
ausgeschlossen.
Doch Juristen und Mitarbeitende bleiben skeptisch, wie die. Die Formulierungen
"absichtlich", "bewusst" oder "gezielt" ließen die Möglichkeit offen, dass das
Militär Amerikaner "beiläufig" oder "unbeabsichtigt" überwache. Connie LaRossa,
OpenAIs Leiterin für nationale Sicherheitspolitik, sagte am Mittwoch, die
genauen Schutzmaßnahmen würden "noch verhandelt". Es gebe eine dreimonatige
Umsetzungsphase, in der offene Fragen geklärt werden sollen, darunter technische
Sicherheitsmechanismen und konkrete Einsatzszenarien.
In dem Memo weist Amodei auch auf eine unterschätzte rechtliche Lücke hin: Die
Pentagon-Richtlinie, wonach ein Mensch in die Entscheidungskette bei
Waffeneinsätzen eingebunden sein müsse, stamme aus der Biden-Ära und könne von
Verteidigungsminister Pete Hegseth einseitig geändert werden. "Es ist also, für
alle praktischen Zwecke, keine echte Einschränkung", so Amodei.
INVESTOREN DRÄNGEN AUF DEESKALATION, BRANCHE ZEIGT SOLIDARITÄT
Während hinter den Kulissen die Tonlage schärfer wird, drängen Anthropics
Investoren auf eine Lösung. Wie berichtet, hat Amodei in den vergangenen Tagen
unter anderem mit Amazon-CEO Andy Jassy gesprochen. Risikokapitalgeber wie
Lightspeed und Iconiq stehen ebenfalls mit Anthropic-Führungskräften in Kontakt
und suchen nach möglichen Lösungen, auch über Kontakte in die Trump-Regierung.
Einige Investoren äußerten Frustration über Amodeis Verhandlungsstil. "Es ist
ein Ego- und Diplomatieproblem", sagte eine mit der Angelegenheit vertraute
Person gegenüber Reuters. Gleichzeitig könne Amodei nun nicht mehr nachgeben,
ohne Mitarbeitende und Nutzer zu verprellen, die gerade wegen seiner Haltung zu
Anthropic gewechselt hätten. Anthropics Chatbot Claude stieg zeitweise auf Platz
1 der kostenfreien App-Downloads im Apple App Store.
Auch die Branche reagierte: Der IT-Branchenverband Information Technology
Industry Council, dem unter anderem Amazon, Nvidia, Apple und OpenAI angehören,
äußerte in einem Bedenken gegen die Supply-Chain-Risiko-Einstufung. OpenAIs
LaRossa sagte auf einer Konferenz: "Wir arbeiten tatsächlich daran, die
Sicherheitsrisiko-Einstufung von Anthropic rückgängig zu machen. Das sollte
nicht auf einen US-Branchenpartner mit einem so wichtigen Werkzeug angewendet
werden."
ANTHROPIC VERSUCHT EINEN LETZTEN ANLAUF
Laut der verhandelt Amodei inzwischen direkt mit Emil Michael, Staatssekretär im
Verteidigungsministerium verantwortlich für Forschung und Entwicklung und Chief
Technology Officer, in einem letzten Versuch, eine Einigung zu erzielen. Michael
hatte Amodei noch letzte Woche öffentlich als "Lügner" mit "Gottkomplex"
angegriffen. Bei einem Morgan-Stanley-Event am Dienstagabend schlug Amodei
versöhnlichere Töne an: "Ich würde damit anfangen zu sagen, dass Anthropic und
das Verteidigungsministerium viel mehr gemeinsam haben als Unterschiede." Man
glaube daran, Amerika zu verteidigen, und werde sein Bestes tun, den Konflikt zu
lösen.
Die wirtschaftlichen Einsätze sind für Anthropic erheblich. Das Unternehmen hat
laut Reuters eine , vor wenigen Wochen waren es noch 14 Milliarden. Etwa 80
Prozent der Einnahmen stammen aus dem Unternehmensgeschäft. Mehrere US-Behörden,
darunter das Außenministerium, haben bereits begonnen, ihre und zu OpenAI zu
wechseln. Trump ordnete an, Anthropic-Technologie innerhalb von sechs Monaten
aus Bundesbehörden zu entfernen. Das US-Militär setzt Claude allerdings aktuell
in Palantirs Maven-System . Anthropic kündigte an, eine mögliche offizielle
Supply-Chain-Risiko-Einstufung gerichtlich anfechten zu wollen.
Amodei schließt sein Memo mit einer bemerkenswerten Einschätzung der Lage. Die
Spin-Versuche funktionierten bei der breiten Öffentlichkeit und den Medien nicht
besonders gut, Anthropic werde als Held gesehen. Seine größte Sorge gelte den
OpenAI-Mitarbeitenden: "Aufgrund von Selektionseffekten sind sie so eine Art
leichtgläubige Truppe, aber es scheint wichtig, gegen diese Narrative
vorzugehen, die Sam seinen Mitarbeitern verkauft."