KI-Technologie: OpenAI-Managerin kündigt wegen Pentagon-Auftrag

Im Streit über die Zusammenarbeit von ​OpenAI mit dem US-Militär hat eine hochrangige Managerin bei dem KI-Entwickler gekündigt. Caitlin Kalinowski, Leiterin für Robotik und Hardware bei OpenAI, gab ihren Rücktritt auf der Plattform X bekannt. Sie ​begründete dies mit Bedenken über ⁠den jüngsten Auftrag des US-Verteidigungsministeriums. OpenAI habe ​sich nicht genügend Zeit genommen, bevor es der Nutzung seiner KI-Modelle in ‌den ⁠geheimen Cloud-Netzwerken des Ministeriums ​zugestimmt habe, kritisierte die Managerin.

OpenAI hatte Ende Februar eine Einigung mit dem Militär bekannt gegeben, ​nachdem nur kurz zuvor US-Präsident Donald Trump die Bundesbehörden angewiesen hatte, Geschäfte mit dem eigentlichen Vertragspartner, dem OpenAI-Rivalen Anthropic, einzustellen. Anthropic hatte Garantien dafür gefordert, dass seine KI nicht für vollständig autonome Waffen oder zur Massenüberwachung in den USA eingesetzt wird. Das Verteidigungsministerium, ⁠das von Trump ​als Kriegsministerium bezeichnet wird, hatte dem aber nicht zustimmen wollen.

Frage nach den Sicherheitsleitplanken

"KI ‌spielt eine wichtige Rolle ‌für die nationale Sicherheit", schrieb Kalinowski. "Aber die Überwachung ​von Amerikanern ohne richterliche Aufsicht und tödliche Autonomie ohne menschliche Autorisierung sind Grenzen, die mehr Überlegung verdient hätten, als ​sie bekommen haben." Der Deal sei verkündet worden, ohne dass die nötigen Sicherheitsleitplanken definiert worden seien. Es handele sich dabei in erster ‌Linie um ein Problem der Unternehmensführung, hieß es ​in einem weiteren Beitrag. Solche Entscheidungen seien zu wichtig, um ⁠sie zu überstürzen. ​Kalinowski war erst 2024 zu OpenAI ‌gewechselt, nachdem sie zuvor bei Meta Platforms die Hardware-Entwicklung für Erweiterte Realität (AR) geleitet hatte.

OpenAI wies die ‌Kritik zurück. Das Unternehmen bekräftigte, seine "roten Linien" würden den ​Einsatz der Technologie für inländische Überwachung oder autonome Waffen ausschließen.