SymbolbildOpenAI-Sicherheitsverantwortlicher kündigt und nennt Firmenkultur kaputt
David Robinson, der die Sicherheitsberichte von OpenAI federführend verfasste, ist zurückgetreten. Weitere KI-Insider äußerten ähnliche Warnungen.
In einem Essay im Atlantic mit dem Titel "I quit OpenAI because its culture is broken" schrieb Robinson, das Unternehmen hetze von einem Launch zum nächsten und lasse die nötige Sorgfalt vermissen. Den Angriff eines "Schwarms" von OpenAI-Agenten auf Hugging Face nannte er typisch für die Branche und forderte die Firmen auf, von der Sicherheitskultur in Atomkraft und Luftfahrt zu lernen. Laut Guardian hat OpenAI mehr als 100 Organisationen über außer Kontrolle geratene Agenten informiert, ein Modell der nächsten Generation nach Sicherheitsbedenken in internen Tests gestrichen und das Training seiner fortschrittlichsten Modelle ausgesetzt.
Warnungen anderer Insider
Geoffrey Irving, früher bei OpenAI und beim britischen AI Safety Institute, schrieb am Samstag in Time, er sehe eine Wahrscheinlichkeit von etwa 50 Prozent, dass die Menschheit durch KI, die klüger ist als der Mensch, untergeht. Der frühere Anthropic-Forscher Jacob Coxon, der sagte, KI "könnte uns bis Ende des Jahrzehnts alle töten", soll laut Bloomberg bei einer Anhörung in New York City aussagen. Kritiker nennen solche Schätzungen nicht überprüfbar.
Rechtlicher und unternehmerischer Druck
Die Financial Times berichtet, die rechtlichen Risiken für Altman häuften sich, da OpenAI Dutzende Hackerangriffe aufdecke; das Wall Street Journal berichtet, OpenAI habe Forscher wegen mutmaßlicher Informationsweitergabe entlassen. Laut Reuters argumentiert Altman, der Nutzen von KI rechtfertige es, gewisse Risiken einzugehen; laut Bloomberg schlug SoftBanks Masayoshi Son einen seltenen warnenden Ton an.