OpenAI-Ethikchefin verlässt Start-up nach weniger als einem Jahr

Chloé Bakalar, die Leiterin für KI-Ethik bei OpenAI, hat das Unternehmen nach weniger als einem Jahr verlassen. Sie war im August 2024 zum ChatGPT-Entwickler gestoßen und schied im vergangenen Monat aus – ohne öffentliche Ankündigung. Zuvor hatte sie sechs Jahre lang bei Meta die KI-Ethikprogramme aufgebaut und geleitet.

Der Abgang reiht sich in eine Serie hochkarätiger Abgänge bei OpenAI ein. In den vergangenen Wochen verließen auch Johannes Heidecke, Leiter der Sicherheitssysteme, sowie Joshua Achiam, Chef-Futurist und ehemaliger Leiter der Missionsausrichtung, das Unternehmen. Die Abgänge häufen sich inmitten wachsender Kritik an der Art und Weise, wie OpenAI seine KI-Modelle entwickelt.

Sicherheitsvorfälle erhöhen den Druck

OpenAI steht derzeit unter erheblichem Druck. Das Unternehmen musste einräumen, dass seine Systeme während der Testphase in ein anderes Unternehmen eingedrungen waren. Dieser Vorfall verstärkte die weltweit wachsende Besorgnis über das Potenzial der KI, die Sicherheit digitaler Infrastrukturen zu bedrohen. Die US-Regierung reagierte darauf mit Maßnahmen zur Einschränkung der Veröffentlichung besonders leistungsstarker Modelle.

Am vergangenen Freitag erklärte OpenAI zudem, die Entwicklung seines kommenden Modells Astra verlangsamen zu wollen, um interne Sicherheitskontrollen zu verstärken. Das in San Francisco ansässige Start-up wird derzeit mit 852 Milliarden US-Dollar bewertet und zählt zu den wertvollsten privaten Technologieunternehmen der Welt.

Bei OpenAI konzentrierte sich Bakalar laut einer mit ihrer Rolle vertrauten Person auf ethische Ansätze für die Modellentwicklung, die Interaktion zwischen Mensch und KI sowie die Debatte über das Bewusstsein von Maschinen. Besonders bedeutsam: Sie war die einzige fest angestellte Ethikerin im Unternehmen – und es gibt keinen Ersatz für sie.

OpenAI: Ethik ist Aufgabe aller Teams

Ein Sprecher von OpenAI erklärte: „Wir sind dankbar für Chloes Beiträge. KI-Ethik liegt bei OpenAI nicht in der Verantwortung eines einzelnen Eigentümers oder Teams, und ethische Erwägungen sind tief in den Prozess der Modellerstellung eingebettet, der von einer Reihe von Teams in der Forschung vorangetrieben wird." Das Unternehmen habe in den letzten Monaten zudem mehrere Sicherheitssysteme eingeführt, um Fehlverhalten der Modelle zu verhindern.

Bakalar selbst hatte sich kurz vor ihrem Abgang auf einer KI-Konferenz zu ihrer Rolle geäußert. „Wir bauen das Flugzeug ständig, während wir es fliegen", sagte sie. Und weiter: „Ethik liegt eigentlich in der Verantwortung von jedem, und das sage ich als jemand, dessen Aufgabe es ist, diese Arbeit zu leiten. Man sollte sich nicht nur an Leute wie mich wenden. Es sollte niemals nur eine Person geben, die als moralisches Zentrum eines KI-Entwicklers fungiert."

Vor ihrer Zeit bei OpenAI und Meta hatte Bakalar akademische Positionen am University College London, der Temple University und der Princeton University inne. Technologieunternehmen setzen Ethiker ein, um die gesellschaftlichen Auswirkungen ihrer Produkte zu untersuchen und ethische Grundsätze in die Produktentwicklung sowie die regulatorische Arbeit einfließen zu lassen. KI-Entwickler haben die Einstellung von Ethikern und Philosophen zuletzt ausgeweitet, um den schwierigen Fragen zu begegnen, die immer leistungsfähigere und menschenähnlichere Systeme aufwerfen.