Update: Weiterer Top-Manager verlässt OpenAI

Update vom 21.05.2024: OpenAI verliert einen weiteren ranghohen Manager. Wenige Tage nach dem Weggang des Chefforschers Ilya Sutskever hat nun auch ein enger Mitarbeiter von ihm gekündigt. Der gebürtige Deutsche Jan Leike, der gemeinsam mit Sutskever das Superalignment-Team von OpenAI geleitet hatte, gab auf der Kurznachrichtenplattform X seinen Rücktritt bekannt. 

Das Superalignment-Team wurde im vergangenen Juli gegründet und sollte sich mit den Risiken besonders hoch entwickelter KI-Systeme befassen. Nach dem Abgang der beiden Abteilungsleiter habe OpenAI das gesamte Team aufgelöst, berichtet das Branchenmagazin "Wired".

In einem Thread auf X begründet Leike seine Kündigung mit Meinungsverschiedenheiten mit der Unternehmensführung, wobei er insbesondere Sicherheitsbedenken geltend macht: In den vergangenen Jahren sei die Sicherheitskultur von OpenAI zugunsten von "schillernden Produkten" in den Hintergrund getreten. 
 

But over the past years, safety culture and processes have taken a backseat to shiny products.

— Jan Leike (@janleike) May 17, 2024

Er und sein Team seien in den vergangenen Monaten "gegen den Wind" gesegelt, schreibt Leike weiter. Man habe um Rechenleistung kämpfen müssen und es sei immer schwieriger geworden, wichtige Forschungsvorhaben umzusetzen. Systeme zu entwickeln, die intelligenter seien als Menschen, sei ein gefährliches Unterfangen - und OpenAI trage diesbezüglich eine "enorme Verantwortung im Namen der gesamten Menschheit". Dementsprechend sollte das Unternehmen mehr Ressourcen in die Technikfolgen-Abschätzung investieren, insbesondere in die Bereiche Sicherheit, Vertraulichkeit und gesellschaftliche Auswirkungen. 

OpenAI-CEO Sam Altman sei über Leikes Weggang "sehr traurig", schreibt er in einem Post auf X. Der ehemalige Co-Leiter des Superalignment-Teams habe wichtige Beiträge zur Forschung und Sicherheitskultur des Unternehmens geleistet. Und: Er habe recht, dass OpenAI noch viel zu tun habe - man sei denn auch entschlossen, entsprechende Pläne voranzutreiben. 

Originalmeldung vom 15.05.2024:

Forschungschef verlässt OpenAI

OpenAI und Ilya Sutskever gehen künftig getrennte Wege. Der Forschungschef das KI-Unternehmens gab seinen Rücktritt bekannt, wie "Watson" berichtet. Er wolle sich einem sich einem Projekt widmen, das für ihn persönlich von Bedeutung sei. Details dazu wolle er später bekannt geben, so Sutskever.

Der 37-jährige Informatiker gilt als KI-Guru und warnte in der Vergangenheit des Öfteren vor den Gefahren einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence). Der russischstämmige KI Forscher, der in Israel aufgewachsen ist, arbeitete nach dem Studium zunächst bei der kanadischen Firma DNNresearch, die von Google übernommen wurde, wie "Watson" schreibt. Ein gewisser Elon Musk habe ihn schliesslich überzeugt, dass sich der Konzern zu wenig um die Sicherheitsrisiken der künstlichen Intelligenz kümmere und er lieber Mitgründer der Firma OpenAI werden solle.

Sutskever war mehrere Jahre Mitglied des Verwaltungsrats bei OpenAI - jenes Verwaltungsrats, der Ende 2023 CEO Sam Altman absäbeln wollte. Laut dem "Wall Street Journal" war Sutskever massgeblich an dessen Rausschmiss beteiligt. Er war es demnach auch, der Altman über seine Entlassung informierte.

Der Gründer wechselte im November zu Microsoft, ehe er nur Tage später wieder an der Spitze des KI-Unternehmens stand. Inhalt des Streits war die fortschreitende Kommerzialisierung der Firma. Die Forschenden von OpenAI, allen voran Sutskever, hatten vor den Risiken ihrer Entwicklungen gewarnt. Wie die "New York Times" schreibt, soll der Forschungschef seinen Vorstoss später bereut haben.

Es sei ein "emotionaler Tag", zitiert die Zeitung Wieder-CEO Sam Altman zum Abgang Sutskevers. "OpenAI würde ohne ihn nicht existieren und wurde auf jeden Fall von ihm geprägt."

Die ganze Story rund um Altmans kurzzeitigen Abgang können Sie hier nachlesen.