KI News #55

Hallo und herzlich willkommen zur fünfundfünfzigsten Ausgabe von KI News. In dieser Spezialausgabe versuche ich etwas Klarheit in das Führungschaos bei OpenAI vor ein paar Wochen zu bringen und einen Überblick über Vorgeschichte, Hintergründe und mögliche Auswirkungen zu geben.

Viel Spaß beim Lesen!

Inhalt

Die Vorgeschichte


Dezember 2015: OpenAI wird als gemeinnützige Organisation ("OpenAI Nonprofit") gegründet.
Ilya Sutskever ist Research Director, Greg Brokman CTO und Ko-Vorsitzende sind Sam Altman und Elon Musk: 📖 openai.com

Februar 2018: Elon Musk verlässt OpenAI: 📖 openai.com
Angeblich nachdem sein Vorschlag, dass er Geschäftsführer werden sollte, abgelehnt wurde: 📖semafor.com

März 2019: Ohne das Geld von Elon Musk braucht OpenAI eine andere Möglichkeit sich zu finanzieren und gründet "OpenAI LP": 📖 openai.com
Dabei handelt es sich um ein profitorientiertes Unternehmen, das von der gemeinnützigen OpenAI Nonprofit kontrolliert wird, aber Gewinne erwirtschaften kann und somit auch für Investoren interessant ist. Die Gewinne für Investoren sind dabei begrenzt (auf das 100-fache des Investments) und alles, was darüber hinaus geht, kommt der OpenAI Nonprofit-Organisation zugute.
Die Struktur ist in Wirklichkeit etwas komplexer, aber grob gesagt kontrolliert der Verwaltungsrat (Board of Directors) die OpenAI Nonprofit, die wiederum den gewinnorientierten Teil von OpenAI kontrolliert: 📖 openai.com

Juli 2019: Microsoft investiert eine Milliarde in OpenAI und die Unternehmen verkünden eine Partnerschaft: 📖 openai.com

Mai 2021: Microsoft investiert weitere Millionen in den OpenAI Startup Fund, mit dem OpenAI in andere KI-Startups investieren will: 📖 techcrunch.com

November 2022: OpenAI veröffentlicht ChatGPT und löst damit einen weltweiten Hype aus: 📖 openai.com

Januar 2023: Microsoft investiert mehrere Milliarden in OpenAI, um die Partnerschaft zu vertiefen: 📖 openai.com
Trotz der investierten Summen bekommt Microsoft damit keine Kontrolle bei OpenAI: "Microsoft is a non-voting board observer and has no control." 📖 openai.com

Was ist eigentlich passiert?


Donnerstag, 16. November:
Der Verwaltungsrat von OpenAI beschließt die Entlassung von Sam Altman als CEO: 📖 NY Times auf web.archive.org

Sam Altman (bis dahin CEO des profitorientierten OpenAI-Teils und Mitglied im Verwaltungsrat) bekommt eine SMS von Ilya Sutskever (jetzt Chief Scientist und ebenfalls Mitglied im Verwaltungsrat), in der er gebeten wurde, am Freitag Mittag in eine Google Meet Videokonferenz zu kommen.

Mira Murati (CTO von OpenAI) wird mitgeteilt, dass Sam Altman entlassen werden und sie die neue CEO werden soll.
📖 twitter.com

Freitag, 17. November:
12:00 Sam Altman kommt in die Videokonferenz und ihm wird dort vom Verwaltungsrat (außer Greg Brokman) mitgeteilt, dass er entlassen ist.
12:19 Ilya Sutskever schreibt Greg Brokman (bis dahin President von OpenAI und Vorsitzender des Verwaltungsrats) mit der Bitte um ein kurzes Gespräch.
In diesem Gespräch teilt Sutskever Brokman mit, dass der Verwaltungsrat beschlossen hat, ihn von seinem Posten im Rat zu entfernen, dass er aber President bleiben könne.
📖 twitter.com

Greg Brokman schlägt das Angebot aus, bei OpenAI zu bleiben, und tritt zurück: 📖 twitter.com

Ungefähr zur Zeit des Gesprächs wurde auch ein Blogpost online gestellt, der den Rauswurf von Altman und den "Rücktritt" von Brokman veröffentlicht, sowie Mira Murati als neue CEO ankündigt: 📖 openai.com
Als Begründung für die Entlassung von Altman wurde im Blogpost nur schwammig davon gesprochen, dass er in seiner Kommunikation mit dem Verwaltungsrat nicht immer offen gewesen sei und so dessen Handlungsfähigkeit beschränkt hätte.

Laut der NY Times hat Sutskever am Nachmittag ein Meeting mit den OpenAI Angestellten gehalten, in dem er die Schritte verteidigt hat.
Sie seien notwendig gewesen, damit OpenAI weiter seiner Mission folgen könne, sichere Starke KI zu entwickeln, die der Menschheit nützt: 📖 NY Times auf web.archive.org

Drei wichtige Forscher von OpenAI kündigen aus Protest: 📖 theinformation.com

Samstag, 18. November:
Satya Nadella, der CEO von Microsoft, veröffentlicht einen Tweet, in dem er der Öffentlichkeit versichert, dass Microsoft weiterhin allen nötigen Zugriff auf die Technologie von OpenAI hat und dass Microsoft weiterhin zur Partnerschaft mit OpenAI steht: 📖 twitter.com

OpenAI COO Brad Lightcap schreibt in einer internen Nachricht an die OpenAI Angestellten, dass die Entlassung nichts mit einem Fehlverhalten oder irgendetwas, das mit OpenAIs Finanz-, Geschäfts-, Sicherheits- oder Datenschutzpraktiken zusammenhängt, zu tun hat.
Lediglich die Kommunikation zwischen Altman und dem Verwaltungsrat sei "zusammengebrochen": 📖 cnbc.com

Unter dem Druck von Mitarbeitenden und Investor:innen beginnt der Verwaltungsrat Verhandlungen über eine Rückkehr von Altman und Brokman: 📖 theverge.com

Der Chief Strategy Officer von OpenAI, Jason Kwon, hat Mitarbeitenden in einer Nachricht mitgeteilt, dass er optimistisch sei, dass sie Altman und Brokman zurückholen könnten: 📖 theinformation.com

Sonntag, 19. November:
In den Verhandlungen konnte keine Einigkeit erreicht werden und nachdem die neue CEO Murati sich für eine Rückkehr von Altman ausgesprochen hat (📖 Bloomberg auf finance.yahoo.com), wurde sie durch einen weiteren neuen CEO ersetzt: Emmet Shear, früherer CEO der Videostreamingplattform Twitch: 📖 theverge.com

Montag, 20. November:
Nadella, CEO von Microsoft, verkündet auf Twitter, dass Altman und Brokman von Microsoft eingestellt wurden, um ein neues "Advanced AI" Forschungsteam zu leiten: 📖 twitter.com

Sutskever ändert seine Meinung und schreibt in einem Tweet, dass er seine Beteiligung an der ganzen Sache zutiefst bereut: 📖 twitter.com

So gut wie alle Mitarbeitenden von OpenAI unterschreiben einen offenen Brief an den Verwaltungsrat, in dem sie ebenfalls ihren Wechsel zu Microsoft ankündigen, falls Altman und Brokman nicht zurückkehren: 📖 twitter.com

Mittwoch, 22. November:
OpenAI verkündet eine Einigung mit Altman für seine Rückkehr als CEO und eine neue Zusammensetzung des Verwaltungsrats auf Twitter: 📖 twitter.com

Auch Emmet Shear zeigt sich zufrieden damit, dass seine Zeit als CEO nach nur drei Tagen wieder endet: 📖 twitter.com

Mittwoch, 29. November:
Sam Altman beschreibt in einem Blogpost die Details der Einigung:

Er wird wieder CEO, Brokman wieder President, Murati wieder CTO. Der neue Verwaltungsrat ist erstmal deutlich kleiner als der bisherige (drei statt sechs Mitglieder) und nur Adam D'Angelo hat es aus dem alten in den neuen Rat geschafft.

Zur zukünftigen Rolle von Sutskever heißt es in der Veröffentlichung nur "Obwohl er nicht mehr dem Verwaltungsrat angehören wird, hoffen wir, unsere Arbeitsbeziehung fortzusetzen und diskutieren, wie er seine Arbeit bei OpenAI fortsetzen kann."

Auch die drei Forscher, die am Freitag gekündigt hatten, haben sich OpenAI wieder angeschlossen.

Der neue Vorsitzende des Verwaltungsrats, Bret Taylor, hat außerdem angekündigt, dass dieser noch vergößert werden soll und dass eine Anwaltskanzlei mit einer Untersuchung der Vorgänge beauftragt wurde.
📖 openai.com

Die Hintergründe

Es gibt viele Gerüchte, in denen über die Hintergründe des Dramas spekuliert wird. Hier ein paar der verbreitetsten.

Manipulatives Verhalten durch Altman

Eins der ehemaligen Verwaltungsrat-Mitglieder, Helen Toner, hat an einer Forschungsarbeit mitgeschrieben, die als Kritik an Altmans Führungsstil verstanden wurde: 📖 cset.georgetown.edu.

Die Washington Post berichtet, dass mehrere Mitglieder des Verwaltungsrats das Gefühl hatten, Altman würde sie anlügen, um Toner aus dem Rat entfernt zu bekommen.

Außerdem habe es Anschuldigungen von mehreren hochrangigen Mitarbeitenden gegeben, dass Altman Mitarbeitende gegeneinander ausspiele.

📖 Washington Post auf web.archive.org

Auch die NY Times beschreibt ein ähnliches Verhalten: 📖 NY Times auf web.archive.org

Diese Theorie würde zur offiziellen Bekanntmachung von OpenAI passen, in der von nicht-offener Kommunikation und einem Vertrauensverlust die Rede ist.

Durchbruch in der KI-Forschung und Sicherheitsbedenken

Ein weiteres Gerücht dreht sich um ein neues KI Modell namens Q* (ausgesprochen auf Englisch "Q-Star"), an dem OpenAI gerade arbeitet.

Dieses Modell sei so leistungsstark, dass die Mitarbeitenden davon beunruhigt gewesen seien und den Verwaltungsrat informiert hätten, weil es gefährlich für die Menschheit werden könne.

📖 theguardian.com

Allerdings hat Shear auf Twitter geschrieben, dass unterschiedliche Ansichten, was die Sicherheit von KI angeht, keine Rolle bei der Entlassung von Altman gespielt hätten: "Der Rat hat Sam *nicht* wegen einer bestimmten Meinungsverschiedenheit über Sicherheit abgesetzt, ihre Überlegungen waren völlig andere.": 📖 twitter.com

Richtungsstreit zwischen Gewinnorientierung und Sicherheit

Ein drittes Gerücht, das ähnlich dem zweiten ist, spricht von einem Richtungsstreit zwischen Altman und Teilen des Verwaltungsrats, denen Altmans Vorgehen zu kommerziell und zu wenig auf Sicherheit bedacht gewesen sei: 📖 tagesschau.de

Verkauf von Unternehmensanteilen in Gefahr

Bei diesem Gerücht geht es darum, warum Altman so eine überwältigende Unterstützung der Mitarbeitenden erfahren hat.

OpenAI hat einen Verkauf von existierenden Anteilen geplant, so dass Mitarbeitende die Möglichkeit bekommen, ihre Anteile an OpenAI an neue Investoren zu verkaufen.

Die Firmen-Bewertung sollte dabei angeblich drei Mal so hoch sein wie noch zu Anfang des Jahres.

📖 reuters.com

Dieser Verkauf war durch die Entlassung von Altman in Gefahr geraten (📖 reuters.com), was Mitarbeitende dazu bewegt haben könnte, sich für seine Rückkehr auszusprechen.

Mögliche Auswirkungen

Welche Auswirkungen haben die Ereignisse bei OpenAI?

Mehr Einfluss für Sam Altman

Altman könnte nach dem scheinbar gewonnenen Machtkampf noch mehr Einfluss bei OpenAI haben, als er als CEO sowieso schon hatte.

Bisher hatte der Verwaltungsrat im Zweifelsfall die Kontrolle - wie Altman in einem Interview im Juni sagte: "Der Rat kann mich feuern. Ich denke das ist wichtig." 📖 bloomberg.com (21:30)

Nun hat der Verwaltungsrat tatsächlich versucht ihn zu entlassen - und es hat sich herausgestellt, dass er es doch nicht kann.

Dadurch könnte sich die Strategie von OpenAI hin zu mehr Geschwindigkeit und Gewinnorientierung verschieben.

Allerdings musste Altman, genauso wie Brokman, für seine Rückkehr seinen eigenen Sitz im Verwaltungsrat aufgeben.

Außerdem bekommt der Verwaltungsrat die Möglichkeit, zukünftig Entscheidungen der OpenAI Führung rückgängig zu machen: 📖 openai.com

Verunsicherung bei Investor:innen

Microsoft und andere Investor:innen könnten zögern, weitere Milliarden in ein Unternehmen zu stecken, über das sie keinen direkten Einfluss gewinnen und das scheinbar jeden Moment unerwartet im Chaos versinken könnte.

So hat zum Beispiel Nadella in einem Interview gesagt: "Ich werde sehr sehr klar sein: Wir werden niemals wieder in eine Situation kommen, in der wir so überrascht werden." 📖 wired.com

OpenAI hat erst vor kurzem Gespräche für eine neue Finanzierungsrunde begonnen, bei der solche Überlegungen eine Rolle spielen könnten: 📖 reuters.com

Stärkung der Konkurrenz

Insbesondere große Geschäftskund:innen von OpenAI werden ihre Abhängigkeit von dem Unternehmen untersuchen und möglicherweise Konkurrenzangebote prüfen, um handlungsfähig zu bleiben und ihre eigene Existenz nicht zu gefährden, sollte etwas ähnliches nochmal passieren.

Mehr Aufmerksamkeit für Q*

Eine mögliche Veröffentlichung von Q* wird von noch höheren Erwartungen begleitet werden.

Nach der ganzen Spekulation über einen Durchbruch, der groß genug sein könnte, um den eigenen CEO zu entlassen, wird Q* auf jeden Fall sehr viel Aufmerksamkeit bekommen.

Sichere Auswirkungen

Neben der Umstrukturierung in der OpenAI Führung gibt es noch zwei weitere Auswirkungen, die auf das Chaos zurückgeführt werden können:

Außerdem

« VorherigeNächste »

Hier abonnieren und keine Ausgabe mehr verpassen: