Le mauvais coup du conseil d'administration d'OpenAI contre Sam Altman : valeurs contre valeurs

La semaine dernière a été marquée par un bouleversement massif dans le monde de la technologie. L'OpenAI, la tête d'affiche de l'IA, a été secouée par un drame. Mais l'intrigue ressemblait à une réponse hallucinée à un vague prompt de ChatGPT.

Que s'est-il passé, et pourquoi ?

Nous ne connaissons pas (encore) tous les détails, mais il semble que la situation soit enfin en train de s'apaiser. Le vendredi 17 novembre, quelques jours après le premier DevDay d'OpenAI, Sam Altman, PDG d'OpenAI, a reçu un lien vers une conférence téléphonique imprévue. Lorsqu'il s'est connecté, il s'est retrouvé face à quatre des cinq autres membres du conseil d'administration. **Greg Brockman, président du conseil d'administration et allié de Sam, n'était pas invité. Lors de cette réunion, Sam a été informé qu'il avait été licencié et que Greg Brockman avait été rétrogradé de son poste au sein du conseil d'administration, mais qu'il continuerait à travailler pour OpenAI. Cependant, lorsque la nouvelle a été annoncée, Greg a démissionné.

Le communiqué de presse a annoncé que Mira Murati, la CTO, prendrait le poste de PDG par intérim. L'annonce du licenciement de Sam a provoqué une onde de choc dans l'entreprise et dans le monde de la technologie. Il s'agissait d'une décision mal calculée qui, en fin de compte, s'est retournée contre le conseil d'administration. Nous y reviendrons plus tard. Mais d'abord...

Qui faisait partie du conseil d'administration qui a licencié Sam Altman ?

Sur les six membres du conseil d'administration, trois étaient des employés d'OpenAI, à savoir

• Greg Brockman (le président du conseil d'administration),
• Sam Altman (le PDG qui a été licencié)
• et Ilya Sutskever (le scientifique en chef).

Le conseil d'administration comptait également trois non-employés :

• Adam D'Angelo, qui a fondé Quora, le site de questions-réponses.
• Tasha McCauley, fondatrice de "Fellow Robots" et, accessoirement, épouse de Joseph Gordon-Levitt.
• Helen Toner, directrice de la stratégie et des subventions de recherche fondamentale au Centre pour la sécurité et les technologies émergentes (CSET) de Georgetown.

Le conseil d'administration avait besoin d'une majorité pour licencier le PDG et révoquer le président. Les quatre membres restants devaient donc voter à l'unanimité. Cela a alimenté les soupçons selon lesquels Ilya Sutskeva, l'unique cofondateur qui a voté en faveur de l'éviction de Sam, avait lancé le processus.

Pour justifier le licenciement, le conseil d'administration a déclaré qu'il s'agissait d'un "processus d'examen délibératif par le conseil, qui a conclu que Sam n'était pas constamment franc dans ses communications avec lui, ce qui l'empêchait d'exercer ses responsabilités". Ou, pour dire les choses plus directement, ils l'ont accusé de leur avoir menti.

Le résultat, selon eux, est que "le conseil d'administration n'a plus confiance en sa capacité à continuer à diriger OpenAI".

Comme vous pouvez le constater, la composition du conseil d'administration est différente de celle que l'on trouve dans la plupart des conseils d'administration.

Pourquoi OpenAI compte-t-elle des chercheurs et des scientifiques dans son conseil d'administration ?

Contrairement aux autres chouchous du monde de la technologie, OpenAI était une organisation à but non lucratif.

L'objectif du conseil d'administration, tel qu'indiqué sur le site web d'OpenAI, n'est pas de générer des profits mais de construire "une intelligence artificielle générale sûre et bénéfique [alias AGI] pour le bénéfice de l'humanité". Leur devoir fiduciaire est envers l'humanité, pas envers les investisseurs. Pourquoi le conseil d'administration a-t-il renvoyé Sam ? Il existe de nombreuses théories concurrentes à ce sujet, nous y reviendrons plus tard. La seule chose que nous savons, c'est qu'étant donné la composition du conseil d'administration, ce n'était pas pour des raisons commerciales.

Après l'annonce, Sam Altman a posté sur X/Twitter : "Si je commence à m'énerver, le conseil d'administration d'openai devrait me poursuivre pour la valeur totale de mes actions".

Ici Sam envoie une pique : ni lui, ni Greg, ni le reste du conseil d'administration n'ont d'actions dans OpenAI. Il est très inhabituel qu'un conseil d'administration ne détienne aucune action. Cela a été mis en place pour éviter que le conseil d'administration ne soit guidé par des intérêts commerciaux et pour lui permettre de se concentrer sur la mission d'OpenAI.

Ou, en d'autres termes, pour servir des objectifs humanistes à but non lucratif plutôt que des besoins commerciaux. Pour cette raison, la structure d'OpenAI est... suffisamment compliquée pour mériter un tableau sur leur site web.

Comme vous pouvez le voir, plusieurs entités peuvent être désignées sous le nom d'OpenAI. Le conseil d'administration contrôle l’association à but non lucratif, qui contrôle une entité de gestion, OpenAI GP, qui contrôle la société à but lucratif plafonné, OpenAI Global. C'est dans cette dernière entité que Microsoft aurait investi 13 milliards de dollars pour une participation de 49 %. Vous noterez sur le graphique que Microsoft n'exerce aucun contrôle et ne siège pas au conseil d'administration.

L'histoire d'OpenAI se déroule : Sam va chez Microsoft

Dès que l'histoire du licenciement de Sam a éclaté, les actions de Microsoft ont perdu de la valeur. Au cours du week-end, on a commencé à apprendre que Sam, Greg et tous ceux qui le souhaitaient chez OpenAI pourraient venir travailler dans une filiale de Microsoft qui serait créée à cet effet.

Pendant ce temps, le conseil d'administration d'OpenAI a nommé un nouveau PDG, Emmet Shear, qui dirigeait auparavant Twitch.

Lundi matin, Satya Nadella, le PDG de Microsoft, a confirmé la nouvelle en déclarant : "Nous nous réjouissons de faire la connaissance d'Emmett Shear" et "Nous sommes extrêmement heureux de partager la nouvelle selon laquelle Sam Altman et Greg Brockman, ainsi que des collègues, rejoindront Microsoft pour diriger une nouvelle équipe de recherche sur l'IA avancée".

Ce même lundi, Emmett Shear a confirmé la nouvelle dans un post sur X. Il a déclaré qu'il avait accepté le poste parce qu'il "sentait qu'il avait le devoir d'aider si je le pouvais".

Cependant, il a rapidement souligné dans le même billet que "le processus et les communications autour du retrait de Sam ont été très mal gérés" et a annoncé un plan en trois points pour les 30 jours à venir, qui comprend :

• Engager un "enquêteur indépendant pour examiner l'ensemble du processus qui a conduit à cette situation et produire un rapport complet".
• s'entretenir avec toutes les parties prenantes, y compris les employés, les partenaires, les investisseurs et les clients
• et reformer "l'équipe de gestion et de direction" à la lumière des récents départs pour en faire une force efficace capable de produire des résultats pour nos clients.

"En fonction des résultats, a-t-il ajouté, il "conduira des changements dans l'organisation - jusqu'à pousser fortement à des changements significatifs de gouvernance si nécessaire". Il a ajouté que "le conseil d'administration n'a pas révoqué Sam en raison d'un désaccord spécifique sur la sécurité".

Si nous supposons que le conseil d'administration a dit la vérité, cela soulève quelques questions. En particulier, si Sam n'a pas été licencié pour des raisons commerciales ni pour des raisons de sécurité, pourquoi a-t-il été licencié ? Tout d'abord, penchons-nous sur la façon dont il a été réintégré.

Le coup d'État prend du plomb dans l’aile

Les employés d'OpenAI ont commencé à poster sur X que "OpenAI n'est rien sans ses employés".

Illya Sutskever a posté qu'il "regrettait profondément d'avoir pris part aux actions du conseil d'administration et qu'il n'avait jamais eu l'intention de nuire à OpenAI", et Sam Altman a retweeté avec plusieurs émojis de cœur

Tandis que les employés s'affichaient publiquement, ils faisaient également monter la pression en interne. Une lettre ouverte des employés au conseil d'administration a commencé à circuler.

Elle accuse le conseil d'administration d'avoir déclaré qu'autoriser la destruction de l'entreprise serait "conforme à la mission". La lettre conclut que les actions du conseil d'administration ont "montré clairement que vous êtes incapables de superviser OpenAI. Nous ne pouvons pas travailler pour ou avec des personnes qui manquent de compétence, de jugement et d'attention pour notre mission et nos employés". Mira Murati, directrice technique et directrice générale par intérim, a été la première à signer. Ilya Sutskever a été le 12e. En peu de temps, 70 % des employés ont signé, puis ce chiffre est passé à 90 %.

Mardi, le dernier PDG par intérim, Emmett Shear, a déclaré au conseil d'administration qu'il démissionnerait lui aussi s'il ne fournissait pas une explication claire et des preuves des raisons du licenciement d'Altman.

Le conseil d'administration était confronté à un choix : démissionner ou voir l'ensemble du personnel d'OpenAI partir vers une nouvelle entité sous l'égide de Microsoft.

Le conseil d'administration a cédé à toutes les pressions et Sam Altman a été rétabli dans ses fonctions de PDG. À l'exception de D'Angelo qui a mené les négociations pour le retour de Sam, tous les membres du conseil d'administration ont démissionné. Un nouveau conseil a été mis en place et nous sommes revenus à la situation antérieure.

Ou bien est-ce le cas ?

Il y a encore des questions légitimes, telles que :

• Pourquoi Sam a-t-il été licencié ?
• Que se passe-t-il maintenant ?

Pourquoi Sam Altman a-t-il été licencié et que se passe-t-il maintenant ?

L'explication initiale du licenciement de Sam était un "manque de franchise", mais ce n'est qu'une partie de l'histoire. Cela soulève la question suivante : un manque de franchise à propos de quoi ?

Des spéculations sont apparues selon lesquelles le licenciement était le résultat d'une tension entre ceux qui privilégiaient la rapidité et ceux qui privilégiaient la prudence. Cette théorie opposait les membres du conseil d'administration soucieux des affaires aux scientifiques soucieux de la sécurité. Le fait qu'Helen Toner (l'un des membres du conseil d'administration) ait publié un rapport critiquant la vitesse à laquelle le ChatGPT d'OpenAI a été publié a alimenté les spéculations.

La lettre des employés soulignait également leur engagement à garantir la sécurité.

Et pourtant, Emmet Shear a semblé rejeter ces spéculations lorsqu'il a posté : "Le conseil n'a pas renvoyé Sam en raison d'un désaccord spécifique sur la sécurité, leur raisonnement était complètement différent de cela"

Et pourtant, si nous continuons à lire, il poursuit en disant : "Je ne suis pas assez fou pour accepter ce poste sans le soutien du conseil d'administration pour la commercialisation de nos formidables modèles".

Il semble qu'il parle des entreprises commerciales existantes, et de ChatGPT en particulier. Mais ChatGPT n’est qu’un LLM. Il est peut-être impressionnant, mais ce n'est pas un AGI. Les questions de sécurité concernent-elles une étape vers l'AGI ?

Lors de la conférence sur la coopération économique Asie-Pacifique qui s'est tenue juste avant son licenciement, Sam Altman a parlé de repousser "le voile de l'ignorance et la frontière de la découverte". De son côté, Reuteurs a annoncé que, dans les jours précédant la crise, plusieurs chercheurs avaient écrit une lettre au conseil d'administration pour l'avertir de la découverte d'une puissante intelligence artificielle qui, selon eux, pourrait menacer l'humanité.

Il pourrait s'agir dans les deux cas de références à un projet appelé Q*, qui pourrait constituer une percée dans la recherche de l'intelligence artificielle.

Mais pour être tout à fait honnête, nous n'en savons rien. The Verge affirme qu'une personne familière avec le sujet leur a dit **que le conseil d'administration n'a jamais reçu de lettre au sujet d'une telle percée, et que les progrès de la recherche de l'entreprise n'ont pas joué un rôle dans le licenciement soudain d'Altman.

Alors, où allons-nous maintenant ? Et pourquoi Altman a-t-il été licencié ?

Comme je l'ai dit, nous n'avons pour l'instant que des spéculations, nous n'avons aucune certitude.

Cependant, dans le cadre de l'accord pour le retour d'Altman, ce dernier a accepté une enquête interne sur le prétendu manque de franchise avec le conseil d'administration qui a conduit à son licenciement. De plus, ni lui ni Greg Brokman ne siègent au conseil d'administration. Peut-être obtiendrons-nous des réponses à un moment ou à un autre. Ou peut-être que toute question sera balayée sous le tapis.

En ce qui concerne le conseil d'administration, Adam D'Angelo est resté. Bret Taylor et Larry Summer ont rejoint le conseil. Bret Taylor, ancien PDG de Salesforce, siégeait au conseil d'administration de Twitter avant qu'Elon Musk n'en prenne la direction. Larry Summers a été secrétaire au Trésor sous Clinton et président de l'université de Harvard. Il est économiste de formation. Et bien sûr, Microsoft fait pression pour avoir un siège à la table, et on pourrait penser que 13 milliards de dollars US permettraient au moins d'acheter cela.

Cependant, malgré tous ces changements, l'entreprise reste une société à but lucratif plafonné, contrôlée par une organisation à but non lucratif.

Où va OpenAI ? Seul l'avenir nous le dira. Surveillez donc cet espace.