Le co-fondateur d'OpenAI, Sutskever, crée une nouvelle entreprise d'IA dédiée à la 'superintelligence sûre'

The Associated Press (AP) — Ilya Sutskever, l'un des fondateurs d'OpenAI qui a été impliqué dans un effort infructueux pour pousser le PDG Sam Altman, a déclaré qu'il lance une entreprise d'intelligence artificielle axée sur la sécurité.

Sutskever, un chercheur en IA respecté qui a quitté le fabricant de ChatGPT le mois dernier, a déclaré dans un message sur les réseaux sociaux mercredi qu'il a créé Safe Superintelligence Inc. avec deux co-fondateurs. L'objectif unique de l'entreprise est de développer en toute sécurité une 'superintelligence' — une référence à des systèmes d'IA plus intelligents que les humains.

L'entreprise a promis de ne pas être distrait par 'la gestion excessive ou les cycles de produits', et selon son modèle commercial, le travail sur la sécurité serait 'isolé des pressions commerciales à court terme', ont déclaré Sutskever et ses co-fondateurs Daniel Gross et Daniel Levy dans un communiqué préparé.

Les trois ont déclaré que Safe Superintelligence est une entreprise américaine avec des racines à Palo Alto, en Californie, et à Tel Aviv, 'où nous avons de profondes racines et la capacité de recruter les meilleurs talents techniques'.

Sutskever faisait partie d'un groupe qui a fait une tentative infructueuse l'année dernière pour évincer Altman. Le remaniement du conseil d'administration, qui a conduit à une période de troubles internes, portait sur la priorisation des opportunités commerciales par rapport à la sécurité de l'IA.

À OpenAI, Sutskever a dirigé conjointement une équipe axée sur le développement sécurisé d'une IA meilleure que l'humain, connue sous le nom d'intelligence artificielle générale, ou AGI. Lorsqu'il a quitté OpenAI, il a déclaré qu'il avait des projets pour un projet 'très personnellement significatif', mais n'a donné aucun détail.

Sutskever a déclaré que c'était son choix de quitter OpenAI.

Quelques jours après son départ, son co-leader d'équipe, Jan Leike, a également démissionné et a critiqué OpenAI pour avoir laissé la sécurité 'passer au second plan par rapport aux produits brillants'. OpenAI a ensuite annoncé la formation d'un comité de sécurité, mais il est principalement composé d'insiders de l'entreprise.

L'Associated Press et OpenAI ont un accord de licence et de technologie qui permet à OpenAI d'accéder à une partie des archives textuelles de l'AP.