Ilya Sutskever & Jan Leike
Les anciens dirigeants de l’équipe Superalignment d’OpenAI ont simultanément démissionné cette semaine, un jour après que l’entreprise a publié son impressionnant modèle GPT-4 Omni. Le L’objectif de Superalignment, défini lors de son lancement en juillet 2023, était de développer des méthodes pour « piloter ou contrôler une IA potentiellement superintelligente et prévenir ça vient de devenir un voyou.
À l’époque, OpenAI a indiqué qu’il essayait de construire ces modèles superintelligents, mais qu’il n’avait pas de solution pour les contrôler. Ce n’est pas clair. si le départ de Leike et Sutskever était lié à des problèmes de sécurité, mais leur absence laisse certainement place à la spéculation.
