La crise de l’IA menace l’humanité : OpenAI sous tension avec Microsoft en arrière-plan

Ads

Selon des sources citées par Reuters, plusieurs chercheurs d’OpenAI ont écrit une lettre au conseil consultatif de l’entreprise, les avertissant d’une “découverte puissante” dans le domaine de l’intelligence artificielle qui pourrait menacer l’humanité quelques jours seulement avant le retour du PDG de l’entreprise, Sam Altman.

Les principales innovations à l’origine du licenciement d’Altman, le gourou de la technologie propagandiste de l’IA derrière ChatGPT, étaient la carte et l’algorithme de l’IA. Plus de 700 employés d’OpenAI ont menacé de démissionner et de rejoindre Microsoft en solidarité avec le leader disculpé avant son retour triomphal le mercredi 21.

Microsoft ignore la crise d’OpenAI et devrait en sortir victorieux. Les grandes entreprises technologiques ont agi rapidement pour éviter que leurs investissements ne soient entachés par la confrontation.

Selon des sources, le renvoi d’Altman peut en partie être attribué au contenu de la lettre, qui incluait des préoccupations concernant la commercialisation des avancées de l’IA avant une compréhension des conséquences de leur utilisation. Aucune copie de la lettre n’était disponible pour que Reuters l’analyse. Les employés ayant rédigé le contenu ont ignoré les demandes de commentaires.

Selon l’une des sources, après avoir été contactée par Reuters, OpenAI a refusé de commenter mais a ensuite reconnu l’existence d’un projet appelé “Q*” dans une note interne aux employés et une lettre à la direction avant les événements du week-end. Un porte-parole d’OpenAI a déclaré que le message, envoyé par l’exécutif Mira Murati, alertait l’équipe de certaines informations médiatiques sans préciser leur importance.

Certains employés d’OpenAI pensent que le projet “Q*” (prononcé Q-Star) pourrait être une avancée dans la recherche de l’entreprise sur ce qui est connu sous le nom d’intelligence artificielle générale (AGI, en anglais). OpenAI définit l’intelligence artificielle générale comme des systèmes capables de surpasser les humains dans la plupart des tâches économiquement valorisables.

Selon la source, le nouveau modèle a été capable de résoudre certains problèmes mathématiques grâce à son accès à d’importantes ressources de calcul. Les chercheurs sont optimistes quant à l’avenir du projet “Q*” malgré le fait que le modèle n’a été testé qu’avec des calculs mathématiques d’écoliers.

“Les ignorants s’évanouissent” Les chercheurs voient les mathématiques comme la frontière du développement d’une IA créative. Les réponses à la même question peuvent varier considérablement en raison de l’état actuel de l’IA générale, qui est douée pour l’écriture et la traduction dans différentes langues en prédisant statistiquement le mot suivant. Cependant, maîtriser les tâches de comptabilité, pour lesquelles il n’y a qu’une seule réponse correcte, impliquerait que l’IA a des capacités de raisonnement comparables à celles des humains. Les chercheurs en intelligence artificielle estiment que cela pourrait être utilisé dans de nouvelles études scientifiques.

L’intelligence artificielle générale (AGI) a la capacité de généraliser, d’apprendre et de comprendre, contrairement à une calculatrice qui ne peut effectuer qu’un certain nombre d’opérations.

Selon des sources, les chercheurs ont souligné les dangers potentiels de l’IA dans une lettre au conseil, mais ils n’ont pas précisé les inquiétudes sécuritaires exactes soulevées. Les informaticiens débattent depuis longtemps de la menace posée par les machines surintelligentes, notamment de savoir si elles choisiraient ou non de détruire l’humanité si elles en avaient l’opportunité.

Les chercheurs ont également mentionné le travail d’une “équipe de scientifiques en IA”, dont l’existence a été confirmée par de nombreuses sources. L’équipe, qui a été formée en fusionnant les équipes “Code Gen” et “Math Gen” précédentes, travaille à l’optimisation des modèles d’IA existants pour renforcer leur raisonnement et, en fin de compte, réaliser des travaux scientifiques, comme l’a déclaré l’un d’entre eux.

Altman a dirigé les efforts visant à faire de ChatGPT l’une des applications à la croissance la plus rapide jamais réalisée, attirant les investissements et les ressources informatiques dont Microsoft avait besoin pour se rapprocher de l’AGI.

En plus de dévoiler une multitude d’outils lors d’une démonstration ce mois-ci, Altman a déclaré à un groupe de dirigeants mondiaux à San Francisco la semaine dernière qu’il croyait en des avancées significatives dans la technologie de l’intelligence artificielle.

“Pouvoir le faire est l’honneur professionnel d’une vie”, a-t-il déclaré devant le Comité de coopération d’OpenAI. “Quatre fois dans l’histoire d’OpenAI, avec la plus récente ayant eu lieu au cours des deux dernières semaines, j’ai pu être dans la pièce lorsque nous avons repoussé le voile de l’ignorance derrière nous et dévoilé la frontière de la découverte devant nous”, a-t-il ajouté.

Le lendemain, la direction d’OpenAI a licencié Altman.