Type |
Projet informatique (d) |
---|
Q* (prononcer « Q-star ») est un projet (présenté comme confidentiel), révélé en 2023 par Reuters[1], et développé au sein d'OpenAI ; il s'agirait d'un projet de recherche et développement d'un nouveau modèle de langage (une intelligence artificielle) au raisonnement logique et mathématique ; un modèle qui pourrait s'approcher de ce qu'on appelle l'intelligence artificielle générale (IAG), c'est-à-dire d'un type d'IA qui serait capable de rapidement comprendre, apprendre et s'adapter à une grande variété de tâches.
Q* aurait déjà réussi à résoudre des exercices de mathématiques simples (de « niveau primaire ») mais qui peuvent laisser augurer de nouveaux progrès[2].
Le projet Q*, s'il aboutissait, aurait le potentiel de révolutionner le domaine de l'intelligence artificielle en lui faisant faire un grand pas vers l'intelligence artificielle générale, définie, selon Reuters, par OpenAI « comme des systèmes autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles »[1].
En effet, il rendrait l'intelligence artificielle capable de résoudre des problèmes très complexes, mieux et plus rapidement que ne le feraient les humains. L'intelligence artificielle pourrait aussi formuler et probablement résoudre des problèmes qui ne sont pas à la portée actuelle des humains.
Un tel projet soulève cependant des questions éthiques nouvelles et importantes. Ainsi, si une intelligence artificielle générale dépasse l'intelligence humaine, comment les humains peuvent s'assurer qu'elle sera utilisée à des fins bénéfiques ?
Le projet Q* a été porté à la connaissance du public en novembre 2023. Selon Reuters : « une équipe de "scientifiques de l’IA" » a été formée « en combinant les équipes précédentes de "Code Gen" et de "Math Gen" », pour « optimiser les modèles d’IA existants pour améliorer leur raisonnement et éventuellement effectuer des travaux scientifiques »[1].
À propos d'une supposée « percée du modèle Q* », Sam Altman, interrogé par le journal The Verge le 30 novembre 2023 a répondu :
Dans le domaine de l'IA, la lettre Q peut désigner la fonction qui mesure la qualité d'une action exécutée dans un état donné du système[4].
En novembre 2023, certains employés d'OpenAI auraient fait part de leurs inquiétudes au conseil d'administration de l'entreprise, suggérant que Q* pourrait aboutir de manière imminente à l'émergence d'une intelligence artificielle générale[5] capable de rivaliser avec l'humain. Selon eux, cette IA aurait déjà atteint le niveau de mathématiques des élèves du primaire[5],[6],[7] (l'utilisation autonome d'une logique mathématique est jusqu'ici l'une des frontières que IAg (IA générative, comme Bard ou ChatGPT).
Selon Reuters, ceci aurait justifié le licenciement brutal de Sam Altman (PDG d'OpenAI)[5] par son conseil d'administration[8],[1].
Le conseil d'administration d'OpenAI a expliqué que le départ de Sam Altman aurait été dû à un manque de franchise à l'égard du Conseil, notamment concernant la commercialisation rapide d'avancées de l'IA sans une compréhension adéquate des implications[9].
Lindsey Held Bolton, porte-parole d'OpenAI, a contesté cette perspective dans une déclaration transmise au média The Verge où OpenAI explique que Mira Murati (ingénieure logiciel ayant contribué à développer ChatGPt et DALL-E, devenue directrice technique d'OpenAI) a expliqué aux employés de quoi parlaient les reportages des médias, mais sans avoir commenté l'exactitude de l'information.
Une source proche de la situation a informé The Verge que le conseil d'administration n'avait jamais reçu de lettre concernant un développement aussi révolutionnaire et que les progrès des recherches de l'entreprise n'avaient pas été pris en compte dans le licenciement brutal d'Altman[10].
D'autres acteurs du domaine de l'IA ont émis des doutes concernant les allégations d'apparition d'une intelligence artificielle générale (IAG).
La première panique à propos de l'imminence d'une IAG avait eu lieu vers 2013 à propos d'Atari Q-learning par DeepMind. La seconde a eu lieu vers 2016 à propos de Deep RL (partiellement déclenchée par AlphaGo).