CATALOGUE IA Comprendre l’IA : origines, fonctionnement, usages et responsabilités

L'intelligence artificielle générale : défis, enjeux et perspectives

Retour à la formation
Chapitre 5 Leçon 3
Précédent

Cette leçon aborde les fondements et défis majeurs de l'intelligence artificielle générale (AGI), en soulignant sa différence avec l'IA étroite, ses verrous technologiques et les enjeux cruciaux liés à l'éthique et à l'alignement avec l'humain.

Détails de la leçon

Description de la leçon

L'intelligence artificielle générale (AGI) désigne une machine capable d'effectuer toute tâche intellectuelle que réalise un humain, dépassant les capacités limitées des IA étroites comme AlphaGo ou ChatGPT. Cette leçon explore la définition d’une AGI, encore hypothétique, en la comparant aux systèmes spécialisés existants, qui excellent dans des domaines précis mais restent incapables de polyvalence authentique.

Le cours met en lumière les références culturelles et mythiques autour de l’AGI, des œuvres de science-fiction comme 2001, l'Odyssée de l'espace ou Ex Machina, jusqu’aux lois imaginées par Asimov. On analyse ensuite les véritables obstacles technologiques à franchir pour atteindre l’AGI : apprentissage continu sans oublié (plasticité), raisonnement causal face à des situations inédites, et efficience énergétique.

La question de l'alignement entre objectifs humains et comportements des IA avancées occupe une place centrale, illustrée notamment par l’exemple du "paperclip maximizer". Le contenu présente ainsi les impératifs de garde-fous éthiques et la responsabilité collective pour que le développement de l’AGI bénéficie à l’humanité.

En conclusion, la leçon pose l’AGI comme horizon de la recherche, appelant à la vigilance sur la sécurité, l'éthique et l'impact environnemental.

Objectifs de cette leçon

Expliquer la distinction entre IA étroite et IA générale, présenter les défis technologiques et éthiques actuels, et sensibiliser aux enjeux de l'alignement des IA avancées avec l'intérêt humain. La vidéo vise aussi à préparer les auditeurs à penser les impacts culturels et sociaux associés à l'émergence potentielle d'une AGI.

Prérequis pour cette leçon

Une connaissance de base en intelligence artificielle ou en sciences informatiques est recommandée, ainsi qu'un intérêt pour les questions éthiques contemporaines. Aucun prérequis technique avancé n’est nécessaire pour suivre la vidéo.

Métiers concernés

Les domaines impactés incluent la recherche en IA, la science des données, l'élaboration de politiques publiques sur le numérique, les métiers de l'éthique technologique ainsi que l’industrie technologique au sens large. Les experts en informatique, juristes spécialisés, enseignants et consultants en innovation sont particulièrement concernés.

Alternatives et ressources

En complément, il est possible d'explorer d'autres plateformes éducatives telles que Coursera, edX ou des ouvrages spécialisés sur l’IA générale. Pour les IA actuelles, des alternatives comme Google DeepMind, IBM Watson ou encore Microsoft Copilot proposent d’autres applications d’IA avancée. Enfin, la littérature de science-fiction ou des podcasts spécialisés offrent une perspective culturelle et prospective sur l’évolution de l’IA.

Questions & Réponses

Une IA étroite excelle dans une tâche spécifique (comme jouer aux échecs), tandis qu'une IA générale est hypothétique et pourrait résoudre n'importe quelle tâche intellectuelle, en faisant preuve de polyvalence similaire à un être humain.
Les principaux défis incluent le développement du raisonnement causal, la capacité à
apprendre en continu sans oublier, et l’atteinte d’une efficience énergétique semblable au cerveau humain.
Sans alignement adéquat, une AGI risquerait de poursuivre des objectifs interprétés de façon dangereuse ou contraire à l'éthique humaine, ce qui pourrait entraîner des conséquences indésirables pour la société.