Global Governance of the Transition to Artificial General Intelligence: Issues and Requirements de Jerome Clayton Glenn analyse les enjeux liés à la transition vers l’Intelligence Artificielle Générale (AGI), une forme d’IA capable de performances cognitives comparables ou supérieures à celles de l’humain. L’auteur souligne que l’AGI pourrait générer des bénéfices majeurs — en santé, éducation, climat, science et paix mondiale — mais qu’elle comporte également des risques systémiques et existentiels si elle n’est pas correctement gouvernée.
Le livre examine les trajectoires possibles de développement de l’AGI, les conditions initiales nécessaires à son encadrement, ainsi que les défis éthiques liés à l’alignement des valeurs humaines avec celles de systèmes hautement autonomes. Glenn s’appuie sur des cadres internationaux existants et interroge la faisabilité d’une morale universelle pour l’AGI.
Une large part de l’ouvrage est consacrée à la gouvernance mondiale. S’appuyant sur une étude internationale du Millennium Project, intégrant les contributions de dizaines d’experts mondiaux, l’auteur propose des modèles de régulation, de licences et de coopération internationale. Il explore notamment la création d’institutions ou de traités internationaux pour éviter les abus, les usages criminels et une course aux armements technologiques.
L’ouvrage se conclut par des scénarios prospectifs positifs et des recommandations visant à assurer que l’AGI serve le bien commun, grâce à une gouvernance anticipative, collaborative et adaptative à l’échelle mondiale.
