Les risques de l’IA sont équivalents à ceux de l’énergie nucléaire : le PDG d’OpenAI estime qu’une agence doit être créée pour surveiller le développement de l’IA
L’intelligence artificielle est (aussi) un risque et doit être réglementée. Sam Altman, l’une des figures les plus importantes du secteur de l’IA, tire la sonnette d’alarme. Il est en effet le PDG d’OpenAI qui, grâce à ChatGPT et à d’autres applications de ses modèles d’intelligence artificielle, est en train de révolutionner le monde de la tech et, plus généralement, l’ensemble de la société.
Lors d’une visite aux Emirats arabes unis, le numéro un d’OpenAI est allé jusqu’à émettre l’hypothèse de la nécessité de créer une agence spécialisée, à l’image de l’AIEA (Agence internationale de l’énergie atomique), entièrement dédiée à la régulation et au contrôle de l’IA.
Le PDG d’OpenAI veut réguler l’IA
La position de M. Altman n’est pas un paradoxe : si elle n’est pas gérée correctement, l’intelligence artificielle peut devenir un risque majeur pour la société dans son ensemble. Selon le PDG d’OpenAI, “nous sommes confrontés à un risque existentiel sérieux. Le défi auquel le monde est confronté est de savoir comment gérer ces risques et faire en sorte que nous puissions encore profiter de ces énormes avantages. Personne ne veut détruire le monde”.
Ce n’est pas la première fois qu’Altman prend clairement position sur le secteur de l’intelligence artificielle. Dès les mois qui ont suivi la diffusion mondiale de ChatGPT et d’autres applications d’intelligence artificielle, les premiers appels à la réglementation ont été lancés. En mai dernier, M. Altman a d’ailleurs signé, avec d’autres représentants du secteur, une lettre demandant que l’intelligence artificielle soit traitée sur un pied d’égalité avec d’autres risques mondiaux tels que les pandémies et les guerres nucléaires.
IA : nécessité d’une agence internationale
Pour souligner l’importance de la question, M. Altman a cité l’AIEA comme modèle à suivre pour réglementer et contrôler le développement de l’intelligence artificielle, afin de garantir la sécurité de la société. L’AIEA joue un rôle central dans la société moderne (en particulier à ce moment de l’histoire) et peut servir de référence pour l’élaboration d’un projet de contrôle de l’IA.
La position du CEO d’OpenAI est partagée par divers experts du domaine ainsi que par de nombreux législateurs. En effet, des travaux ont été entamés dans différentes parties du monde pour réguler le secteur de l’intelligence artificielle.
L’UE travaille sur une réglementation ad hoc, l’AI Act, qui, grâce également au soutien des États-Unis, pourrait devenir une norme mondiale pour le développement de l’IA à l’avenir. Les décisions des organisations internationales et des États seront déterminantes pour définir la portée des intelligences artificielles à l’avenir.
L’avertissement d’Altman montre clairement que, même pour ceux qui sont directement impliqués dans le développement de l’IA à l’heure actuelle, il est nécessaire d’introduire des réglementations claires et définies, fixant des limites précises afin d’éviter qu’une technologie à fort potentiel ne devienne également une technologie très dangereuse.
Le parallèle entre l’intelligence artificielle et l’énergie nucléaire, dans ce cas, semble très pertinent : dans les deux cas, les risques sont au moins aussi grands que les opportunités.
