L'intelligence artificielle générative a transformé notre quotidien. En décembre 2024, ChatGPT comptait plus de 300 millions d'utilisateurs hebdomadaires et générait un milliard de messages par jour, marquant une adoption massive. Cependant, cette avancée technologique suscite aussi des préoccupations croissantes, car les cadres législatifs peinent à suivre le rythme rapide de développement, laissant de nombreuses questions éthiques en suspens.

 

Fondée en 2015 pour développer une IA bénéfique à l'humanité, OpenAI a adopté une structure partiellement lucrative en 2019 afin de financer des recherches coûteuses. Si cette transition a accéléré son développement, elle a également fragilisé ses principes fondateurs. L’entreprise s’était dotée de garde-fous tels qu’un comité de sûreté et une équipe Superalignment, chargée d'assurer que ses modèles restent alignés sur les valeurs humaines. Ces structures garantissaient une vigilance face aux risques potentiels, mais leur affaiblissement récent soulève des inquiétudes.

 

La dissolution de l’équipe Superalignment, en particulier, a été perçue comme un signal d’alarme. En outre, OpenAI a envisagé de modifier une clause stratégique limitant l'accès des partenaires commerciaux, tels que Microsoft, à ses modèles les plus avancés en cas de développement d’une intelligence générale artificielle (AGI). Cette clause visait à empêcher qu’une entité unique, en particulier un géant technologique, ne monopolise une innovation aussi critique.

 

Ces décisions stratégiques, éloignées de l’objectif initial d’une IA au service de l’humanité, ont exacerbé les tensions internes. Une série de départs importants en 2024 a révélé ces fractures. Des cadres dirigeants comme Mira Murati, Bob McGrew et Ilya Sutskever ont quitté l’entreprise.

 

Ces crises de gouvernance mettent en lumière la nécessité de repenser les mécanismes de supervision des IA. Plusieurs approches émergent :

 

Supervision gouvernementale : L’Europe se positionne en pionnière avec des régulations visant à promouvoir une IA digne de confiance, protégeant la santé et les droits fondamentaux. Toutefois, ce cadre rigide freine parfois l’innovation, contrairement aux écosystèmes moins régulés comme celui des États-Unis.

 

Supervision des investisseurs : Les investisseurs peuvent jouer un rôle clé en intégrant des critères ESG dans leurs décisions. Par exemple, certains gérant d’actifs financiers échangent avec des entreprises pour garantir que les IA qu'elles utilisent soient déployées de manière éthique et sans biais. Cependant, les critères ESG spécifiques à l’IA restent encore largement absents.

 

Enfin, la course vers l’AGI rappelle celle pour l'énergie nucléaire au XXe siècle, avec des promesses révolutionnaires et des risques sans précédent. L’AGI pourrait transformer la médecine, l’éducation, l’énergie et les technologies de rupture, mais elle présente aussi des menaces potentielles. Si elle est contrôlée par des acteurs malveillants ou utilisée sans régulation stricte, elle pourrait fragiliser nos systèmes économiques et politiques, engendrant des manipulations massives ou des bouleversements mondiaux.

 

Tout comme les scientifiques de l’époque ignoraient si une réaction nucléaire serait maîtrisable, nous ne savons pas encore quels impacts une AGI pourrait avoir. Le contrôle d'une telle technologie par un acteur unique pourrait provoquer des conséquences irréversibles pour la société et l’environnement.

 

Il est donc impératif de mettre en place des garde-fous solides pour éviter que cette course effrénée vers l’AGI ne mène à des bouleversements incontrôlables. L’avenir de cette technologie doit être encadré par des principes éthiques et une supervision rigoureuse afin de garantir qu’elle serve réellement l’humanité.