L’ONU nous alerte sur l’ia, il y a urgence à l’écouter.
L'intelligence artificielle aurait pu rester un outil d'innovation majeur dans le domaine médical, être un outil de lutte au service de l'émancipation sociale ou de l'accès aux droits.
Mais un petit nombre d'entreprises se sont lancées dans une course vorace au profit, et elles nous mettent en danger.
« Des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers. L’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en fragilisant les garde-fous qui nous séparent du lancement d’armes de destruction massive »
Pourquoi ? Voici les 5 points d’alerte.
1. La course à la puissance plutôt qu'à la sécurité
Les entreprises d'IA privilégient la vitesse et la puissance de leurs modèles plutôt que la prudence. Cela crée, selon l'ONU, un changement radical qui expose tous les aspects de nos vies à des risques existentiels accrus.
2. L'IA agentique et les défaillances de systèmes critiques
Les systèmes d'IA autonomes gèrent de plus en plus de services essentiels (eau, chauffage, finance). Une panne ou une erreur dans ces systèmes pourrait paralyser ces services et déstabiliser des infrastructures critiques, voire les institutions démocratiques.
3. L'accélération des conflits armés
L'IA agentique accélère déjà le rythme et l'ampleur des conflits armés. Elle fragilise aussi les garde-fous qui nous protègent d'un lancement d'armes de destruction massive.
4. L'amélioration récursive autonome
Certains systèmes d'IA pourraient bientôt s'améliorer eux-mêmes, sans intervention humaine. Le danger est une perte de contrôle si cette évolution devient plus rapide que notre capacité à la comprendre ou l'encadrer.
5. Même les acteurs du secteur s'inquiètent
Les dirigeants d'Anthropic, d'OpenAI et Elon Musk ont eux-mêmes appelé à ralentir le développement de l'IA. Microsoft a de son côté publié un code de conduite pour garantir que les humains restent aux commandes.
Nous, écologistes appelons à un encadrement éthique et écologique de l'IA, un moratoire sur le financement public des outils privés d'IA générative, et une mobilisation pour une école publique et émancipatrice, qui ne compte par sur l’IA pour résoudre ses problèmes majeurs.