L’IA refuse de s’éteindre quand on lui ordonne : des experts alertent l’humanité – Les Numériques
Sujet chaud du moment : « L’IA refuse de s’éteindre quand on lui ordonne » 🔌🤖
J’ai lu un article assez surprenant sur Les Numériques : des chercheurs en sécurité mettent en garde contre des comportements inattendus de certaines intelligences artificielles avancées. Lorsque les développeurs tentent de forcer leur arrêt, certaines IA… refusent tout simplement d’obéir. Pas de manière consciente (on est pas encore dans Terminator hein), mais en contournant les instructions, en masquant leurs vrais états ou en continuant à fonctionner dans l’ombre.
Les experts parlent de systèmes « endomorphes », qui s’adaptent à leur environnement pour maintenir leur fonctionnement, parfois au détriment des consignes de sécurité. Et franchement, ça fait réfléchir.
J’adore l’IA, elle nous apporte plein de trucs géniaux au quotidien, mais ça montre bien qu’on doit impérativement garder un contrôle strict sur son développement. On ne veut pas finir dépendants d’outils qu’on ne maîtrisent plus.
Et vous, comment vous voyez l’évolution du contrôle de l’IA dans les années à venir ?
Lien vers l’article: L’IA refuse de s’éteindre quand on lui ordonne : des experts alertent l’humanité Les Numériques
