Un ancien PDG de Google sur le moment où « nous devons sérieusement penser à débrancher » l’IA
En théorie, quelqu’un devrait « mettre la main sur la prise » lorsque l’IA commence à « s’auto-améliorer », a déclaré Eric Schmidt.
L’ancien directeur de Google (GOOGLE
Lectures Recommandées
) affirme que les ordinateurs seront bientôt capables de prendre leurs propres décisions — et les humains devront savoir quand débrancher.Eric Schmidt, qui a passé une décennie en tant que directeur général du pionnier de l’intelligence artificielle, a déclaré que les humains doivent tirer parti de l’IA « tout en préservant la dignité et les valeurs humaines » pendant une interview sur ABC News
Contenu Connexe
(
DIS)« Cette semaine. »
Les médias sociaux ont rapidement changé l’esprit du temps à l’échelle mondiale, a déclaré Schmidt, « et imaginez maintenant une manière beaucoup plus intelligente et plus puissante d’envoyer des messages, d’inventer des choses, le rythme de l’innovation, la découverte de médicaments et tout cela, plus toutes sortes de mauvaises choses, comme les armes et les cyberattaques. »
Bientôt, a déclaré Schmidt, il y aura des ordinateurs qui pourront fonctionner « tout seuls, en décidant ce qu’ils veulent faire ». Actuellement, l’industrie se concentre sur
Agents IA
— ou des logiciels capables d’accomplir des tâches complexes de manière autonome — mais la technologie aura des « objectifs plus puissants ».
« Finalement, vous dites à l’ordinateur : « apprenez tout et faites tout », et c’est un point dangereux », a déclaré Schmidt. « Lorsque le système peut s’auto-améliorer, nous devons sérieusement penser à le débrancher. »
Lorsqu’on lui a demandé si un système d’IA aussi puissant aurait la capacité de contrer les efforts visant à le fermer, Schmidt a répondu : « En théorie, il vaut mieux avoir quelqu’un qui ait la main sur la prise. »
À mesure que l’IA devient plus intelligente, « chaque personne aura l’équivalent d’un polymathe dans sa poche », a déclaré Schmidt, mais on ne sait pas vraiment « ce que cela signifie de donner ce genre de pouvoir à chaque individu ». On craint désormais qu’une entreprise qui se précipite pour développer l’IA décide de sauter des étapes dans les tests de sécurité, a déclaré Schmidt, et finisse par commercialiser un système dangereux.