L’informaticien anglo-canadien Geoffrey Hinton a déclaré que nous devions être « très prudents » et « très réfléchis » quant au développement de l’intelligence artificielle (IA), qui, selon lui, est une « technologie potentiellement très dangereuse ».
Le professeur Hinton, qui a remporté le prix Nobel de physique cette année, a déclaré que le rythme des changements dans le domaine de l’IA est « beaucoup plus rapide » que prévu et qu’il n’y a pas eu suffisamment de temps pour terminer les recherches qu’il estime nécessaires.
Si son travail a jeté les bases de l’apprentissage automatique, une technologie qui permet aux ordinateurs d’imiter l’intelligence humaine, ses efforts récents se sont concentrés sur la promotion d’une IA plus sûre.
L’année dernière, il a fait la une des journaux après avoir démissionné de son poste chez Google, citant ses craintes que de « mauvais acteurs » utilisent la technologie pour nuire à autrui.
Google avait déclaré à l’époque : « En tant que l’une des premières entreprises à publier des principes d’IA, nous restons engagés en faveur d’une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace.
Réfléchissant à l’endroit où il pensait que le développement de l’IA aurait atteint lorsqu’il a commencé ce travail, le professeur Hinton a déclaré à l’émission Today de BBC Radio 4 : « Je ne pensais pas que nous en serions là aujourd’hui. l’avenir, nous arriverions ici.
« Parce que la situation dans laquelle nous nous trouvons actuellement est que la plupart des experts dans le domaine pensent qu’un jour, probablement dans les 20 prochaines années, nous allons développer des IA plus intelligentes que les humains.
« Et c’est une pensée très effrayante. »
Il a ajouté : « J’aime y penser comme, imaginez-vous avec un enfant de trois ans – nous serons les enfants de trois ans et eux les adultes. »
Le professeur Hinton a déclaré qu’il pensait que l’impact que l’IA pourrait avoir sur le monde serait similaire à celui de la révolution industrielle.
« Pendant la révolution industrielle, la force humaine a cessé d’être aussi importante parce que les machines étaient simplement plus puissantes, et si vous vouliez creuser un fossé, vous le creusiez avec une machine.
« Ce que nous avons maintenant est quelque chose qui remplace l’intelligence humaine, et l’intelligence humaine ordinaire ne sera plus à la pointe. Ce seront des machines », a-t-il déclaré.
Lorsqu’on lui a demandé à quoi pourrait ressembler la vie dans 10 ou 20 ans, le professeur Hinton a répondu : « Cela dépendra beaucoup de ce que nos systèmes politiques feront avec cette technologie.
« Ma grande inquiétude à l’heure actuelle est que nous sommes dans une situation où nous devons être très prudents et très réfléchis quant au développement d’une technologie potentiellement très dangereuse.
« Cela va avoir de nombreux effets merveilleux dans le domaine des soins de santé, et dans presque tous les secteurs, cela va rendre les choses plus efficaces, mais nous devons être très prudents quant à son développement.
« Nous avons besoin de réglementations pour empêcher les gens de l’utiliser à des fins néfastes, et nous ne semblons pas avoir ce genre de système politique en place à l’heure actuelle. »
Le professeur Hinton a déclaré qu’il craignait que l’IA ne soit mauvaise pour la société si de nombreuses personnes perdaient leur emploi et si tous les bénéfices revenaient aux riches.
« S’il y a un grand écart entre les riches et les pauvres, c’est très mauvais pour la société », a-t-il déclaré.
« Ces choses sont plus intelligentes que nous. Il n’y a donc jamais eu la moindre chance, dans la révolution industrielle, que les machines prennent le relais des humains simplement parce qu’elles étaient plus fortes. Nous avions toujours le contrôle parce que nous avions l’intelligence.
« Maintenant, il existe une menace que ces choses puissent prendre le contrôle. C’est donc une grande différence », a-t-il ajouté.
