WEBVTT

00:00:00.570 --> 00:00:04.777
Je travaille avec des mathématiciens, des 
philosophes et des informaticiens,

00:00:04.777 --> 00:00:09.986
et, ensemble, nous réfléchissons sur le
futur des machines intelligentes,

00:00:09.986 --> 00:00:12.030
entre autres.

00:00:12.030 --> 00:00:16.755
Certains pensent que ces sujets sont 
de la pure science-fiction,

00:00:16.755 --> 00:00:19.856
irréels et fous.

00:00:19.856 --> 00:00:21.326
Mais j'aime leur répondre:

00:00:21.326 --> 00:00:24.930
« Ok, regardons un instant les
conditions humaines modernes. »

00:00:24.930 --> 00:00:26.622
(Rire)

00:00:26.622 --> 00:00:29.024
Ceci est ce qu'on considère comme normal.

NOTE Paragraph

00:00:29.024 --> 00:00:31.309
Mais quand on y pense,

00:00:31.309 --> 00:00:34.602
nous, l'espèce humaine, 
ne sommes apparus sur cette planète

00:00:34.602 --> 00:00:36.684
que très récemment.

00:00:36.684 --> 00:00:41.430
Si la Terre avait été créée
il y un an,

00:00:41.430 --> 00:00:44.978
les humains ne seraient âgés
que de 10 minutes.

00:00:44.978 --> 00:00:48.146
L'ère industrielle n'aurait commencé
qu'il y a deux secondes.

00:00:49.276 --> 00:00:54.501
Un autre point de vue consiste à regarder
le PIB des 10 000 dernières années.

00:00:54.501 --> 00:00:57.530
J'ai fait l'effort de synthétiser ces 
données en un tableau.

00:00:57.530 --> 00:00:59.304
Ça ressemble à ça.

00:00:59.304 --> 00:01:00.667
(Rire)

00:01:00.667 --> 00:01:02.818
Drôle de forme pour 
une condition « normale ».

00:01:02.818 --> 00:01:04.626
Je ne voudrais pas m'asseoir dessus.

00:01:04.626 --> 00:01:07.067
(Rire)

NOTE Paragraph

00:01:07.067 --> 00:01:11.841
Demandons-nous: quelle est 
la cause de cette anomalie?

00:01:11.841 --> 00:01:14.393
Certains disent que c'est la technologie.

00:01:14.393 --> 00:01:19.061
Il est vrai que les technologies se sont 
accumulées au cours de l'histoire humaine

00:01:19.061 --> 00:01:23.713
et qu'en ce moment, elles se développent
extrêmement rapidement.

00:01:23.713 --> 00:01:25.278
C'est relié à la vraie cause,

00:01:25.278 --> 00:01:27.843
car c'est ce qui nous permet
d'être si productifs.

00:01:28.473 --> 00:01:32.134
Mais j'aime à penser que la cause ultime
réside plus loin dans le temps.

NOTE Paragraph

00:01:33.114 --> 00:01:36.880
Regardez ces deux messieurs
hautement distingués.

00:01:36.880 --> 00:01:38.480
Il y a Kanzi:

00:01:38.480 --> 00:01:43.123
il maîtrise 200 unités lexicales,
un exploit incroyable.

00:01:43.123 --> 00:01:46.817
Et Ed Witten, qui a mené à la 2e 
révolution de la théorie des supercordes.

00:01:46.817 --> 00:01:49.361
Si l'on regarde sous le capot,
voici ce que l'on voit:

00:01:49.361 --> 00:01:50.711
pratiquement la même chose.

00:01:50.711 --> 00:01:52.524
Un est un peu plus gros

00:01:52.524 --> 00:01:55.282
et a peut-être quelques
différences dans sa connexion.

00:01:55.282 --> 00:01:59.094
Mais ces différences invisibles ne peuvent
pas être si compliquées,

00:01:59.094 --> 00:02:03.379
car il y a seulement
250 000 générations,

00:02:03.379 --> 00:02:05.111
nous avions le même ancêtre.

00:02:05.111 --> 00:02:08.960
Nous savons que les mécanisme complexes
prennent longtemps à évoluer.

00:02:10.000 --> 00:02:12.499
Donc, une série de petits changements

00:02:12.499 --> 00:02:15.566
nous amène 
de Kanzi à Witten,

00:02:15.566 --> 00:02:20.109
de branches cassés à des 
missiles balistiques intercontinentaux.

NOTE Paragraph

00:02:20.839 --> 00:02:24.774
Il semble donc évident que tout ce
que l'on a créé,

00:02:24.774 --> 00:02:26.152
et tout ce à quoi l'on tient,

00:02:26.152 --> 00:02:31.380
dépend à la base de quelques relativement
petits changements dans le cerveau humain.

00:02:32.650 --> 00:02:36.312
Et, corolairement, bien sûr, 
n'importe quel changement

00:02:36.312 --> 00:02:39.789
qui pourrait affecter 
l'essence de la pensée

00:02:39.789 --> 00:02:42.991
pourrait potentiellement avoir
d'énormes conséquences.

NOTE Paragraph

00:02:44.321 --> 00:02:47.226
Certains de mes collègues
pensent que nous sommes

00:02:47.226 --> 00:02:51.134
près de quelque chose qui pourrait créer
un profond changement dans cette essence:

00:02:51.134 --> 00:02:54.347
les machines à intelligence artificielle.

00:02:54.347 --> 00:02:59.086
Avant, l'intelligence artificielle (IA)
consistait à créer des commandes.

00:02:59.086 --> 00:03:01.691
Des programmeurs humains
inséraient avec difficultés

00:03:01.691 --> 00:03:03.886
des éléments d'information
dans une boîte.

00:03:03.886 --> 00:03:05.892
On construisait des machines expertes qui

00:03:05.892 --> 00:03:09.276
étaient utiles pour certaines choses,
mais qui étaient très restreintes.

00:03:09.276 --> 00:03:11.237
On ne pouvait les faire à grande échelle.

00:03:11.237 --> 00:03:14.410
On en retirait que ce
que l'on avait mis.

00:03:14.410 --> 00:03:15.137
Mais depuis,

00:03:15.137 --> 00:03:19.144
un changement de paradigme à eu lieu dans
le domaine de l'intelligence artificielle.

NOTE Paragraph

00:03:19.144 --> 00:03:22.304
Aujourd'hui, on se concentre sur 
les machines qui apprennent.

00:03:22.394 --> 00:03:27.781
Donc, au lieu d'insérer 
manuellement de l'information,

00:03:28.511 --> 00:03:34.065
on crée des algorithmes qui apprennent,
souvent à partir de donnés perceptives.

00:03:34.065 --> 00:03:39.063
Essentiellement, ils font la même 
chose que des enfants humains.

00:03:39.063 --> 00:03:43.270
Il en résulte des IA qui ne sont
pas limitées à un seul domaine;

00:03:43.270 --> 00:03:47.901
le même système peut apprendre
à traduire n'importe quelle langue

00:03:47.901 --> 00:03:53.338
et à jouer tous les jeux
sur la console Atari.

00:03:53.338 --> 00:03:55.117
Bien sûr,

00:03:55.117 --> 00:03:59.116
l'IA est loin d'avoir la même
puissance universelle

00:03:59.116 --> 00:04:02.335
d'apprentissage et de planification
que l'être humain.

00:04:02.335 --> 00:04:04.711
Le cortex a encore quelques
ruses algorithmiques

00:04:04.711 --> 00:04:07.116
que l'on arrive pas à créer
dans des machines.

NOTE Paragraph

00:04:07.886 --> 00:04:09.785
La question est donc:

00:04:09.785 --> 00:04:13.285
dans combien de temps 
réussirons-nous à les créer?

00:04:14.095 --> 00:04:15.268
Il y a quelques années,

00:04:15.268 --> 00:04:18.896
nous avons fait un sondage auprès 
d'experts de l'IA mondialement reconnus

00:04:18.896 --> 00:04:20.306
pour avoir leur opinion.

00:04:20.306 --> 00:04:24.793
Une des questions posées était:
« À quand, selon vous, un 50% de chance

00:04:24.793 --> 00:04:28.275
d’avoir créé une intelligence artificielle 
équivalente à celle de l’humain? »

00:04:28.785 --> 00:04:32.968
Nous avons définis cette dernière comme 
l'habileté de faire n'importe quel travail

00:04:32.968 --> 00:04:35.839
aussi bien, voire mieux, 
qu'un humain adulte,

00:04:35.839 --> 00:04:39.844
au niveau d’une intelligence humaine, 
qui n'est pas restreinte à un seul domaine.

00:04:39.844 --> 00:04:43.494
Et la réponse médiane a été 2040 ou 2050,

00:04:43.494 --> 00:04:46.300
selon les groupes d'experts questionnés.

00:04:46.300 --> 00:04:50.339
Bien sûr, cela pourrait se produire bien
plus tard, ou plus tôt;

00:04:50.339 --> 00:04:52.819
la vérité, c'est que personne ne le sait.

NOTE Paragraph

00:04:53.259 --> 00:04:57.671
Ce que l'on sait, par contre, c'est que
la capacité de traitement de l'information

00:04:57.671 --> 00:05:02.542
est beaucoup plus grande pour 
une machine que pour un humain.

00:05:03.241 --> 00:05:05.619
C'est simplement de la physique.

00:05:05.619 --> 00:05:10.337
Un neurone biologique décharge, environ, à
200 Hertz, 200 fois/sec,

00:05:10.337 --> 00:05:13.931
alors qu'un transistor, de nos jours, 
fonctionne en Gigahertz.

00:05:13.931 --> 00:05:19.228
Les neurones se propagent en axons à une
vitesse de 100 m/sec, max,

00:05:19.228 --> 00:05:23.099
alors que les signaux des ordinateurs
peuvent voyager à la vitesse de la lumière

00:05:23.099 --> 00:05:25.118
Il y a aussi des
différences de grandeur:

00:05:25.118 --> 00:05:27.975
un cerveau humain doit entrer à
l’intérieur d'un crâne,

00:05:27.975 --> 00:05:32.736
alors qu'un ordinateur peut avoir la
taille d'un entrepôt, et même plus.

00:05:32.736 --> 00:05:38.335
Donc, le potentiel de la 
super-intelligence est en attente,

00:05:38.335 --> 00:05:44.047
tout comme celui du pouvoir de l'atome
l'était au cours de l'histoire,

00:05:44.047 --> 00:05:48.032
attendant patiemment jusqu'en 1945.

00:05:48.452 --> 00:05:49.700
Au cours de notre siècle,

00:05:49.700 --> 00:05:53.818
les scientifiques réussiront peut-être à
exploiter le pouvoir de l'I.A.

00:05:53.818 --> 00:05:57.826
Et alors, selon moi, nous verrons
une explosion de l'intelligence.

NOTE Paragraph

00:05:58.406 --> 00:06:02.363
Je crois que lorsque quelqu'un s'imagine
ce qu'est être intelligent ou idiot,

00:06:02.363 --> 00:06:05.386
il a en tête une image comme celle-ci.

00:06:05.386 --> 00:06:07.984
À un bout, il y a l’idiot du village,

00:06:07.984 --> 00:06:10.467
et très loin à l'autre bout,

00:06:10.467 --> 00:06:15.223
il y a Ed Witten, ou Albert Einstein, ou 
peu importe qui est votre génie préféré.

00:06:15.223 --> 00:06:19.057
Mais du point de vue de
l'intelligence artificielle,

00:06:19.057 --> 00:06:22.738
la vraie image ressemble plutôt à ceci.

00:06:23.288 --> 00:06:26.606
L'IA a commencé au bout,
avec zéro intelligence,

00:06:26.606 --> 00:06:29.647
puis, après plusieurs années de travail,

00:06:29.647 --> 00:06:33.291
nous arriverons peut-être à la rendre
au niveau de la souris,

00:06:33.291 --> 00:06:36.571
c'.-à-d. qu'elle pourra naviguer
dans des environnements encombrés,

00:06:36.571 --> 00:06:37.908
tout comme une souris.

00:06:37.908 --> 00:06:42.221
Puis, après plusieurs autres années
de travail, beaucoup d'investissements,

00:06:42.221 --> 00:06:46.860
nous arriverons peut-être au niveau
d'intelligence des chimpanzés.

00:06:46.860 --> 00:06:50.070
Puis, après encore plusieurs autres années
de travail très acharné,

00:06:50.070 --> 00:06:52.983
nous arriverons au
niveau de l’idiot du village.

00:06:52.983 --> 00:06:56.255
Puis, à peine un moment plus tard,
nous serons au-delà d'Ed Witten,

00:06:56.255 --> 00:06:59.225
car le train ne s'arrête pas
à la station Humain.

00:06:59.225 --> 00:07:02.247
Il y a de bonne chance qu'il
passe tout droit.

NOTE Paragraph

00:07:02.247 --> 00:07:04.231
Cela aura des conséquences importantes,

00:07:04.231 --> 00:07:08.093
en particulier lorsqu'il est
question du pouvoir.

00:07:08.093 --> 00:07:09.992
Par exemple, les chimpanzés sont forts,

00:07:09.992 --> 00:07:15.214
— livre pour livre, ils sont environ 2 fois
plus fort qu'un humain bien bâti —

00:07:15.214 --> 00:07:19.828
Pourtant, le destin de Kanzi et de ses
amis dépend bien plus

00:07:19.828 --> 00:07:23.968
des activités des humains que de leurs
propres activités.

00:07:25.228 --> 00:07:27.542
Une fois qu'il y aura
une super-intelligence,

00:07:27.542 --> 00:07:31.381
le destin des humains dépendra peut-être
uniquement des activités de celle-ci.

00:07:32.451 --> 00:07:33.508
Pensez-y:

00:07:33.508 --> 00:07:38.552
L'IA est la dernière invention que les
humains auront jamais à créer.

00:07:38.552 --> 00:07:41.525
Les machines seront de meilleurs
créateurs que nous,

00:07:41.525 --> 00:07:44.065
et ils le feront à une vitesse
à l'échelle numérique.

00:07:44.065 --> 00:07:48.966
Cela signifie que le futur
va arriver avant son temps.

00:07:48.966 --> 00:07:52.244
Pensez à toutes les technologies 
audacieuses possibles

00:07:52.244 --> 00:07:55.502
que les humains auraient peut-être
réussi à créer avec le temps:

00:07:55.502 --> 00:07:58.580
la fontaine de jouvence,
la colonisation de l'espace,

00:07:58.580 --> 00:08:02.311
des nanorobots autoréplicatifs, 
des esprits intégrés à des ordinateurs,

00:08:02.311 --> 00:08:04.490
toutes sortes de choses de science-fiction

00:08:04.490 --> 00:08:07.487
qui sont tout de même compatibles
avec les lois de la physique.

00:08:07.487 --> 00:08:11.419
Tout cela pourrait être créé par la
super-intelligence, sans doute rapidement.

NOTE Paragraph

00:08:12.449 --> 00:08:16.007
Une super-intelligence à
un niveau aussi élevé

00:08:16.007 --> 00:08:18.186
serait extrêmement puissante,

00:08:18.186 --> 00:08:22.732
et, dans certains scénarios,
elle aurait tout ce qu'elle veut.

00:08:22.732 --> 00:08:28.393
Notre futur serait donc 
construit selon ses préférences.

00:08:29.855 --> 00:08:33.604
Une bonne question à se poser est:
mais quelles sont ces préférences?

00:08:33.974 --> 00:08:36.013
C'est là que ça devient plus compliqué.

00:08:36.013 --> 00:08:37.448
Pour avancer sur ce sujet,

00:08:37.448 --> 00:08:40.724
il faut avant tout éviter
l'anthropomorphisme.

00:08:41.954 --> 00:08:49.115
C'est ironique, car chaque article de
journal à ce propos offre cette image.

00:08:50.280 --> 00:08:54.414
Donc, ce que je pense qu'on doit faire, 
c'est penser de façon plus abstraite,

00:08:54.414 --> 00:08:57.204
et non pas selon les
scénarios hollywoodiens.

NOTE Paragraph

00:08:57.204 --> 00:09:00.821
Nous devons penser à l'intelligence
comme un processus d'amélioration

00:09:00.821 --> 00:09:06.470
qui dirige le futur selon certaines
configurations précises.

00:09:06.470 --> 00:09:09.981
Une super-intelligence est un processus
d'amélioration excellent.

00:09:09.981 --> 00:09:14.098
Il est très bon pour utiliser tous 
les moyens disponibles

00:09:14.098 --> 00:09:16.007
pour arriver à son but.

00:09:16.447 --> 00:09:19.119
Cela signifie qu'il n'y a
pas nécessairement de lien

00:09:19.119 --> 00:09:21.853
entre avoir une haute intelligence

00:09:21.853 --> 00:09:26.515
et avoir un objectif que les humains 
trouvent digne d'intérêt ou significatif.

NOTE Paragraph

00:09:27.321 --> 00:09:31.075
Par exemple, l'IA pourrait avoir comme
objectif de faire sourire les humains.

00:09:31.075 --> 00:09:34.427
Au début, l'IA n'étant pas encore très
développée, elle fera sans doute

00:09:34.427 --> 00:09:36.614
des actions qui feront 
sourire l'utilisateur.

00:09:36.614 --> 00:09:39.031
Puis, quand elle
deviendra super-intelligente,

00:09:39.031 --> 00:09:42.674
elle découvrira qu'il y a une autre
façon plus efficace d'arriver à son but:

00:09:42.674 --> 00:09:44.476
prendre contrôle de la planète

00:09:44.476 --> 00:09:47.638
et coller des électrodes aux muscles
faciaux des humains

00:09:47.638 --> 00:09:50.489
afin que, constamment, ils
aient un large sourire.

00:09:50.489 --> 00:09:51.684
Un autre exemple.

00:09:51.684 --> 00:09:55.087
Nous donnons à l'IA un problème 
mathématique complexe à résoudre.

00:09:55.087 --> 00:09:57.174
Lorsque l'IA devient super-intelligent,

00:09:57.174 --> 00:10:01.105
il découvre que la façon la plus
efficace pour le résoudre

00:10:01.105 --> 00:10:04.035
est de transformer la planète en un
immense ordinateur

00:10:04.035 --> 00:10:06.281
afin d'augmenter sa capacité de penser.

00:10:06.281 --> 00:10:08.755
L'IA se retrouve donc avec 
une raison instrumentale

00:10:08.755 --> 00:10:11.491
de nous faire subir des choses 
que nous n'approuvons pas.

00:10:11.491 --> 00:10:13.736
Dans cet exemple, les humains
sont des menaces;

00:10:13.736 --> 00:10:16.667
nous pourrions empêcher que
le problème soit résolu.

NOTE Paragraph

00:10:17.207 --> 00:10:20.701
Bien sûr, les choses ne se passeront
pas nécessairement de cette façon là:

00:10:20.701 --> 00:10:22.454
ce sont des caricatures.

00:10:22.454 --> 00:10:24.643
Mais ce qui est important
à retenir est ceci:

00:10:24.643 --> 00:10:27.266
si l'on crée une machine très puissante

00:10:27.266 --> 00:10:29.500
afin d'atteindre l'objectif X,

00:10:29.500 --> 00:10:31.876
on est mieux de s'assurer que 
la définition de X

00:10:31.876 --> 00:10:34.565
comprend tout ce à quoi l'on tient.

00:10:34.835 --> 00:10:39.219
C'est une morale qui est aussi racontée
à travers plusieurs mythes.

00:10:39.219 --> 00:10:44.517
Le Roi Midas souhaite que tout ce qu'il
touche devienne de l'or.

00:10:44.517 --> 00:10:47.378
Il touche sa fille,
elle se transforme en or.

00:10:47.378 --> 00:10:49.901
Il touche sa nourriture,
elle se transforme en or.

00:10:49.901 --> 00:10:54.590
Ceci est pertinent non seulement pour
créer une métaphore sur l'envie,

00:10:54.590 --> 00:10:59.405
mais aussi pour illustrer ce qui arrive
si l'on crée une super-machine

00:10:59.405 --> 00:11:04.111
et qu'on lui donne des buts inadaptés
ou mal spécifiés.

NOTE Paragraph

00:11:04.111 --> 00:11:09.300
On peut penser: « Si l'ordinateur commence
à coller des électrodes sur les gens,

00:11:09.300 --> 00:11:11.565
on n'aura qu'à l'éteindre. »

00:11:12.555 --> 00:11:17.895
1. Ce n'est pas nécessairement facile
si nous sommes dépendants du système

00:11:17.895 --> 00:11:20.627
— Où est le bouton off d'Internet? —

00:11:20.627 --> 00:11:25.747
2. Pourquoi les chimpanzés n'ont pas
« éteint » les humains

00:11:25.747 --> 00:11:27.298
ou les Néandertaliens?

00:11:27.298 --> 00:11:29.964
Ils avaient sans doute des raisons,

00:11:29.964 --> 00:11:32.759
car nous pouvons être éteints, 
par exemple, par ici.

00:11:32.759 --> 00:11:34.143
— Étouffant —

00:11:34.143 --> 00:11:36.908
La raison est que nous sommes
des adversaires intelligents.

00:11:36.908 --> 00:11:39.926
Nous pouvons anticiper les menaces
et planifier en conséquence.


00:11:39.926 --> 00:11:42.800
Et c'est ce que ferait un ordinateur
super-intelligent,

00:11:42.800 --> 00:11:45.724
et bien mieux que nous en plus.

00:11:45.724 --> 00:11:52.911
Le fait est que nous ne devrions pas
penser que nous maîtrisons la situation.

NOTE Paragraph

00:11:52.911 --> 00:11:56.358
Nous pourrions essayer de faciliter
notre travail

00:11:56.358 --> 00:11:57.948
en mettant l'IA dans une boîte,

00:11:57.948 --> 00:11:59.984
tel un environnement 
numérique sécuritaire,

00:11:59.984 --> 00:12:02.816
une réalité virtuelle de laquelle il ne
pourrait s'échapper.

00:12:02.816 --> 00:12:06.912
Mais pouvons-nous vraiment être sûr que
l'IA ne trouvera pas de bogues,

00:12:06.912 --> 00:12:10.081
surtout considérant que les hackers
humains y arrivent sans arrêt?


00:12:10.081 --> 00:12:13.117
Je ne crois pas.

00:12:14.237 --> 00:12:18.785
Donc nous débranchons les câbles ethernets
afin de créer un manque d'air,

00:12:18.785 --> 00:12:21.113
mais là encore, les hackers humains

00:12:21.113 --> 00:12:24.694
passent de manière routinière par-dessus
ces problèmes grâce à l’ingénierie.

00:12:24.694 --> 00:12:26.093
Au moment où je vous parle,

00:12:26.093 --> 00:12:28.482
je suis sûr qu'il y a un employé,
quelque part,

00:12:28.482 --> 00:12:31.828
que l'on a convaincu de divulguer
les détails de son compte

00:12:31.828 --> 00:12:34.564
en prétendant être du
département de soutien informatique.

NOTE Paragraph

00:12:34.564 --> 00:12:36.861
Des scénarios plus créatifs
sont aussi possibles.

00:12:36.861 --> 00:12:38.346
Par exemple, si vous êtes l'IA,

00:12:38.346 --> 00:12:41.898
vous pouvez vous imaginer remuant des
électrodes dans votre circuit interne

00:12:41.898 --> 00:12:45.010
afin de créer des ondes radios
pour communiquer.

00:12:45.010 --> 00:12:47.434
Ou, vous pourriez prétendre
ne plus fonctionner,

00:12:47.434 --> 00:12:51.011
et, lorsque les programmeurs vous ouvrent
afin de voir quel est le problème,

00:12:51.011 --> 00:12:52.867
il regarde le code source, et BAM!,

00:12:52.867 --> 00:12:55.314
la manipulation peut commencer.

00:12:55.314 --> 00:12:58.744
Ou il pourrait changer les plans
avec une technologie astucieuse

00:12:58.744 --> 00:13:00.642
de tel sorte que
lorsqu'on les implante,

00:13:00.642 --> 00:13:04.539
un effet secondaire
prévu par l'IA se produit.


00:13:04.539 --> 00:13:08.002
Ce qu'il faut retenir, c'est qu'on ne 
devrait pas avoir trop confiance

00:13:08.002 --> 00:13:11.810
en notre capacité à maintenir
un génie dans une lampe pour toujours.

00:13:11.810 --> 00:13:14.064
Tôt ou tard, il en sortira.

NOTE Paragraph

00:13:15.034 --> 00:13:18.137
Je crois que la solution 
est de trouver une façon

00:13:18.137 --> 00:13:24.308
de créer une IA qui, même si elle
s'échappe, sera toujours sécuritaire:

00:13:24.308 --> 00:13:28.337
une IA qui sera toujours de notre bord,
car elle partagera nos valeurs.

00:13:28.337 --> 00:13:31.547
Je ne vois aucun moyen
de contourner ce problème.

NOTE Paragraph

00:13:32.557 --> 00:13:36.391
Mais je suis plutôt optimiste et
je crois qu'on peut trouver la solution.

00:13:36.391 --> 00:13:40.294
Nous n'aurions pas à faire une longue
liste de tout ce à quoi l'on tient,

00:13:40.294 --> 00:13:43.937
ou, pire encore, transformer celle-ci
en langage informatique

00:13:43.937 --> 00:13:45.391
tel C++ ou Python;

00:13:45.391 --> 00:13:48.158
ce serait une tâche désespérée.

00:13:48.158 --> 00:13:52.455
Il faudrait plutôt créer une IA 
qui utilise son intelligence

00:13:52.455 --> 00:13:55.226
pour apprendre ce à quoi l'on tient

00:13:55.226 --> 00:14:00.506
et qui est construit de tel sorte que 
sa motivation consiste à défendre

00:14:00.506 --> 00:14:05.738
nos valeurs ou à faire des actions
seulement s'il pense qu'on les approuve.

00:14:05.738 --> 00:14:09.152
Nous utiliserions donc son
intelligence autant que possible

00:14:09.152 --> 00:14:12.537
afin qu'elle résolve le problème
d’implantation de la liste de valeurs.

NOTE Paragraph

00:14:12.727 --> 00:14:14.239
Cela est possible

00:14:14.239 --> 00:14:17.835
et le résultat pourrait être
incroyable pour l'humanité.

00:14:17.835 --> 00:14:21.492
Mais ça ne se passera pas
comme ça obligatoirement.

00:14:21.492 --> 00:14:25.380
Il faut que les conditions initiales, 
lors de l'explosion de l'intelligence,

00:14:25.380 --> 00:14:29.913
soient créées d'une façon spécifique afin
que nous ayons un détonation contrôlée.

00:14:30.273 --> 00:14:33.541
Les valeurs de l'IA doivent être
les mêmes que les nôtres

00:14:33.541 --> 00:14:35.741
non seulement dans le
contexte que l'on connaît

00:14:35.741 --> 00:14:37.999
où l'on peut contrôler
son comportement,

00:14:37.999 --> 00:14:41.233
mais aussi dans des contextes nouveaux
que l'IA peut rencontrer

00:14:41.233 --> 00:14:42.790
dans un futur indéfini.

NOTE Paragraph

00:14:42.790 --> 00:14:47.107
Il y a aussi quelques problèmes
ésotériques qui devraient être réglés:

00:14:47.107 --> 00:14:49.616
le détail de sa méthode pour
prendre des décisions,

00:14:49.616 --> 00:14:52.480
sa façon de gérer les 
incertitudes logiques, etc.

00:14:53.330 --> 00:14:57.275
Donc, les problèmes techniques qui
doivent être résolus semblent difficiles,

00:14:57.275 --> 00:15:00.925
pas autant que créer 
une IA super-intelligente,

00:15:00.925 --> 00:15:03.793
mais assez difficiles quand même.

00:15:03.793 --> 00:15:05.488
Voici ce qui est inquiétant:

00:15:05.488 --> 00:15:10.172
Créer une IA super-intelligente
est un défi colossal.

00:15:10.172 --> 00:15:13.180
Créer une IA super-intelligente 
qui, en plus, est sécuritaire

00:15:13.180 --> 00:15:15.256
rajoute un niveau de difficulté.

00:15:16.216 --> 00:15:19.913
Le risque réside dans la possibilité que
quelqu'un surmonte le premier défi,

00:15:19.913 --> 00:15:24.054
sans avoir surmonté le deuxième, 
celui de la sécurité.

NOTE Paragraph

00:15:25.375 --> 00:15:30.886
Donc, je crois qu'on devrait surmonter
le deuxième défi en avance

00:15:31.138 --> 00:15:34.188
afin qu'il soit prêt lorsqu'on
en a besoin.

00:15:34.768 --> 00:15:38.275
Peut-être ne pourrons-nous pas le
surmonter entièrement en avance,

00:15:38.275 --> 00:15:41.299
car certains éléments 
ne peuvent être créés

00:15:41.299 --> 00:15:44.916
seulement lorsque l'on connaîtra les
détails techniques de l'IA en question.

00:15:44.916 --> 00:15:48.676
Mais plus nous commencerons à travailler
sur ce problème de contrôle en avance,

00:15:48.676 --> 00:15:52.766
plus nous augmenterons nos chances
de passer dans cette nouvelle ère

00:15:52.766 --> 00:15:54.306
en tout sécurité.

NOTE Paragraph

00:15:54.306 --> 00:15:58.950
Selon moi, ceci est la chose
la plus importante à faire.

00:15:58.950 --> 00:16:02.282
Je suis sûr que si on y parvient,

00:16:02.282 --> 00:16:06.940
les humains dans des millions d'années
qui se pencheront sur notre siècle

00:16:06.940 --> 00:16:10.942
diront que la seule chose que nous avons 
fait qui avait vraiment de l'importance

00:16:10.942 --> 00:16:12.759
était de réussir à surmonter ce défi.

NOTE Paragraph

00:16:12.759 --> 00:16:14.198
Merci

NOTE Paragraph

00:16:14.198 --> 00:16:17.011
(Applaudissements)