Player is loading...
L’Etat et les algorithmes
Klaus-Gerd Giesen, Professeur de Sciences Politiques, Université Clermont Auvergne
Friday, Sept. 15, 2017 · 10:12 a.m. · 24m 43s
Embed
Transcriptions
Note: this content has been automatically generated.
00:00:04
mesdames messieurs je tiens à remercier d'abord
00:00:08
monsieur le président du forum économique rhodanien ne sut pas
00:00:12
lisse et tout le comité d'organisation de l'
00:00:15
invitation qui honore beaucoup je dois vous dire à vous tous tout le plaisir que j'éprouve à
00:00:21
revenir en vallée cette région que je connais depuis ma prime jeunesse que
00:00:26
j'ai vécu longtemps puis pendant 15 ans en suisse
00:00:30
il a deux ans ça vient d'être rappelé m. lorsque le faux mes collègues rhodanien c s'est tenue à genève
00:00:37
je vais évoquer devant vous le trans humanisme l'idéologie trans humaniste qui nous arrive deux
00:00:44
ces opportunités mais aussi ses risques et je suis ravi d'être invité de nouveau aujourd'hui
00:00:52
pour vous parler d'eux lune des thématiques
00:00:56
qui se trouve au coeur du projet d'idées de l'idéologie politique du tronçon humanisme
00:01:02
le rapprochement voire de fusion entre l'homme et la
00:01:07
machine à savoir l'intelligence artificielle nous venons
00:01:10
d'entendre deux exposés fort intéressant et très différents
00:01:14
dans leurs orientations sur les nouvelles applications
00:01:19
eux qui vont s'ouvrir avec eux qui vont être
00:01:22
développés avec l'intelligence artificielle et les vrais que
00:01:26
nous trouvons que tout au début finalement du règne des algorithmes
00:01:32
qui exploitent des banques de données de plus en plus du gigantesque aujourd'hui le monde
00:01:39
produits quotidiennement environ deux virgule 5
00:01:43
exact bit de donnée stockée
00:01:48
par jour en 2020 dont précédente 3 ans seulement ça sera déjà
00:01:54
44 est habite c'est à dire cette ligne courbe exponentielle
00:01:59
notamment grâce à l'internet des objets c'est à dire à tous ces objets
00:02:04
connectés à internet les frigos les appareils ménagers intelligent l'épaisse mais ca
00:02:12
les satellites essai j'en passe soyons précis l'atelle
00:02:16
l'intelligence artificielle et bien plus souvent vient
00:02:19
d'entendre lourde pour le niveau du premier exposé et bien plus que le simple traitement informatique
00:02:25
de ces masses de données sont encore la troisième révolution industrielle quitter fondé làdessus
00:02:31
l'intelligence artificielle permet un programme d'apprendre à se représenter le monde
00:02:38
grâce à un réseau de ont entendu de neuron virtuel effectuons chacun des
00:02:44
calculs puissant en d'autres termes 1'007 duc tout seul
00:02:47
il apprend comme un bébé apprend à parler va trouver tous les règles à partir d'exemples dont par induction
00:02:55
et autonome et va peutêtre prendre des décisions autonome sur le laisse prendre des décisions autonome
00:03:01
et cet apprentissage parfois appelée apprentissage profonde diplômé
00:03:06
pas bien audelà de la programmation avec un code pour effectuer certaines tâches çà
00:03:12
çà la quatrième révolution industrielle dans certains domaines très pointue et bien délimité
00:03:17
l'intelligence artificielle va rapidement dépassé l'intelligence humaine c'est déjà le cas
00:03:21
pour ont entendu pour les échecs pour le jeu de go etc
00:03:25
message évidemment jamais consciente d'ellemême l'intelligence artificielle ne sera jamais consciente d'
00:03:30
ellemême à moins de la connecter peutêtre un jour au cerveau humain
00:03:35
ce qui dans les projets d'albi landes masse qu'eux
00:03:38
qui donc le patron de presse la x p
00:03:43
qui bah vient de fonder la société n'aura donc en dehors de cela l'intelligence artificielle
00:03:49
restera beaucoup moins complexe évidemment que l'intelligence humaine ou même l'intelligence des primes
00:03:55
les domaines d'application sont très variés vous le savez mieux que moi analyse de
00:03:59
risque pour les banques pour les assurances la gestion de fonds d'investissement
00:04:05
on confie à la machine les investissements et des uns et
00:04:09
des projets en matière de tout le trading classique aussi
00:04:13
dans les transports bien sûr les voitures et camions les
00:04:16
bateaux les avions peut être pilotée de façon autonome
00:04:23
les robots intelligent dans les services à la personne dans les hôpitaux dans
00:04:27
les maisons de retraite par les services juridiques je reviens un instant
00:04:31
dans les agences d'intérim etc tout cela va engendrer
00:04:36
sans aucun doute des économies d'échelle très importante
00:04:41
l'augmentation de la productivité et qui dit économies d'
00:04:44
échelle plus augmentation de la productivité dit croissance économique
00:04:49
cependant l'économie et la technologie ne fonctionne
00:04:53
jamais sol ya toujours aussi dimension
00:04:57
politique et c'est là que l'etat entrent dans le jeu
00:05:02
et c'est le sujet de mon intervention létat les algorithmes alors plus que les
00:05:07
organisateurs mois invitées à ne pas vous
00:05:11
présenter un rapport pointe au bénéfice
00:05:15
du story telling tout simplement vous raconter quelques
00:05:19
histoires et essayer d'en tirer les conclusions
00:05:23
pour mettre en évidence les défis que l'intelligence artificielle lance à
00:05:29
l'état à l'appareil d'état la première histoire
00:05:34
c'est celle d'un homme d'affaires qui décide de sans expérience politique aucune
00:05:39
de se lancer dans la course à l'élection présidentielle de son pays
00:05:44
presque personne ne le vois gagnant et pourtant à
00:05:48
la surprise générale et gagner les élections
00:05:52
en partie en partie grâce à la mobilisation d'un début de ressources en
00:05:58
intelligence artificielle vous l'aurez compris septembre s'appelle dont la trame
00:06:04
et bien qu'ils n'obtiennent eux a mis en devoir de moins que sa concurrente hillary clinton
00:06:11
il devient président des etatsunis grâce à un système électoral spécifiques
00:06:15
aux états unis mais il gagne surtout cette élection
00:06:19
grâce à son équipe de campagne installé à santo niant texas as
00:06:24
qui mobilise 3 gigantesque banque de données fournies premièrement
00:06:30
par la firme américaine câblage analytique a deuxièmement
00:06:33
par la banque de données du parti républicain vente
00:06:38
et troisièmement par le projet calame chaque fois ce sont des données
00:06:43
les profils très spécifiques et des internautes de plusieurs
00:06:48
dizaines de millions d'américains qui sont ensuite combiner
00:06:54
et ces banques de données son travail avec des algorithmes puissant et utilisant
00:07:00
donnait chaque boîte autonome cela le début d'intelligence artificielle
00:07:08
pour placer des publicités des messages ultra ciblée individualisée sur facebook
00:07:14
surtout ultérieure en fonction de paramètres dit psycho graphique
00:07:19
qui tiennent compte des valeurs des émotions que les individus ont exprimé par leur
00:07:23
like sur facebook ou sur les sur tuteur etc et cetera
00:07:29
et donc il a bel et bien dimension politique à l'intelligence artificielle déjà
00:07:36
dans l'utilisation des algorithmes et des programmes
00:07:39
autonome qui apprennent au fur à mesure
00:07:44
qui s'activent quelle lecture analytique un semblent également avoir joué un rôle crucial
00:07:52
dans le vote du break c'est en grande bretagne son propriétaire
00:07:57
votre main cela est un ami personnel donald je fait rage
00:08:01
et a. gratuitement mise à disposition de la campagne en faveur de la sortie de l'union européenne
00:08:08
la banque de données certains algorithmes de calme j'allais analytique un
00:08:14
on pourrait être tenté de dire que tout cela reste finalement confiné dans le domaine du marketing politique
00:08:21
et serait en partie tout à fait vrai mais elle existe quand même des risques majeurs
00:08:30
pour cette utilisation
00:08:34
dans le cadre de l'etat démocratique de l'état de droit l'intelligence artificielle
00:08:43
pourra de plus en plus déclencher des vastes mouvements d'opinion
00:08:48
presque à l'insu de tout le monde et les déclencheurs pourrait être aussi
00:08:53
bien en entrepreneurs sur un politicien qui en a les moyens à hacker
00:09:00
très doué ou peut être son angers un groupe djihadistes
00:09:06
qui ne visent par exemple que les profils facebook ou
00:09:09
tuteurs de musulmans enclins à envers une radicalisation
00:09:15
et ensuite mobiliser de par les algorithmes un à l'insu de
00:09:20
tout le monde ou alors ça peut être de puissances étrangères
00:09:24
cela peut être la chine la russie s'appelle la corée
00:09:28
du nord qui ont les capacités technologiques que décrire des
00:09:33
algorithmes puis de se pour procurer le cas échéant les
00:09:37
oeufs donner pardonner bande dans les banques de données
00:09:42
de toute évidence pour parer à de tels
00:09:44
risques d'une manipulation extrêmement ciblées notamment
00:09:49
des chaque vote car avec un vote d'automatiser nourrie par un algorithme
00:09:56
l'état de droit la démocratie libérale doivent aussi se protéger
00:10:03
le cas échéant réguler pénalisés et pour ce qui les services de renseignement faut aller
00:10:09
dans ce sens de la détection d'une possible manipulation de l'étranger
00:10:16
il en va de l'état de droit et de la démocratie libérale l'intelligence artificielle sur
00:10:22
le plan politique mais aussi bien sûr au de là pourrait être un régulateur d'opinion
00:10:30
et donc il faut préserver voire réguler ce régulateur la
00:10:36
et notamment dans le cadre de la démocratie directe en suisse
00:10:41
ou en france l'élection présidentielle en france est une
00:10:44
élection directe en france en suisse par an et dans les
00:10:48
votations les initiatives pour la sta pour être influencé éventuellement
00:10:52
par des algorithmes se basant sur de tels large bande dans les deuxième histoire
00:10:59
la deuxième histoire eux essaient de mike un policy adoré même en grande bretagne et doit
00:11:05
décider si le maintien en garde à vue en suspect que nous allons mettre chaource
00:11:13
la police de donald je parlais présent a décidé de confier l'analyse de risque
00:11:20
fuites éventuelles du suspect un système d'intelligence artificielle qui se base
00:11:25
sur la reconnaissance faciale 0 un certain nombre de données
00:11:30
et il en va de même pour la police de dubail
00:11:33
qui ambitionne d'avoir bientôt 25% de ses agents policier
00:11:40
sous forme de robot intelligent entre autres pour réguler le
00:11:44
trafic automobile ou pour accueillir les touristes ce robot
00:11:50
on parle de 9 langues couramment peuvent reconnaître et des émotions
00:11:55
personne humaine qui se trouve en face d'eux mais c'est aussi bien sur l'histoire de la
00:12:02
ferme à l'intérieur aux etats unis fondée par le très trans humaniste le pilote i.
00:12:09
qui fournit des services de da algorithmique vendant des
00:12:11
services algorithmique aux agences de renseignement américains
00:12:17
ces 3 exemples ces 3 histoires sous histoire démontre que nous sommes
00:12:22
que toute et au début du nouvel modernisation de létat
00:12:27
par l'intelligence artificielle aura une modernisation de l'appareil d'état
00:12:32
grâce à l'intelligence artificielle dans la police tant par la
00:12:35
justice dans les services de renseignement etc et cetera
00:12:39
c'est un défi énorme pour l'etat notamment
00:12:44
pour gérer son bras d. les libertés individuelles
00:12:49
les libertés fondamentales l'interface entre l'algorithme
00:12:54
et les citoyens c'estàdire entre la machine et les citoyens un chantier
00:12:58
prometteurs ou si un grand marché potentiel d'ailleurs pour les entreprises
00:13:03
mais un marché un chantier naturellement risqué
00:13:08
pour les cadres troisième histoire
00:13:12
la troisième histoire et celle de la firme unilatérale que vous
00:13:16
connaissez cette grande firme multinationale qui depuis un an déjà
00:13:21
présélection les candidats à l'embauche par un système d'intelligence artificielle de reconnaissance faciale
00:13:28
c'est que les candidats à l'embauche de muni
00:13:31
doivent répondre devant leur ordinateur et façonne caméra
00:13:37
il répond à des questions concernant leur aptitude l'algorithme
00:13:42
de la firme il va détecter va distinguer
00:13:48
la position des yeux le sourire les mouvements de la tête et cetera
00:13:54
et comme tout système d'intelligence artificielle algorithmes et capables
00:13:57
d'apprendre au fur à mesure de façon autonome
00:14:01
en améliorant sans cesse sa propre performance pour détecter peut être l'enthousiasme du candidat
00:14:08
ou certaines faiblesses du candidat à l'embauche
00:14:13
de toute évidence cela pose un problème de possibles de discrimination
00:14:19
par exemple envers les populations non blanche
00:14:25
envers les personnes ou pire c. dont le visage existe plus en plus
00:14:31
haut peut être peu envers des personnes défigurée par un accident
00:14:36
emploi agricole sera til en mesure de spa d'avoir la même performance jarvis
00:14:42
d'une personne dans le visage était défigurée par un par un accident
00:14:46
il revient à létat de poser un cadre réglementaire
00:14:51
et légal très claires qui définit très précisément
00:14:56
les responsabilités passa 3 pattes la machine
00:15:00
i compris des responsabilités pénales par rapport à des actes
00:15:05
commis par des systèmes agissant de façon autonome
00:15:10
c'est aussi l'expérience t de macros enfin qui est très parlant ce sujet qui doit nous servir de
00:15:16
deux le sang vous avez sans aucun doute entendu parler de
00:15:18
cette expérience de microsoft et ta t un y
00:15:22
il s'agissait là chaque boite automatique de tout premier
00:15:26
qui publiée de façon autonome des messages sur tuteur
00:15:31
programmé pour apprendre à formuler détruite un grand succès
00:15:37
sur la toile la rapidement versés dans des propos extrêmement raciste et sexiste
00:15:45
et l'expérience a dû être stoppée
00:15:47
il me semble que la régulation par l'etat s'avère
00:15:50
être si indispensable pour garantir à tous équité justice
00:15:58
quatrième histoire c'est l'histoire du cabinet d'avocats américains beck eurostat sur
00:16:04
qui introduit des systèmes d'intelligence artificielle pour rédiger des documents juridiques
00:16:12
à partir de larges baies banque de données spécialisé
00:16:16
numérisés sur toutes les lois toute la jurisprudence
00:16:22
tout les types de contrats qui pût avoir en droit privé et cetera c'
00:16:26
est un pour l'instant c'est une aide à la décision
00:16:31
mais de là le chemin bien sûr verne décision autonome tout court mais certainement pas très
00:16:37
loin pour des algorithmes d'apprendre capables d'apprendre pendant tout ce que ainsi
00:16:44
il est vrai que des métiers entier pourrait progressivement disparaître
00:16:52
surtout dans les transports avec les voitures et camions autonome
00:16:59
mais aussi justement dans les services
00:17:02
dans la main effectue selon les études je pensais
00:17:05
je penchés làdessus entre 9% et penser
00:17:10
je pensais très exagéré 47% des emplois sont menacés dans les pays développés
00:17:15
certes comme l'a été rappelé lors du premier exposé l'intelligence artificielle doit aussi créer des emplois et beaucoup d'emplois
00:17:22
peutêtre plus que ceux qui ne seront détruits selon le principe
00:17:26
souper terrien et la destruction créatrice fameuse destruction créatrice
00:17:33
mais cette quatrième révolution industrielle pas sans doute quand même dans un premier temps
00:17:39
un facteur temps est très important va engendrer un chômage considérable
00:17:46
tout simplement parce que les emplois nouveaux requiert
00:17:49
des compétences que ceux qui occupent actuellement
00:17:54
les emplois vouée à la disparition d'enfant possède tout simplement pas et ne pourront pas acquérir
00:18:01
d'ici là je retraite gérer
00:18:04
le possible mécontentement politique la transition
00:18:10
voilà encore un défi et non pour l'etat que faire des chômeurs supplémentaires dans un premier temps
00:18:19
temps de routiers aux etats unis par exemple
00:18:23
quoi taxer peut être à pont pendant un certains temps à la place du travail
00:18:28
alors en fonction des configurations politiques spécifiques chaque état
00:18:33
rencontre à son propre mix d'arbitrage toutefois
00:18:40
la situation sera d'autant plus explosive sur le plan social politique et politiquement parlant
00:18:46
que la transition se fera rapidement et à vaste échelle peut être les
00:18:52
gens auront tendance à radicalise et dans la littérature politologie que
00:18:59
on dénombre déjà le l'intelligence artificielle unes formidable machine à produire du populisme
00:19:06
cinquième histoire
00:19:09
bien sûr l'état occidental pourrait être tenté
00:19:13
luimême d'utiliser les algorithmes pour
00:19:16
juguler le mécontentement c'est le principe du vallon pour le peuple
00:19:23
c'est à dire inciter les citoyens à adopter des attitudes deux compatibles mais ça évidemment une brèche
00:19:30
en matière de libertés fondamentales de la démocratie libérale
00:19:36
un état paternaliste et pas un état libéral
00:19:39
et encore moins l'état autoritaire celle histoire cette cinquième
00:19:43
histoire et celle du programme chinois saison score
00:19:48
qui existent déjà et le programme chinois spécialise score comme son nom l'indique
00:19:54
ces là où le gouvernement chinois travaillent les grandes entreprises
00:19:58
de l'internet chinois le BATX
00:20:02
dispose de gigantesques banque de données donc séparés de ou
00:20:06
alibaba athènes sac etc comme légat femme aux etatsunis
00:20:12
et on l'observe très scrupuleusement le comportement en ligne et
00:20:16
des citoyens chinois et leur octroie une entente rating
00:20:23
qui évolue bien entendu
00:20:26
une autre de bons et de mauvais citoyens de citoyens loyal oui loyale
00:20:31
une bonne entente facilite par exemple l'obtention de crédits à taux préférentiel
00:20:38
des visas de sortie du territoire chinois
00:20:43
voir l'exercice de certaines professions
00:20:47
avec l'intelligence artificielle le risque de glisser vers un état
00:20:52
paternaliste voire autoritaire ou totalitaire n'ait jamais très loin
00:20:57
en réalité je pense l'intelligence artificielle sera l'atteste par excellence
00:21:05
pour départager létat libéral de ses concurrents
00:21:08
autoritaires et totalitaires seizième histoire
00:21:13
l'intelligence artificielle est aussi un enjeu crucial dans les rapports entre les états juste pour préciser qu'il est vraiment deux
00:21:19
minutes pays loin de là je voulais en convoi comme des histoires logement contente à vous raconter cette histoire des
00:21:26
les rapports entre les états les rapports de force entre les états cette histoire dégâts femme donc google apple facebook
00:21:34
et cetera reposait d'abord au b. @ x que je ne peux nommer aimerait que les etatsunis la chine disposent de
00:21:39
loin des banques de données depuis vaste l'europe a raté l'occasion de constituer ses propres banques de données
00:21:48
nourrie par nos like sur facebook nos photos sont histogramme et cetera
00:21:53
sur nos nous recherchons un amazon et cetera ce temps
00:21:56
mais je cultive le point de vue on peut marginales et les vraies
00:22:01
contre la majorité que la partie de l'intelligence artificielle des pas
00:22:04
perdus pour l'europe car je voudrais ici mobiliser l'analogie
00:22:11
avec le pétrole et la voiture crée la plusvalue par le pétrole
00:22:19
etre des banques de données gigantesque c le pétrole du
00:22:23
vingtième siècle il nous appartient amour européen si
00:22:28
possible de construire des voitures qui vont avec les
00:22:33
algorithmes comme pouvant mobiliser et de relégués
00:22:37
pas les etatsunis la chine éventuellement dans la situation du les
00:22:41
communes remplace urbain actuellement les etatsunis la chine sont
00:22:44
très à la pointe du développement des algorithmes aussi mais nous avons
00:22:48
tant de talents en europe les écoles publiques polytechnique en suisse
00:22:53
le plateau de sa clé au sud de paris où le nouveau silicon valley près d'
00:22:57
aix en provence en france nous avons tant de talent tout à fait capable
00:23:03
pas de fournir les voitures du 20 et unième siècle stella les algorithmes qui vend
00:23:10
sans être nourrie par le pétrole vingtième siècle à savoir les banques
00:23:14
de données l'extraction des banques de données cette unique migrantes
00:23:18
c'est pas l'excès et l'économie très créatrice donc je vais pas vous raconter la septième histoire
00:23:27
ça sera pour l'atelier vous allez pouvoir verbaliser ou
00:23:31
les comparaisons et militaires notamment les robots autonomes tueurs
00:23:38
je pense un grand défi certaines applications militaires de la dire artificiels
00:23:42
ne pas envoyer sur le terrain des robot tueur autonome qui prennent des décisions tout seul
00:23:47
c'est un risque énorme je pense que la lettre les états dont notamment le suisse canon tradition de droit humanitaire
00:23:53
mais aussi la france les membres permanents du conseil de sécurité en rôle à jouer pour interdire ce type
00:24:00
d'agents de déshumanisation de la guerre parce que si passé un robot va décider tout seul
00:24:06
que finalement et beaucoup plus simple de d'éliminer toute la population civile
00:24:11
dans s'impose comme un tout petit problème qu'on
00:24:13
la conclusion ce que ces histoires exemple hifi en fait
00:24:18
les défis énormément que l'intelligence artificielle
00:24:21
lança létat sera indispensable
00:24:25
pour encadrer sans létat rien on dira
00:24:30
mais l'état du futur ne fera rien n'ont pu s'en intelligence artificielle
Conference Program
Ouverture du 17ème Forum Economique Rhodanien
Madame Anne-Laure Couchepin Vouilloz, Présidente de la Ville de Martigny
Sept. 15, 2017 · 9:07 a.m.
191 views
Mots de bienvenue
Monsieur Pierre-Marie Rappaz, Canton du Valais
Sept. 15, 2017 · 9:14 a.m.
313 views
Allocution officielle
Madame Florence Dobelle, Cheffe du service économique auprès de l’Ambassade de France en Suisse
Sept. 15, 2017 · 9:15 a.m.
582 views
Intelligence artificielle: entre réalité et fiction, entre recherche et propagande
Hervé Bourlard, Directeur de l’Idiap, Professeur EPFL
Sept. 15, 2017 · 9:28 a.m.
2068 views
Big data, intelligence artificielle et futur de la médecine
Bertrand Kiefer, Rédacteur en chef de la Revue médicale suisse
Sept. 15, 2017 · 9:50 a.m.
268 views
L’Etat et les algorithmes
Klaus-Gerd Giesen, Professeur de Sciences Politiques, Université Clermont Auvergne
Sept. 15, 2017 · 10:12 a.m.
313 views
Restitution des travaux des six ateliers
Sept. 15, 2017 · 2:05 p.m.
Quelle économie dans l’espace digital darwinien ?
Pascal Picq, Paléoanthropologue, Maître de conférences au Collège de France
Sept. 15, 2017 · 2:44 p.m.
282 views
Quelle capacité d’adaptation de nos sociétés face à la mutation rapide générée par l’IA?
Nicolas Bouzou, Economiste et analyste financier
Sept. 15, 2017 · 3:53 p.m.
161 views
