Player is loading...
Parades technologiques et humaines à "CheatGPT"?
Maxime Gabella, Directeur, MAGMA Learning
Wednesday, March 22, 2023 · 5:55 p.m. · 17m 22s
Embed
Transcriptions
Note: this content has been automatically generated.
00:00:00
donc effectivement va discutaient entre eux de voir que sont la réponse qu'on
00:00:04
peut qu'on peut donner à l'apparition de cette nouvelle technologie
00:00:08
à la fois à un niveau et techniques c'est à dire d'autre software ou d'autres biens qui peuvent
00:00:14
qui peut être sauvé le la situation ou alors des réponses plus humaine en fait qui utilisent d'autres qualités
00:00:19
justement détection pas encore eux couverte par eux parisien
00:00:24
mais d'abord qu'estce que quelles questions poser exactement ce qu'il faut clarifier un petit peu
00:00:30
l l a question quand on parle de détection dans un texte générés par l'i. a.
00:00:36
estce que je peux vous dire que c'est très facile en fait d'
00:00:38
avoir un détecteur qui a un qui peut détecter 100% des actionnaires hyperliens
00:00:43
ça c'est extrêmement facile à faire il suffit de dire que tout est expliqué par lui en fait
00:00:48
ça veut dire que tout le texte humains sont aussi labellisé comme étant eux créé par l'i. a.
00:00:53
donc ça c'est c'est un type d'erreur en cas de type d'erreur possible
00:00:56
quand on essaye de classifier en fait des textes soit comme i'a soit comme humain
00:01:02
la première erreur ce serait un faux négatifs c'estàdire qu'effectivement c'est un texte écrit par liens
00:01:08
mais notre détecteur ne sait pas allumé et il a laissé passer et donc que l'on en
00:01:13
l l tricheurs gagne il appelait le passé son examen ou avoir de bonnes notes à son décès
00:01:19
sans être détectée donc ça c'est ce qu'on appelle l'impôt négatif donc c'est un problème après il faut décider si c'est
00:01:25
un problème qui est très important et ce qu'on peut laisser passer
00:01:28
quelques tricheurs protocole on capture proportion significative cette question se posait en fait
00:01:36
effectivement l'autre erreur possible ce qu'on appelle les faux positifs alors là c'est encore beaucoup
00:01:42
plus grave pas ce que dans ce cas le
00:01:44
détecteur accuse un étudiant d'avoir trichet ventilé lien
00:01:49
alors qu'en fait il écrit luimême donc ça c et 7 c'est vraiment
00:01:53
mauvais accomplirait ou exclurait un étudiant qui en fait n'a rien fait de répréhensible
00:01:59
et au final je crois qu'on parle de détection de dentelle gérer paris il faut trouver un équilibre entre
00:02:05
ces deux types d'erreurs n'a jamais un système qui sera parfait à 100% dans tout les cas
00:02:10
donc on doit endosser dir qu'estce qui est important pour nous et sans doute c'est assez important de
00:02:16
décès de minimiser les accusations eux qui sont en fonder pour les étudiants
00:02:23
est donc maintenant qu'estce qui existe pratiquement comme eux comme software comme outils
00:02:28
technologiques qui sont capables justement de classifier les textes comme étant i. a. ou humain
00:02:33
donc j'ai pris un exemple qui justement proposé pas obtenir et qui a développé un député
00:02:39
non là déjà qui a beaucoup limitation donc
00:02:43
déjà et il marche bien seulement pour les textes relativement long
00:02:47
c'est dire qu'il faut plus de 1'000 caractères et en plus il marche surtout pour l'anglais donc
00:02:51
dès qu'on s'éloigne de l'anglais le la précision va diminuer et donc que ce sera moins utile
00:02:58
alors de nouveau on revient à se doter ces deux types d'erreurs dont je parlais tout à la
00:03:02
donc pour les faux négatifs c'est à dire les cas où des tricheurs ne sont pas détecter
00:03:07
on est à cette enquête pourcent c'est quand même très élevé c'estàdire que 3
00:03:11
quarts des tricheurs en gros eux peuvent avoir des bonnes notes et ne pas être inquiété
00:03:17
bon mais quand même ¼ des tricheurs sont attraper
00:03:20
donc on peut penser que sir beaucoup par exemple décès à écrire
00:03:25
au travers du semestre finalement ils se font eux se font attraper au quatrième et c'est en quelque sorte
00:03:30
donc bon peut être ça va mais honnête et justement extrait
00:03:35
de laisser passer en fait beaucoup de textes créé par liens
00:03:40
posti v. minimiser les faux positifs c'est à dire les
00:03:43
fausses accusations mais sont quand même à 9% c'estàdire un peu
00:03:47
plus ou moins un étudiant sur 10 sera accusé à tort d'avoir
00:03:50
tricher c'est quand même pas assez c'est pas assez pas idéale
00:03:54
donc ils avancent et fait un des meilleurs outils
00:03:59
eux qui détecte le texte géré par l'i. a.
00:04:02
et on voit qu'il ait déjà extrêmement limités et qui risque de donner à des situations qui sont vraiment assez injuste
00:04:08
en plus par euxmêmes vont mentionné que c'
00:04:11
est très facile de tromper ses outils
00:04:16
simplement méditant peu le texte donc on peut rajouter petites fautes d'orthographe par ci par là on
00:04:21
peut être combinée certaines choses et finalement le tibet dire moi je sais plus qui se passe
00:04:27
donc les aucune boutique et qu'ils ont présenté qu'ils ont fait mesurer
00:04:32
ils ont évalué il est très restreint ils les résultats sont passibles dont et au final
00:04:38
et très faciles à tromper donc c'est c'est pas très optimiste sur la situation
00:04:44
le côté revêtir d'autres approches qui existe en fait depuis longtemps pour détecter
00:04:48
le pluralisme eux qui pourra entrer en jeu donc notamment sur la plastique maîtrise
00:04:57
et si l'idée simplement c'est de dire ok chacun chaque
00:05:00
individu à la mention de styles d'eux qui lui est propre commune empreintes digitales
00:05:04
et si on analyse suffisamment ces textes qu'on va pouvoir en fait que le créateur de profil unique
00:05:10
et tout les textes de futures qui va se mettre aux voix dira ça correspond non ah ton style
00:05:16
donc évidemment voici une série de textes tout en contexte il paraîtrait
00:05:20
différents on peut se dire laisser passer quelque chose et que ce soit
00:05:24
je sais pas que ce soit le grand frère de l'élève ou le cas
00:05:27
du p. t. qui écrit dans tout les cas sera détecté non ça c'est pas toi
00:05:31
qui l'a dit qu'il a écrit j'ose douter qui existe depuis longtemps peut
00:05:34
être opposé que ces utile mais ya un problème pasqua en fait on peut dire aliyah
00:05:39
dans le compte justement pour lui dire écrit dans mon style moins voilà mon dernier essai
00:05:43
voilà 10 mai dernier essai je m'active écrivain nouvel essai mais dans mon style moins
00:05:49
donc ça veut dire que si on le lit et suffisamment puissante en fait pour s'adapter
00:05:54
et en fait 3 ans brosser ses méthodes de détection totalement wenn
00:06:01
et en fait c'est ce phénomène et générale au final c'est une course aux armes perpétuelle
00:06:07
c'est à dire ça un peu comme quand on se bat contre les hackers quant au fait de la sécurité informatique et si on a d'un côté
00:06:13
les générateurs donc des personnes à la fois qui j. qui vont créer des
00:06:17
soit par des larges l'engagement d'un comme cas de péter comme député 4 et d'autres modèles
00:06:22
et puis des dérivatif c'est à dire d d des entreprises
00:06:26
qui vont utiliser ces modèles pour justement permettre hongrois aux élèves de tricher
00:06:31
avec de plus en plus sophistication justement en concluant que lorsqu'ils en ajoutant
00:06:35
des fautes d'orthographe ainsi de suite en ayant tout en étant pour eux
00:06:39
pour eux tromper les détecteurs de l'autre côté qui et qui sont aussi très actif et qui
00:06:45
vont eux à essayer de chaque fois qu'une nouvelle levée l'idée pour les tromper vont fait essayer de
00:06:50
de l'appareil institue donc c'est vraiment guerre totale entre les deux côtés et on
00:06:54
peut dire que l'effet de lancer cette c'est très actif mais y'aura pas de gagnant
00:06:58
définitif où on dira voilà maintenant se terminer on peut détecter eux qui ont peu à
00:07:04
peu on peut espérer je pense que c'est très peu probable que ça se passe comme ça
00:07:12
dans la ça c'était pour l'heure la situation peut
00:07:15
purement technologique donc soit comme outil et puis qu'elle ait acquis la situation
00:07:19
on voit que c'est pas extrêmement brillant mais on peut avoir des réponses justement plus humaine en fait la situation
00:07:26
bien surveiller des choses qui sont proposés eux assez fréquemment comme
00:07:30
par exemple la dissuasion simplement dit o. m. trichet passer pas bien
00:07:34
ou bien alors dit écoutez vous avez pu ni vous serez exclusion réservant institutes ça que
00:07:39
ça peut déjà bien marché céder des armes psychologique en faite mais ça peut être suffisamment efficace
00:07:44
un même espace que les élèves sont pas forcément au courant de la situation en
00:07:49
recherche en détection i ajustement donc on peut leur faire croire que la guerre était gagnée
00:07:54
et puis on fait un peu bluffer on leur dit avoir vu sénatrice chez
00:07:58
papa ce qu'on va vous détecter avec 100% de de précision
00:08:02
donc voila sa dissuasion peut aussi un peu
00:08:05
comme emile mentionné modifier un peu le les examens
00:08:09
de compromettre affections plus action sur l'examen oral ou
00:08:14
alors peut être père justifie un essai par un étudiant
00:08:18
le dire quelque temps dans des parties et telle phrase ensuite encore plus examen dessous dans des contextes de contrôle évidemment donc de
00:08:25
ne pas laisser écrire les essais à la maison par exemple ça résoudra le problème évidemment
00:08:30
un on peut aussi simplement prendre des thèmes pour
00:08:34
les pour les essais pour les devoirs qui sont tellement spécifique
00:08:38
qu'en fait des outils comme j'étais nos ne pourrait pas et répondre par exemple qu'estce que tu penses d'
00:08:43
urbanisme dans ton quartier eux quelque chose comme ça apparemment
00:08:47
ça c. je sais pas encore sur internet donc de péter
00:08:50
dont les données d'ailleurs s'arrête en 2021 message très rapidement aussi être corrigé
00:08:56
préparant fait écrire un essai sur ce genre de questions très personnelle nous bien
00:09:01
sûr hotel famille pas moins de tenir vacances lourdes chose donc ça sinon une approche
00:09:06
mais ce que j'aimerais effectivement faire c'est peut être élargie un
00:09:11
petit peu plus la perspective qu'estce qu'il en train de se passer
00:09:14
s qui entre espèces et sait qu'on a l'apparition de systèmes d'intelligence artificielle
00:09:20
mais ce qu'on appelle le système de jeu entre officiels restreint imposition dédale d'intelligence générale
00:09:27
effectivement ces systèmes quantiques comme député son
00:09:30
excellent un pour des tâches très spécifiques comme
00:09:33
justement écrire un texte qui parle intelligent détecter des objets dans une image et ensuite
00:09:40
mais il en manque encore eux mêmes caractéristiques fondamentales pour
00:09:44
qu'on puisse dire que c'est vraiment intelligent général laissons pas
00:09:48
capable de voir en fait de l'ensemble de vannes vue d'ensemble des choses de penser de manière entre eux
00:09:54
avec m distance critiquer et de comprendre ce qui se passe vraiment profondeur
00:09:58
donc c'était là en fait on peut justement utilise
00:10:01
notre supériorité pour eux pour se sortir de cette situation épineuse
00:10:07
effectivement comme le mentionnait aussi aimé ces tendances
00:10:10
et ces moments en peu de chamboulement sont des
00:10:14
excellente occasion pour penser un peu comme on fait les choses et qu'estce qu'on peut en fait améliorée
00:10:21
dans le réseau qu'estce que cela de la vue d'ensemble en question des hommes impose et qu'estce que ce qu'on
00:10:27
essaie de faire en tant que quelques indicateurs que espace candidat qu'
00:10:31
estce que cette éducation à la question de goût sont son but
00:10:34
le but de permettre justement aux étudiants d'acquérir des connaissances et
00:10:38
des compétences qui leur permet d'avoir le wiki productive et fructueuse
00:10:41
ça veut un but de cette affaire meubles je pense comment cette saison tous tout accord que
00:10:47
c c'est ça qui eux
00:10:50
qui la mission principale de l'éducation
00:10:55
alors manqué la méthode standard pour atteindre ce but en général en ce moment les
00:11:01
enseignants ont expertise connaissent des choses donc on va leur faire eux parler à des groupes d'étudiants
00:11:07
et ils vont leur présenter les connaissances et puis ça c'est comme ça on se dit mais estce
00:11:12
qu'on est sûr que ça va vraiment fonctionné correctement selon eux au juge de l'efficacité de cette approche
00:11:18
et effectivement une manière eux qui ait beaucoup utilisé cet examen de quoi les tester
00:11:24
on va regarder ce qui est en train de dormir quand josé présentement on va donc leur faire passer les examens les tester
00:11:30
donc on a pas ce qu'on arrive et là de manière
00:11:33
logique en fait mais les examens vont soulever un certain nombre de problèmes effectivement
00:11:38
déjà et vont encourager des comportements d'apprentissage qui sont très mauvais c'est à
00:11:43
dire par exemple bachotage donc vous passez la nuit blanche à abolir leurs notes avant l'
00:11:48
examen pour faire de très bonnes notes mais semaine plutôt à raison oublier la totalité de
00:11:52
ce qu'eux des contenus compte qu'on pouvait la faire assimiler pour leur futur
00:11:58
ça c'est pas assez passive à eux aussi serait motivé la tricherie justement
00:12:04
ça va générer de l'anxiété pour les étudiants 7 c'est pas
00:12:07
forcément le meilleur environnement contre les stressé par les notes pour eux s'épanouir
00:12:12
eux aussi ça peut être assez injuste imaginons qu'on a comme un type qui acquièrent pas du tout travailler mais l'a
00:12:18
lu juste une page du cours avant l'examen étant blessé
00:12:21
et malade ça peut être assez injuste avec ce mécanisme
00:12:26
et évidemment ça consacré énormément travaillé pour les poulets sur
00:12:30
le professeur qui doivent créer les examens les corrigés et ainsi de suite
00:12:34
donc il ya un problème en faction gardant le à la vue d'ensemble on va dire d'un problème
00:12:41
et c'est peut être faite dans au niveau de la méthode qu les quelque chose à eux
00:12:47
améliorer donc si on regarde effectivement les les leçons des sciences de l'apprentissage des sciences de l'éducation
00:12:54
un des effets vraiment les poilus marquant
00:12:57
les plus significatifs sur la performance avec la personnalisation
00:13:01
donc on voit effectivement gagner beaucoup d'études làdessus ça
00:13:06
c'est une étude sur le graphique accompagné d'un groupe d'étudiants
00:13:09
un groupe qui a eu simplement un apprentissage standard en groupe justement
00:13:14
et l'autre groupe 0 un apprentissage personnalisée et on
00:13:17
voit au niveau de la performance le groupe stand a vraiment
00:13:21
pas atil puissant et sont en moyens humains seulement quelquesuns qui
00:13:25
sont excellents alors que dans le groupe personnalisé tout mon excellent
00:13:29
la personne qui a laissé en arrière tout le monde parvient
00:13:32
en fait à découvrir comment excellait grâce à l'approche personnalisée
00:13:37
donc selon cette c'est d'améliorations qui pourraient eux
00:13:42
augmente de manière incroyable de l'efficacité de l'éducation
00:13:50
alors qu'estce que ça en fait tomber la princesse personnalisé qu'
00:13:53
estce qu'on passait consiste en fait ça consiste en une adaptation continue
00:13:58
du processus d'apprentissage basé sur la performance des étudiants
00:14:02
donc quand on sait très réactif en fonction de ce qu'ils ont compris
00:14:07
ou non de ce qu'ils ont à assimiler ou non le processus luimême
00:14:11
de d'apprentissage was adapté se transformer et essais personnalisé
00:14:16
donc ça veut dire en fait on a besoin de savoir on continue on a donc on
00:14:20
a besoin de clarté continuer sur quel niveau de
00:14:23
connaissance de chaque étudiant et à quelle heure
00:14:27
à quel niveau il connait chacun des continue ainsi de suite
00:14:32
à donc ça veut dire qu'avec cette approche d'apprentissage qui ait
00:14:35
démontré comme étant beaucoup plus efficace on rend aussi les examens complètement redondants
00:14:41
parce qu'on s'est déjà à tout moment quel et leur niveau
00:14:44
de connaissances et de compétences c'est juste absurde de leur faire passer les examens
00:14:52
donc effectivement idéalement on aurait l'approche personnalisée de
00:14:57
l'éducation évidemment ça représente un travailleur impossible pour des humains
00:15:02
pas ce qu'il faudrait un tuteur vraiment par étudiant plus
00:15:05
ou moins accès on voit bien que ce serait assez difficile
00:15:09
un appui sur les connaissances de vraiment approfondi de chacun des étudiants et de la façon son cerveau fonctionne
00:15:16
et là la force de sa mémoire ces connaissances préalables ainsi suite à sa demande un travail gigantesque
00:15:22
mais justement l'i. a. nous sommes là aussi
00:15:25
parce on peut le jeu avec quelques députés avec d'autres technologies
00:15:29
eux qui sont basés sur eux des réseaux de neurones on peut justement créer des tuteurs personnelles qui sont eux
00:15:35
des intelligences artificielles qui comprennent à la fois tout les
00:15:38
contenus un nécessaire pour eux pour le succès de l'étudiant
00:15:42
mais ils comprennent aussi de manière très attentivement ce qui se passe dans la
00:15:45
tête de l'étudiant du vote capable de savoir à la façon dont chacun apprend
00:15:50
la façon dont chacun fonctionne et les motivations faire émerger les talents spécifiques de
00:15:54
chacun et ainsi de suite à ce qu'on appelle des tuteurs i. a.
00:15:58
et on voit déjà beaucoup d'exemples qui et qui eux utilisent
00:16:04
j'étais 4 donc lors de la protection de jupiter quatrième quelles que quelques jours
00:16:09
i et des exemples comme duolingo qui n'a peu de procédures land qui incorpore graduellement
00:16:15
des capacités de chaque député pour aider les étudiants à mieux de mieux
00:16:19
maîtriser les langues ont ainsi qu'à l'académie qui utilisent eux qu'un député
00:16:24
et puis mon ma propre entreprise aussi depuis des années utilisent des systèmes comme jupiter
00:16:28
un pour personnaliser justement le la formation et s'adapter à ce qui se passe dans la tête de chacun des étudiants
00:16:36
ah oui
00:16:39
et donc en conclusion je pense que de la meilleure réponse en faite à sa ou développement de l'
00:16:44
intelligence artificielle c'est pas forcément d'avoir peur de voir comment peut se défendre mais c'est peut être
00:16:49
de se dire très bien ce développement on peut se connecter au développement de notre propre
00:16:53
intelligence et si on fait ça ce roman wine pour eux pour tout le monde
00:16:58
d'un simple message d'une sorte d'apprentissage dans les deux sens qui peut se passer
00:17:02
le l'intelligence artificielle apprend nous fait apprendre mais dans
00:17:06
ce processus apprend comment on apprend et donc peut nous faire
00:17:09
encore mieux apprendre et ainsi de suite c'est vraiment un cercle vertueux d'apprentissage de dans les deux sens
Conference Program
Mot de bienvenue et introduction
Mr. Frazer Cairns, M. Jean-Louis Dubler, M. Anouch Seydtaghia, resp. President of the SGIS, président de l’AVDEP, modérateur
March 22, 2023 · 4:30 p.m.
104 views
L’IA dans l’éducation : ChatGPT, et alors?
Prof Francesco Mondada, Grégory Liégeois, EPFL
March 22, 2023 · 4:38 p.m.
1911 views
How can AI tools such as ChatGPT support teaching and learning ?
Matthew Roberts, Teacher, Collège Champittet, Switzerland
March 22, 2023 · 5:08 p.m.
165 views
How to assess students' skills and knowledge in the age of ChatGPT?
Aimée Skidmore, Collège du Léman - International School
March 22, 2023 · 5:33 p.m.
143 views
Parades technologiques et humaines à "CheatGPT"?
Maxime Gabella, Directeur, MAGMA Learning
March 22, 2023 · 5:55 p.m.
102 views
Session questions-réponses modérée par Anouch Seydtaghia
March 22, 2023 · 6:13 p.m.
124 views
Recommended talks
Intelligence artificielle pour penser comme les humains
Melanie Mitchell, Professeure à l’Institut de Santa Fe
Sept. 11, 2021 · 4:45 p.m.
Digital lessons learned from musculoskeletal radiology
Patrick Omoumi
Feb. 1, 2019 · 11:37 a.m.
1894 views