Publié le 30 octobre 2017 Mis à jour le 30 octobre 2017
Une question éthique déjà ancienne
Les problèmes éthiques en robotique et intelligence artificielle pédagogique se posent dès à présent.
Commençons par marquer les esprits pour bien faire comprendre que l'on est rattrapé par les prévisions de la science-fiction.
Selon les ONG (Rapport Amnesty International), c’est une fourchette de 1 500 à 4 000 personnes qui ont été tuées par des drones américains l’année dernière. Cela aurait débuté en 2004. Avec les drones militaires programmés pour tuer, qui plus est avec des décisions autonomes déléguées aux machines, désormais possible avec le programme Skynet.
En y ajoutant des éléments juridiques et éthiques, on songe dès à présent à développer les 3 lois de la robotique d'Isaac Asimov énoncées en 1942 :
Les robots éducatifs sont bien sûr d'un autre ordre que les drones de combats, quoiqu'on sache que l'on peut aussi blesser avec des mots et que les façons d’apprendre et d’enseigner construisent des sociétés pacifiques ou violentes.
Des questions se posent pour harmoniser la relation entre vie organique et interaction mécanique et numérique dans le registre éducatif. Il serait là aussi temps d’imaginer des lois de la robotique éducative.
Là où ça se passe
Plusieurs illustrations attestent du discernement qu'il va falloir apprendre à exercer, par exemple, l'irruption d'une interaction d'un robot de télépresence dans un espace où il n'est pas invité
Le don d'ubiquité est un vieux rêve humain. Il peut être satisfait grâce au robot de télépresence qu'un internaute peut piloter à distance. Par ce moyen il peut s'inviter dans un espace de formation où il n'est pas forcément attendu et interagir par robot interposé: se mouvoir, voir entendre et prendre la parole avec des participants à une formation peut s'avérer très intrusif.
S'agit-il simplement de la courtoisie d'un visiteur inopiné ou y-a-t ‘il des règles à programmer ? Et l’étudiant alité sera-t-il pénalisé s’il refuse de suivre un cours via un robot de téléprésence ? Est-ce la fin des excuses pour certaines maladies ?
Programmation de réponses toutes faites et exercice d'une influence
On s'est déjà habitué à l'influence des moteurs de recherche qui nous guident dans nos questionnements. Ils accumulent sur chacun de nous une masse d'informations. Ils connaissent nos préférences et nous présentent ce qui paraît le plus pertinent. Des arrière-pensées commerciales sont perceptibles. Des contenus fallacieux peuvent être développés et propagés.
Devra-t-on interdire aux robots et IA de diffuser des mensonges ou thèses racistes? Qui et comment s'assurer des vérités acceptables? Qui connaît vraiment les filtres d’un moteur de recherche ? Y a-t-il un réel contrôle des citoyens sur le développement des IA et des programmations de robots ? A fortiori des propositions éducatives ? Pas vraiment et c’est une proposition à suivre de Jacque Testart, pionnier des méthodes de procréation assistée que d’orienter leur développement.
Substitution de formateur par des IA ou des robots
Le « gourou de l’Intelligence Artificielle » Laurent Alexandre étudie l’impact de la robotisation sur les emplois de demain, ses conclusions entraperçoivent une diminution drastique des emplois tenus par des humains. L'un des cas éthiques qui va certainement se poser en des termes aiguës, est celui de la substitution d'un formateur par une machine.
Le site https://willrobotstakemyjob.com/ (les robots prendront-ils mon job) se risque à des pronostics. Toutes les professions d’éducation et de formation sont passées au crible. Essayez le, le résultat donne à réfléchir.
En réalité, les intelligences artificielles remplacent déjà des actes humains dans la formation à distance, par exemple dans l'orientation de tâches à réaliser dans un parcours d'apprentissage, dans des répétitions de consignes ou des corrections d'exercices. Il s’agit pour l’instant essentiellement des tâches cognitives.
La question de la substitution se pose pour le tutorat à distance même si les tâches d’accompagnement, socio-affective et d’appui à la motivation semblent encore des tâches réservées au formateur. Ces tâches de médiation sont peu à peu grignotées au fur et à mesure de la progression des IA. Quel est donc le cœur qui ne saurait être programmé ? Quelle est la part spécifique du formateur qui échappera à un codage?
Acceptabilité sociale d'un robot ou d'une IA
Les robots sont particulièrement appréciés par les personnes âgées ou en maison de retraite. Ils sont des substituts affectifs, ils tiennent compagnie et donnent l'illusion d'une présence vivante et réactive, même lorsque les personnes âgées savent qu’il s’agit d’objets programmés.
Va t'on obtenir le même effet en enseignement? La rétroaction d'une machine réputée neutre facilitera-t-elle les retours d'expérience? Lorsque la présence du maître même silencieuse faisait peser un jugement social qu'en sera-t-il de celle d'un robot ? Des études menées par Karsenti sur l’impact de robots humanoïdes en interaction avec des enfants autistes sont prometteuses.
Surveillance et traçabilité des comportements humains
Lorsque des hommes se côtoient, un apprentissage vicariant opère. Par observation et échange ils modifient leurs réactions et leurs pratiques. C'est la confrontation à l'autre qui enseigne. Mais qu'en est-il quand une machine nous observe à notre insu? Quelle est la nature de ce savoir volé, qu'elle en est la légitimité? Jusqu'où les savoirs humains peuvent-ils être traqués et encodés sans le consentement de leur utilisateur? A qui appartiennent leurs traces d’apprentissage ?
Ces questions éthiques ou parfois simplement pratiques ne sont qu'un petit aperçu de la déferlante que nous promettent les nouvelles IA et les progrès de la bionique. J
Jean Staune prédit un accès à Internet des IA, dont le contrôle sera de plus en plus compliqué. Alors même si la question paraît complexe ou lointaine, il est temps de s’intéresser à la façon dont IA et robots éducatifs sont en train de coloniser nos esprits et nos pratiques, en particulier en matière éducative, qui reste une matrice essentielle des démocraties.
En attendant mieux je propose des lois de la robotique et des IA éducatives :
Si vous avez envie de débattre ou d’abonder la réflexion, échangeons : [email protected]
Aller plus loin
TV5 Monde – Robots tueurs un problème mondial méconnu http://information.tv5monde.com/info/robots-tueurs-un-probleme-mondial-meconnu-90548
Isaac Asimov http://monot.jc.pagesperso-orange.fr/divers/plan.htm
Quelles pourraient être les lois de la robotique du 21e siècle? - Radio-Canada
http://ici.radio-canada.ca/nouvelle/1009080/triplex-ia-ai-lois-de-la-robotique-du-21e-siecle-intelligence-artificielle
Thot cursus – Le robot de téléprésence avenir de l’éducation à distance? http://cursus.edu/article/28161/robot-telepresence-avenir-education-distance/
Stopfake - Comment obtenir un résultat impartial lors d’une recherche sur Google? https://www.stopfake.org/fr/comment-obtenir-un-resultat-impartial-lors-d-une-recherche-sur-google/
Reporterre – Jacques Testart il faut un contrôle citoyen des activités de recherche https://reporterre.net/Jacques-Testart-Il-faut-un-controle-citoyen-de-l-activite-de-recherche
T@d Quelle place pour les robots dans le tutorat à distance ? http://blogdetad.blogspot.fr/2016/10/quelle-place-pour-les-robots-dans-le.html
Will Robots Stake my job? https://willrobotstakemyjob.com/
Le nouvel Obs - Laurent Alexandre http://tempsreel.nouvelobs.com/sciences/20170210.OBS5170/10-choses-a-savoir-sur-laurent-alexandre-gourou-de-l-intelligence-artificielle.html
Wikipedia – Trois lois de la robotique https://fr.m.wikipedia.org/wiki/Trois_lois_de_la_robotique
Revue Reflet – L’homme robotisé – Jean Staune https://www.revue-reflets.org/?p=2333
Karsenti, T., Bugmann, J., & Frenette, E. Un robot humanoïde pour aider les élèves ayant un trouble du spectre de l'autisme?
http://www.karsenti.ca/vivre_robot_nao.pdf
Accédez à des services exclusifs gratuitement
Inscrivez-vous et recevez nos infolettres en pédagogie et technologies éducatives
Vous pourrez aussi indexer vos ressources préférées et retrouver votre historique de consultation
M’abonner à l'infolettreVous pourriez aussi aimer:
Valoriser l’innovation pédagogique grâce au codesign
Cette nouvelle appréhension de l’organisation du travail et du management des métiers permet à l’entreprise de valoriser chacun de ses acteurs et de les inciter à construire les produits et services de demain.
L’intégration du codesign dans la communauté éducative nécessite de repenser en terme de curriculum et de mettre en place une politique éducative qui dépasserait les champs didactiques.
Une IA peut-elle prédire notre avenir ?
Si une IA peut prédire un certain nombre de choses avec de grandes probabilités d’avoir raison. Il faudra néanmoins garder à l’esprit que les prédictions ne seront pas forcément des vérités et qu’elles pourront s’avérer fausses ou être déjouées.
Où sont les soignants, dans les communautés de malades ?
Sur Internet, le volume d'informations disponibles et les thématiques abordées suivent les préoccupations des internautes. Tous les êtres humains ayant des problèmes de santé à un moment ou à un autre, il n’est donc pas étonnant que la médecine ait une place prédominante dans le cyberespace. Grâce aux outils du Web 2.0, les malades se regroupent. Mais l’absence de corps médicaux dans ces communautés ne risque-t-elle pas de créer des dérives ?
Spécifications et standards e-learning***
L’enjeu majeur consiste à pouvoir disposer de contenus pédagogiques indépendants du système d’exploitation, du logiciel, du matériel, du contexte, de la présentation.
Caractéristiques des systèmes éducatifs et compétences des jeunes de 15 ans
Le document part des données de la dernière enquête PISA -Program for international student assessment- l’objectif étant de comprendre ce qui influe le niveau des performances des élèves mais aussi, ce qui fait que, selon les pays, l’ampleur des inégalités entre élèves et des inégalités sociales varie sensiblement.
