Actualités

Publié le 03 février 2021 Mis à jour le 03 février 2021

La régulation des algorithmes : transparence, loyauté, modération

Principes de data-régulation

Canvas numérique

Questions de savoir

Dans l'article «Pour une régulation des algorithmes»  sont abordées les questions de la part d’intervention humaine dans un algorithme, de comment se pratique la régulation de ces algorithmes et  de la transparence ou plutôt de l’opacité de ceux-ci.

L'humain programme les algorithmes, les alimente avec certaines données, le tout dans une intention précise et vérifie ensuite les effets afin de réguler l'ensemble.

Dans ce domaine dynamique, les remises en question sont fréquentes et la tradition ou la jurisprudence sont de peu de secours tant les phénomènes sont nouveaux. Les paradoxes entre les possibilités et les désirs, entre les intentions et les pratiques réelles amènent les chercheurs à définir des moyens de supervision des algorithmes.

Entre l'intention et le résultat

Par exemple, des algorithmes plus anciens peuvent ne plus correspondre à la réalité et pourtant continuer de filtrer les appels venant des téléphones fixes; d'autres algorithmes présentent des biais établis pour maximiser les profits plutôt que la satisfaction du client puisqu'on sait que seulement une faible minorité contesteront. Sans compter les biais établis par une intelligence artificielle à partir de données dont elle dispose et dont on ne peut expliquer comment elle est arrivé à ses conclusions; quand on parle de transparence, le matériel est parfois tout à fait opaque.

Ce qui amène des situations injustes dont personne ne semble pouvoir assumer la responsabilité et qui sont difficiles à renverser.  Par exemple, des fraudeurs continent d'annoncer sur les réseaux sans être inquiétés par Facebook, d'autres distribuent des insanités proposées par leurs membres sans assumer de responsabilité enfin d'autres censurent systématiquement tout ce qui pourrait affecter leur pouvoir. Entre la censure et le laisser aller, il n'est pas évident d'établir un algorithme équilibré ou de superviser les réelles intentions.

Aussi les approches en amont, au niveau de la programmation, et en aval, au niveau de la surveillance, se développent.

«Nous pensons que la recherche académique a beaucoup à apporter sur ces sujets. Elle a plutôt contribué jusqu’ici à créer de formidables librairies logicielles de prédiction et d’influence du comportement client, et elle aspire aujourd’hui à bâtir des intelligences artificielles à la fois explicables, frugales et loyales. Armer le régulateur face aux mastodontes algorithmiques pose d’autres questions, non élémentaires, qui exigent un devoir de rigueur scientifique, un discours de preuve ou du moins une solution parallèle à la méthode de surveillance.»

Pour l'article complet : Pour une régulation des algorithmes


En savoir plus sur cette actualité

Visiter inria.fr


Voir plus de nouvelles de cette institution
INRIA - Institut national de recherche en informatique et en automatique

Domaine de Voluceau
Rocquencourt - B.P. 105
78153 Le Chesnay
France

Tél.: 33 (0)1 39 63 55 11

Contacter

Voir le profil

Pour vous abonner au fil RSS de Thot Cursus, indiquez votre courriel ci-dessous :

Service par FeedBurner


            

Accédez à des services exclusifs gratuitement

Inscrivez-vous et recevez des infolettres sur :

  • Les cours
  • Les ressources d’apprentissage
  • Le dossier de la semaine
  • Les événements
  • Les technologies

De plus, indexez vos ressources préférées dans vos propres dossiers et retrouvez votre historique de consultation.

M’abonner à l'infolettre

Superprof : la plateforme pour trouver les meilleurs professeurs particuliers en France (mais aussi en Belgique et en Suisse)


Effectuez une demande d'extrait d'acte de naissance en ligne !


Ajouter à mes listes de lecture


Créer une liste de lecture

Recevez nos nouvelles par courriel

Chaque jour, restez informé sur l’apprentissage numérique sous toutes ses formes. Des idées et des ressources intéressantes. Profitez-en, c’est gratuit !