Dans un document d’étude, des chercheurs ont noté que nous avons tendance à faire plus confiance aux machines et aux algorithmes qu’aux humains dans une situation de prise de décision. Cette étude, financée par l’armée américaine à hauteur de 300 000 dollars, a été menée par des chercheurs du département des technologies de l’information de l’université de Géorgie. Trois expériences ont été menées pour vérifier ces résultats.
Une série d’expériences psychologiques
Pour réaliser cette étude, 1 500 personnes ont été sollicitées sur Internet pour compter le nombre de personnes présentes sur une série de photographies. A chaque nouvelle expérience, le nombre d’individus présents sur les photographies augmentait. Pour chaque photographie, les personnes testées devaient choisir entre les suggestions d’un groupe de 5.000 personnes (la foule) ou celles d’un algorithme entraîné au préalable à partir d’une base de données de 5.000 images.
Cette étude est la première étape d’une longue série de recherches, comme l’explique Aaron Schechter :
L’objectif final est d’observer des groupes d’humains et de machines prenant des décisions et de découvrir comment nous pouvons les amener à se faire confiance et comment cela modifie leur comportement.
Eric Bogert, l’auteur principal de la publication détaillant l’ensemble de l’étude, explique l’intérêt de ces trois expériences :
Les algorithmes sont capables d’exécuter un grand nombre de tâches, et le nombre de tâches qu’ils sont capables d’exécuter augmente presque quotidiennement. Il semble y avoir un biais cognitif qui montre la confiance dans les algorithmes, à mesure que les tâches à accomplir au quotidien deviennent plus difficiles, et cet effet est plus fort que le biais consistant à se fier aux conseils des autres.
Des résultats surprenants
Les résultats sont clairs : lorsque l’on compare les effets des trois expériences, plus le nombre de personnes présentes sur la photo est élevé, plus les personnes feront confiance à l’algorithme pour prendre leur décision plutôt qu’aux conseils donnés par la foule. Cet effet persiste même lorsque la qualité des conseils, le nombre et la précision des sujets sont contrôlés. L’une des analyses qu’Aaron Schecter propose pour ces résultats est que les personnes testées pensent généralement qu’un travail qui dépend du comptage est un travail plus approprié à confier à un algorithme entraîné qu’à un être humain.
Ce dernier poursuit son analyse en parlant de la perception qu’ont les gens des algorithmes et de l’IA :
L’un des problèmes courants de l’IA est son utilisation pour accorder un crédit ou approuver un prêt. Bien qu’il s’agisse d’une décision subjective, il y a beaucoup de chiffres en jeu – comme le revenu et le score de crédit – et les gens ont l’impression que c’est un bon travail pour un algorithme. Mais nous savons que la fiabilité conduit à des pratiques discriminatoires dans de nombreux cas, en raison de facteurs sociaux qui ne sont pas pris en compte.
Cependant, un autre fait contredit partiellement les résultats initiaux de l’enquête : les sujets de l’expérience ont également eu tendance à ignorer plus fortement les conseils inexacts étiquetés comme algorithmiques que les conseils tout aussi inexacts étiquetés comme provenant de la foule.
