Une décision éthique : IBM renonce à la reconnaissance faciale

Une décision éthique : IBM veut lutter contre le racisme

La multinationale IBM vient d’annoncer sa décision éthique de renoncer à la reconnaissance faciale. Cela, bien que ce secteur technologique soit porteur. Pour se justifier, le géant américain a expliqué qu’il estimait que cette technologie pouvait menacer les libertés individuelles. Par ailleurs, elle pourrait aussi encourager la discrimination raciale.

Une position radicale

Le 8 juin dernier, la société IBM a donc fait un choix radical. En déclarant sans détour qu’elle abandonnait totalement ses recherches sur les dispositifs biométriques. Même si cette technologie est souvent controversée, le fait qu’IBM renonce à la reconnaissance faciale est un indicateur fort. De plus, assez inédit dans cette filière. Particulièrement aux Etats-Unis, où les manifestations récemment déclenchées par l’assassinat de Georges Floyd ont généré des émeutes. De fait, aujourd’hui, la reconnaissance faciale est massivement utilisée par la police. Cela, au moyen de caméras de surveillance, perçues par certains comme trop intrusives. Cela explique en partie la décision éthique d’IBM. En effet, l‘entreprise veut maintenant « […] entamer un débat national sur la question de savoir si et comment la technologie de reconnaissance faciale doit être utilisée par les forces de l’ordre». Une demande envoyée par courrier de manière officielle aux élus américains.

Un taux d’erreurs trop important

A notre époque, la reconnaissance faciale sert principalement à comparer des images filmées dans l’espace public avec des bases de données. Une activité destinée au maintien de l’ordre. Par nature, ce procédé remet en cause la notion même d’anonymat. Problème, différentes enquêtes ont révélé que cette technologie n’était pas toujours fiable. En réalité, elle peut même engendrer des erreurs. Surtout avec les visages de personnes de couleur. Ainsi, en 2018, une étude faite par le MIT avait montré que l’analyse automatique réalisée sur des personnes afro-américaines était moins précise que sur des sujets caucasiens. Globalement, le taux d’erreurs constaté était de 20 %. Un ratio pour le moins préoccupant. Celui-ci explique la décision éthique d’IBM de renoncer à développer la reconnaissance faciale.

Respecter des valeurs

La décision éthique d’IBM de renoncer à la reconnaissance faciale pousse le géant américain à arrêter ses recherches dans ce domaine.

Ce constat de défaillance a donc conduit Arvind Krishna, le nouveau Directeur général d’IBM, à déclarer qu’IBM renonçait à la reconnaissance faciale. Ainsi, elle « […] ne tolérera pas l’usage de toute technologie, y compris la reconnaissance faciale, pour la surveillance de masse et le profilage racial […]. » Car pour Arvind Krishna, « […] les violations des droits de l’homme et des libertés fondamentales, ou tout autre objectif, ne serait pas conforme à nos valeurs. »

Des interrogations qui concernent aussi la France

Indirectement, ce rejet technologique d’IBM pourrait rejaillir sur l’utilisation française des dispositifs biométriques par la police. En effet, la décision éthique d’IBM de renoncer à la reconnaissance faciale pose question. De fait, cela force à s’interroger sur l’usage futur de cet outil high tech et sur ses conséquences. En tous cas, ce retrait soulève forcément la question d’un comportement responsable. En attendant, aux Etat-Unis, les scrupules d’IBM pourraient vite profiter à d’autres sociétés, moins à cheval sur l’éthique. Notamment Amazon, qui a déjà déclaré qu’elle n’avait pas l’intention d’abandonner le créneau prometteur de la reconnaissance faciale.

• Nous vous invitons à lire également notre article sur les risques de la reconnaissance faciale
• Le Bulletin des Communes  vous suggère aussi l’article du site Siècle Digital