En pleine pandémie, un père américain a envoyé à son pédiatre une photo des parties intimes de son fils, souffrant d’une mauvaise éruption cutanée. Cependant, l’algorithme de Google n’a pas apprécié la photo et a signalé l’homme pour abus et exploitation d’enfants, bloquant son compte et le privant ainsi de toute sa vie numérique. Voici les détails de l’affaire.
Du diagnostic à l’accusation de pédopornographie
Cela se passe en février 2021 aux États-Unis, au plus fort de la pandémie. Mark (nom de famille non divulgué pour des raisons de confidentialité) se rend compte un soir que son fils a un petit problème au niveau de l’aine.Le pénis est rouge et douloureux et l’enfant ne fait que se plaindre.
Après avoir contacté une infirmière, avant d’avoir pu accéder à une consultation médicale spécialisée en ligne le lendemain, la mère de l’enfant – toujours sur la suggestion de l’agent de santé – prend une photo des parties intimes de son enfant et, avec le téléphone portable de son mari, la transmet au médecin afin de faire constater au préalable les dommages causés par l’infection potentielle.e.
Jusqu’à présent, tout va bien. Le médecin vérifie les images, pose un diagnostic correct et prescrit au petit une série d’antibiotiques qui, en quelques jours, conduisent à une guérison totale.
Le revers de la médaille se produit cependant, malheureusement après seulement deux jours. Mark, le père de l’enfant, reçoit une notification l’informant que son compte a été désactivé parce qu’il contient du contenu préjudiciable, illégal et contraire aux politiques du web.
Après vérification, étonné et inconscient, Mark découvre qu’il a été signalé à la police par Google pour abus et exploitation d’enfants. Le compte Internet est bloqué et l’accès à ses photos, ses contacts et son agenda est suspendu. Pratiquement toute la vie numérique de Mark est prise en otage et la police de San Francisco enquête sur lui.
Le juge impassible de l’algorithme de Google
Ayant réalisé l’erreur potentielle de l’intelligence artificielle, qui avait probablement accusé Mark de pédopornographie, l’homme tente d’abord de faire appel directement à Googleen faisant appel de la décision de la plateforme.
Mais ses tentatives sont vaines et Mark est également soumis à plusieurs perquisitions, autorisées par des mandats de la police de San Francisco. Bien évidemment, l’enquête établit que le père de l’enfant ne révèle aucun comportement contraire à la loi et qu’il est totalement innocent. Cependant, ceci n’est pas suffisant pour que Google lève son blocage, en effet, après quelques semaines le compte de Mark est totalement supprimé.
Il faudrait trop d’argent et de temps pour tenter de racheter sa position. Mark, un ancien technicien informatique totalement conscient du fonctionnement de l’algorithme qui travaille sur les images pédopornographiques, décide donc d’abandonner son combat et de tenter de sauver ce qui reste de sa vie privée, déjà largement violée par le web et les différentes autorités.
Cette affaire donne certainement matière à réflexion sur ce que pourraient être les scénarios pour notre avenir. Nous pouvons être victimes d’une injustice médiatique à cause de évaluation automatique l’occasion de décider de notre sort ?