Faire confiance avant d’essayer
Si vous vous demandez : « l’IA faciale est-elle sûre en 2022 ? », la réponse utile n’est pas un simple oui ou non. La sécurité dépend de l’image, des personnes concernées, du service qui la traite et de ce que vous faites du résultat.
La plupart des erreurs de sécurité viennent du fait que l’on considère un outil de création d’images soit comme une magie inoffensive, soit comme un système de surveillance automatique. La réalité se situe entre ces deux extrêmes.
Une retouche réaliste d’un visage ne prouve ni que l’image source a été recueillie légalement, ni que la personne a donné son accord, ni que le résultat est exact.
Que faire à la place
Confirmez que vous avez l’autorisation d’utiliser l’image source et indiquez que le média a été modifié lorsque les spectateurs pourraient le prendre pour un document authentique.
Un éditeur convivial ne peut pas vous dire combien de temps les téléversements sont conservés, s’ils sont examinés ou s’ils servent à améliorer un système.
Que faire à la place
Lisez les conditions de confidentialité actuelles, évitez les images sensibles et supprimez les détails permettant d’identifier les personnes lorsqu’ils ne sont pas nécessaires.
L’autorisation d’utiliser une photo pour une retouche privée ne couvre pas automatiquement sa publication publique, la publicité, l’usurpation d’identité ou son utilisation comme donnée d’entraînement.
Que faire à la place
Obtenez un consentement adapté à l’utilisation prévue, au public visé et à la durée d’utilisation avant de créer ou de partager le résultat.
Les outils de traitement des visages peuvent produire des modifications convaincantes mais incorrectes, surtout en cas de faible éclairage, de présence de plusieurs personnes, d’angles inhabituels ou de visages partiellement visibles.
Que faire à la place
Considérez le résultat comme un média modifié, et non comme une preuve pour prendre des décisions concernant l’identité, l’accès, la santé, l’âge ou la réputation.
Un processus d’IA faciale comporte généralement trois étapes distinctes : fournir une image, la transformer ou l’analyser, puis décider de ce qu’il advient du résultat. Chaque étape comporte ses propres risques.
Demandez-vous qui apparaît sur l’image, à qui elle appartient, si vous avez l’autorisation de l’utiliser et si le fichier contient des détails en arrière-plan ou des métadonnées à supprimer.
Déterminez si l’outil remplace, génère, compare, reconnaît ou évalue un visage. Ces capacités sont différentes et n’ont pas les mêmes conséquences.
Examinez le résultat pour repérer les détails trompeurs, gardez-le privé si nécessaire et signalez les modifications importantes avant de le publier ou de le transmettre.
Une comparaison avant-après peut montrer à quel point une modification semble convaincante, mais la qualité visuelle ne constitue pas une évaluation des risques pour la vie privée. La paire d’images ci-dessous est fournie à titre d’illustration : elle ne prouve ni le consentement, ni l’identité, ni une conservation sûre.
Un résultat réaliste peut néanmoins être non autorisé ou trompeur.
Média sourceRésultat modifiéLe choix le plus sûr est parfois de s’arrêter avant de téléverser quoi que ce soit. Envisagez une autre méthode lorsque les enjeux sont importants, que l’autorisation est incertaine ou que le résultat pourrait nuire à quelqu’un.
Vous disposez de l’image d’un ami ou d’un inconnu, mais vous n’avez pas son autorisation explicite pour la modifier ou la partager publiquement.
Ne le téléchargez pas pour plaisanter, usurper une identité ou le publier ; utilisez plutôt une image libre de droits ou un sujet fictif.
Vous envisagez d’utiliser un résultat d’IA faciale comme indicateur de fiabilité, d’adéquation ou de caractère.
N’utilisez pas un résultat facial créatif ou subjectif comme raccourci décisionnel ; appuyez-vous sur des critères documentés et pertinents pour le poste.
Un résultat facial déterminerait l’entrée, l’admissibilité, l’âge, l’identité ou l’accès à un service.
Ne remplacez pas un processus validé, avec une information appropriée ainsi que des possibilités de réexamen et de recours, par un outil facial informel.
L’image concerne un mineur, du contenu intime, des informations de santé, du harcèlement ou une personne risquant d’être identifiée.
Ne la téléchargez pas, sauf s’il existe une finalité légale claire et une protection adaptée ; choisissez un processus qui ne permet pas l’identification.
Avant de transmettre une image, déterminez de quelle autorisation vous disposez, ce dont l’outil a besoin et qui pourrait voir le résultat. Si une réponse n’est pas claire, faites une pause et choisissez une source moins identifiable.
L’année ne détermine pas si un outil d’IA faciale est sûr. Le risque dépend du service, de l’image, du consentement, des conditions de conservation et de l’utilisation prévue du résultat. Évitez donc les téléchargements lorsque ces conditions ne sont pas claires.
C’est possible, selon les conditions de confidentialité actuelles du service et sa configuration technique. Vérifiez les informations relatives à la conservation, à la suppression, à l’examen et à l’entraînement des modèles avant de télécharger une image, et ne supposez pas que la fermeture de l’éditeur supprime le fichier original.
Uniquement lorsque vous disposez d’une autorisation adaptée à la retouche prévue et à son public. L’autorisation accordée pour une expérimentation privée peut ne pas couvrir la publication publique, l’utilisation commerciale, l’usurpation d’identité ou le partage d’un résultat susceptible de mettre la personne mal à l’aise ou de l’induire en erreur.
Un résultat créatif obtenu avec un visage ne doit pas être considéré comme une preuve d’identité, d’âge, d’éligibilité à un accès ou de caractère. L’éclairage, la qualité de l’image, les artefacts de retouche et les erreurs du modèle peuvent tous produire un résultat convaincant, mais incorrect.
Utilisez une image dont vous êtes propriétaire ou que vous avez clairement l’autorisation d’utiliser, supprimez les informations personnelles inutiles et examinez d’abord les pratiques du service en matière de données. Gardez le résultat privé jusqu’à ce que vous ayez vérifié l’absence de modifications trompeuses et décidé si une divulgation est nécessaire.