Confiança antes de experimentar
Se você está perguntando “a IA facial é segura em 2022?”, a resposta útil não é simplesmente sim ou não. A segurança depende da imagem, das pessoas envolvidas, do serviço que a processa e do que você faz com o resultado.
A maioria dos erros de segurança ocorre quando uma ferramenta criativa de imagens é tratada como se fosse uma magia inofensiva ou uma vigilância automática. A realidade está entre esses extremos.
Uma edição realista de rosto não prova que a imagem de origem foi coletada legalmente, que a pessoa consentiu ou que o resultado é preciso.
O que fazer em vez disso
Confirme a permissão para usar a imagem de origem e identifique a mídia alterada quando os espectadores puderem confundi-la com um registro autêntico.
Um editor amigável não informa por quanto tempo os uploads são mantidos, se são revisados ou se são usados para aprimorar um sistema.
O que fazer em vez disso
Leia os termos de privacidade atuais, evite imagens sensíveis e remova detalhes identificáveis quando eles não forem necessários.
A permissão para usar uma foto em uma edição privada não abrange automaticamente a publicação pública, a publicidade, a personificação ou o uso como dados de treinamento.
O que fazer em vez disso
Obtenha consentimento compatível com o uso, o público e a duração pretendidos antes de criar ou compartilhar o resultado.
As ferramentas de IA facial podem produzir alterações convincentes, mas incorretas, especialmente com iluminação ruim, várias pessoas, ângulos incomuns ou rostos parcialmente visíveis.
O que fazer em vez disso
Trate o resultado como mídia editada, não como evidência para decisões sobre identidade, acesso, saúde, idade ou reputação.
Um fluxo de trabalho de IA facial geralmente tem três momentos distintos: fornecer uma imagem, transformá-la ou analisá-la e decidir o que acontece com o resultado. Cada momento tem seu próprio risco.
Pergunte quem aparece na imagem, quem é o proprietário, se existe permissão e se o arquivo contém detalhes do fundo ou metadados que você deve remover.
Identifique se a ferramenta está trocando, gerando, comparando, reconhecendo ou classificando um rosto. Essas são capacidades diferentes, com consequências diferentes.
Revise o resultado em busca de detalhes enganosos, mantenha-o privado quando apropriado e informe edições relevantes antes de publicá-lo ou enviá-lo adiante.
Uma comparação de antes e depois pode mostrar quão convincente parece uma edição, mas a qualidade visual não é uma avaliação de privacidade. O par de imagens abaixo é ilustrativo, não uma prova de consentimento, identidade ou retenção segura.
Um resultado realista ainda pode ser não autorizado ou enganoso.
Mídia de origemResultado editadoÀs vezes, a escolha mais segura é parar antes de fazer qualquer upload. Considere um método diferente quando os riscos forem altos, a permissão não estiver clara ou o resultado puder prejudicar alguém.
Você tem a imagem de um amigo ou desconhecido, mas não tem permissão clara para editá-la ou compartilhá-la publicamente.
Não faça o upload para uma piada, imitação ou publicação; use, em vez disso, uma imagem de banco licenciada ou um tema fictício.
Você está considerando o resultado de IA facial como um indicador de confiabilidade, adequação ou caráter.
Não use um resultado facial criativo ou subjetivo como atalho para decisões; baseie-se em critérios documentados e relevantes para o cargo.
Um resultado facial determinaria a entrada, a elegibilidade, a idade, a identidade ou o acesso a um serviço.
Não substitua um processo validado por uma ferramenta facial informal, com aviso adequado, análise e opções de recurso.
A imagem envolve um menor de idade, conteúdo íntimo, informações de saúde, assédio ou uma pessoa em risco de ser identificada.
Não faça o upload, a menos que haja uma finalidade legal clara e proteção adequada; escolha um fluxo de trabalho que não permita a identificação.
Antes de entregar uma imagem, decida qual permissão você tem, do que a ferramenta precisa e quem poderá ver o resultado. Se alguma resposta não estiver clara, pare e escolha uma fonte que permita menos identificação.
O ano não determina se uma ferramenta facial é segura. O risco depende do serviço, da imagem, do consentimento, dos termos de retenção e de como o resultado será usado; portanto, evite fazer uploads quando essas condições não estiverem claras.
Pode, dependendo dos termos de privacidade atuais e da configuração técnica do serviço. Verifique as informações sobre retenção, exclusão, análise e treinamento de modelos antes de fazer o upload, e não presuma que fechar o editor exclui o arquivo original.
Somente quando você tem permissão adequada para a edição pretendida e para o público-alvo. A permissão para um experimento privado pode não abranger publicação pública, uso comercial, personificação ou o compartilhamento de um resultado que possa constranger ou induzir a pessoa ao erro.
Um resultado criativo de IA facial não deve ser tratado como prova de identidade, idade, elegibilidade de acesso ou caráter. Iluminação, qualidade da imagem, artefatos de edição e erros do modelo podem produzir um resultado convincente, mas incorreto.
Use uma imagem que pertença a você ou para a qual tenha permissão clara de uso, remova detalhes pessoais desnecessários e consulte primeiro as práticas de dados do serviço. Mantenha o resultado privado até verificar se há alterações enganosas e decidir se é necessário informar sobre a edição.