Confianza antes de probar
Si te preguntas «¿es segura la IA facial en 2022?», la respuesta útil no es un simple sí o no. La seguridad depende de la imagen, de las personas involucradas, del servicio que la gestiona y de lo que hagas con el resultado.
La mayoría de los errores de seguridad surgen al tratar una herramienta creativa de imágenes como si fuera magia inofensiva o vigilancia automática. La realidad se encuentra entre ambos extremos.
Una edición facial realista no demuestra que la imagen original se haya recopilado legalmente, que la persona haya dado su consentimiento o que el resultado sea preciso.
Qué hacer en su lugar
Confirma que tienes permiso para usar la imagen original y etiqueta los medios alterados cuando los espectadores puedan confundirlos con un registro auténtico.
Un editor amigable no puede decirte cuánto tiempo se conservan las cargas, si se revisan o si se utilizan para mejorar un sistema.
Qué hacer en su lugar
Lee las condiciones de privacidad vigentes, evita las imágenes sensibles y elimina los detalles identificables cuando no sean necesarios.
El permiso para usar una foto en una edición privada no cubre automáticamente su publicación pública, la publicidad, la suplantación de identidad ni su uso como datos de entrenamiento.
Qué hacer en su lugar
Obtén un consentimiento que se ajuste al uso previsto, al público y al tiempo de uso antes de crear o compartir el resultado.
Las herramientas faciales pueden producir cambios convincentes pero incorrectos, especialmente con poca luz, varias personas, ángulos inusuales o rostros parcialmente visibles.
Qué hacer en su lugar
Trata el resultado como contenido editado, no como prueba para tomar decisiones sobre identidad, acceso, salud, edad o reputación.
Un proceso de IA facial suele tener tres momentos distintos: proporcionar una imagen, transformarla o analizarla, y decidir qué sucede con el resultado. Cada momento tiene sus propios riesgos.
Pregunta quién aparece en la imagen, a quién pertenece, si se cuenta con permiso y si el archivo contiene detalles del entorno o metadatos que debas eliminar.
Determina si la herramienta intercambia, genera, compara, reconoce o evalúa un rostro. Son capacidades distintas con consecuencias diferentes.
Revisa el resultado para detectar detalles engañosos, mantenlo privado cuando corresponda e informa de las modificaciones importantes antes de publicarlo o enviarlo a otras personas.
Una comparación del antes y el después puede mostrar lo convincente que parece una edición, pero la calidad visual no es una evaluación de privacidad. El par de imágenes siguiente es ilustrativo; no demuestra consentimiento, identidad ni conservación segura.
Un resultado realista puede seguir siendo no autorizado o engañoso.
Imagen originalResultado editadoA veces, la opción más segura es detenerse antes de subir nada. Considera otro método cuando haya mucho en juego, el permiso no esté claro o el resultado pueda perjudicar a alguien.
Tienes la imagen de un amigo o de una persona desconocida, pero no cuentas con un permiso claro para editarla o compartirla públicamente.
No lo subas como broma, suplantación o publicación; usa en su lugar una imagen de stock con licencia o un sujeto ficticio.
Estás considerando el resultado de la IA facial como una señal de confiabilidad, idoneidad o carácter.
No uses un resultado facial creativo o subjetivo como atajo para tomar decisiones; basa la decisión en criterios documentados y relacionados con el puesto.
Un resultado facial determinaría la entrada, la elegibilidad, la edad, la identidad o el acceso a un servicio.
No sustituyas un proceso validado, con aviso adecuado y opciones de revisión y apelación, por una herramienta facial informal.
La imagen incluye a un menor, contenido íntimo, información de salud, acoso o una persona en riesgo de ser identificada.
No la subas a menos que exista un propósito legal claro y una protección adecuada; elige un flujo de trabajo que no permita identificar a la persona.
Antes de entregar una imagen, decide qué permiso tienes, qué necesita la herramienta y quién podría ver el resultado. Si alguna respuesta no está clara, detente y elige una fuente que permita identificar menos a la persona.
El año no determina si una herramienta facial es segura. El riesgo depende del servicio, la imagen, el consentimiento, las condiciones de conservación y la forma en que se utilizará el resultado, así que evita subir imágenes cuando esas condiciones no estén claras.
Puede hacerlo, según las condiciones de privacidad vigentes y la configuración técnica del servicio. Revisa la información sobre conservación, eliminación, revisión y entrenamiento de modelos antes de subir una imagen, y no des por hecho que cerrar el editor elimina el archivo original.
Solo si tienes un permiso adecuado para la edición prevista y el público al que se mostrará. El permiso para una prueba privada puede no incluir la publicación, el uso comercial, la suplantación de identidad ni compartir un resultado que pueda avergonzar o confundir a la persona.
Un resultado facial creativo no debe considerarse una prueba de identidad, edad, derecho de acceso o carácter. La iluminación, la calidad de la imagen, los defectos de edición y los errores del modelo pueden producir un resultado convincente pero incorrecto.
Usa una imagen tuya o una para la que tengas un permiso claro, elimina los datos personales innecesarios y revisa primero las prácticas de tratamiento de datos del servicio. Mantén el resultado en privado hasta que hayas comprobado si contiene cambios que puedan inducir a error y decidido si debes indicar que está editado.