La última actualización de ChatGPT ha permitido a los usuarios replicar el inconfundible estilo artístico del legendario cineasta japonés Hayao Miyazaki y su estudio de animación Studio Ghibli. Esta nueva funcionalidad se ha vuelto viral en las redes sociales, con miles de personas compartiendo sus creaciones. Sin embargo, ESET, líder en detección proactiva de amenazas, advierte que sumarse a esta tendencia por mera diversión puede desencadenar fraudes o suplantación de identidad si la tecnología se ve comprometida o si se aceptan condiciones de privacidad desfavorables.
Un ejemplo de esto es el caso de Clearview AI, que funcionaba como un motor de búsqueda de rostros recopilando información de fuentes públicas. En 2022, la Unión Americana de Libertades Civiles entabló una disputa para que Clearview AI restringiera la venta de su software de reconocimiento facial a entidades gubernamentales en Estados Unidos. Esto demuestra los desafíos legales y éticos que enfrentan las empresas que recolectan datos biométricos sin el consentimiento informado de los usuarios.
Filtraciones de Datos Biométricos: El Caso de Outabox
Otro caso preocupante es el de la empresa australiana Outabox, que en mayo de 2024 sufrió una filtración que expuso datos de reconocimiento facial y biometría de sus sistemas, utilizados en bares y clubes de Australia. Personas que afirmaron ser antiguos desarrolladores de Outabox crearon un sitio web donde confirmaban tener acceso a datos biométricos, como escaneos de licencias de conducir, firmas, membresías de clubes, direcciones, fechas de nacimiento, números de teléfono y registros de visitas a establecimientos.
Las investigaciones demostraron que los datos se recopilaron de 19 establecimientos en Nueva Gales del Sur y el Territorio de la Capital Australiana, operados por ClubsNSW que había contratado a Outabox.
Desafíos de la Inteligencia Artificial Generativa
Según ESET, entre los principales desafíos que impone la Inteligencia Artificial Generativa, la moderación del contenido y los derechos de autor son dos puntos clave. Los modelos de IA dependen en gran medida del acceso a grandes volúmenes de datos, muchos de los cuales contienen información personal, sensible y confidencial.
Estas diversas fuentes de recolección de información, ya sea de fuentes públicas, solicitudes a los usuarios o redes sociales, pueden exponer a los usuarios a posibles accesos indebidos, filtraciones o robos de información, como en el caso de Outabox. Esto puede facilitar la suplantación de identidad y la generación de estafas.
Consejos para Minimizar Riesgos
Desde ESET Latinoamérica, se comparten los siguientes consejos para quienes deseen sumarse a la tendencia de generar imágenes al estilo de Studio Ghibli:
- Revisar cuidadosamente las políticas de privacidad del sitio o aplicación que se utilice, para entender cómo se trata la información.
- Verificar si la información que se sube está protegida por alguna ley y si la aplicación cumple con los principios éticos de transparencia, explicabilidad, equidad y responsabilidad.
- Utilizar aplicaciones web o móviles de fuentes oficiales, ya que los ciberdelincuentes pueden aprovechar esta tendencia para distribuir malware.
- Subir únicamente imágenes seguras o sin derechos de autor, para evitar problemas legales relacionados con la propiedad intelectual.
En resumen, si bien la posibilidad de crear imágenes al estilo de Studio Ghibli puede ser tentadora, es crucial tener en cuenta los riesgos de privacidad y legales que conlleva. Mantenerse informado y tomar las debidas precauciones es fundamental para disfrutar de esta tendencia de manera segura.
