tu protección que recibe en respuesta a solicitudes de los automatizados para identificar a menores usuarios, mediante el uso de algoritmos de analizando conversaciones; implementó algo- tipo neuronal. Una red neuronal es un mode- ritmos avanzados para filtrar temas sensibles y lo que permite el reconocimiento de objetos, moderar así contenidos inapropiados; actualizó formas o patrones dentro de un conjunto de el aviso de privacidad y el registro de actividades datos determinado (un rostro humano en una de tratamiento; limitó el acceso para nuevos fotografía, por ejemplo). usuarios a conversaciones sexuales; duplicó el Según las investigaciones del GPDP, el trata- servicio creando una versión gratuita y otra de miento de datos personales de Replika podría pago con contenido romántico pero no sexual, violar la legislación por falta de transparencia con verificación mediante tarjeta de pago; y en la política de privacidad y ausencia de bases presentó una política de privacidad actualizada, legales claras para el tratamiento de datos, por asegurando que todas estas medidas se aplica- suponer un riesgo para los menores –ya que rían en Italia una vez reactivado el servicio. no existía un filtro de edad en el registro ni en El GPDP halló vulneraciones de los artículos la interacción con el chatbot– o por ofrecer 5.1.a, 5.1.c, 6, 12, 13, 24 y 25.1 del RGPD, por contenido inapropiado sin la protección para falta de identificación de la base legal para menores y usuarios vulnerables. cada tipo de tratamiento y para el desarrollo Por mandato del GPDP, Luka Inc. tenía que del modelo LLM de presentar una política de privacidad actua- Replika. Además, de- Su política de lizada a todos los usuarios en Italia, antes de tectó deficiencias en la privacidad no registrarse y acceder al servicio Replika; imple- transparencia,pues la aclaraba el periodo mentar un mecanismo de control de edad en política de privacidad de conservación de los datos ni que el todas las páginas de registro y un “periodo de solo estaba disponible servicio es exclusivo reflexión” para evitar el acceso fraudulento de en inglés; no aclaraba para adultos menores; garantizar que los usuarios en Italia el periodo de conserva- puedan ejercer sus derechos sobre el trata- ción de los datos; la información sobre transfe- miento de sus datos; y crear funciones que rencias de datos fuera del EEE era contradicto- permitan a los usuarios reportar contenido in- ria; y no aclaraba que el servicio estaba dirigido apropiado para evitar que el chatbot lo repita. exclusivamente a adultos. Ante estas exigencias, Luka Inc. pidió la revo- Con los elementos anteriores y a falta de cación de la medida correctiva, argumentando datos del volumen de negocio anual de Luka que había proporcionado controles adecuados: Inc., de conformidad con el artículo 83.3 del bloqueó el servicio en Italia desde la aplicación Reglamento se consideró el importe total de y el sitio web; desarrolló un sistema más estric- la sanción en 5 millo- to de verificación de edad, con mecanismos nes de euros. PSN SERCON 31