La Autoridad de Protección de Datos en el Reino Unido (ICO) emitió una advertencia a Snap Inc., la empresa detrás de Snapchat, por posibles irregularidades en el chatbot My AI. El organismo señaló que aquel sistema basado en inteligencia artificial (IA) presenta potenciales riegos para la privacidad de los usuarios menores de edad, entre ellos nenes y adolescentes.
La entidad británica observó que los responsables de la aplicación Snapchat no habrían evaluado las posibles violaciones a la privacidad en su chatbot, antes de lanzarlo en febrero de este año. El principal foco de preocupación de la ICO son los usuarios de entre 13 y 17 años, que en el Reino Unido están protegidos por un código que procura proteger su información, implementado en 2021.
Siguiendo a Android Headlines, la advertencia no significa necesariamente que el regulador haya encontrado infracciones, aunque insta a Snap a revisar el funcionamiento de su tecnología para evitar sanciones a futuro.
My AI fue presentado a comienzos de este año, con un funcionamiento basados en ChatGPT de OpenAI. En una primera instancia, era exclusivo para los suscriptores de Snapchat Premium: sirvió como un amigo virtual que podía responder preguntas y ofrecer consejos. Después de una primera prueba, se “abrió” a todos los usuarios, incluidos los usuarios menores de edad.
Desde entonces hubo polémica por el comportamiento del chatbot, en especial cuando brindó una serie consejos inapropiados a quien no debía. Un ejemplo que se dio a conocer y generó preocupación: sugirió a un joven de 15 años diversos “trucos” para ocultar el olor a alcohol. En otro caso, compartió experiencias sexuales con un usuario de 13 años. Ese accionar del bot se registró a pesar de las afirmaciones de Snap, que asegura manejarse con funciones estrictas de moderación y protección.
Ahora, en respuesta al comunicado de la ICO, la empresa responsable de Snapchat manifestó su compromiso para proteger la privacidad de los usuarios, e indicó que revisan los comentarios del organismo. Además, observó que colaborarán para garantizar que las partes involucradas se sientan cómodas con los procedimientos de evaluación de riesgos.
