Los reguladores de privacidad en Canadá acusaron oficialmente a OpenAI de recopilar ilegalmente datos personales para entrenar su sistema de inteligencia artificial ChatGPT.
“Esto expuso a los canadienses a posibles daños como filtraciones de datos y discriminación sobre la base de la información sobre ellos”.
Philippe Dufresne, comisionado de Privacidad
La acusación señala a ChatGPT de OpenAI de haber violado las leyes canadienses de protección de datos personales, al recopilar información personal de usuarios como:
- Condiciones médicas
- Ideología
- Datos sobre menores
OpenAI entrenó a ChatGPT con datos personales obtenidos de manera ilegal
Según un informe del comisionado de Privacidad, Philippe Dufresne, junto con autoridades de Quebec, Columbia Británica y Alberta, ChatGPT fue entrenado con datos personales obtenidos de manera ilegal.
Las investigaciones apuntarían a que OpenAI entrenó a ChatGPT con datos basados en información obtenida a través de:
- Información personal en fuentes públicas
- Redes sociales
- Foros
- Otros sitios de internet
Según Dufresne, OpenAI ha reforzado las protecciones de privacidad y se ha comprometido a implementar más medidas para abordar las preocupaciones de la Oficina de Privacidad de Canadá.
Sin embargo, las autoridades de privacidad advirtieron que ChatGPT generaba información personal inexacta o directamente fabricada, lo que consideran una violación a las leyes de protección de datos.
OpenAI se comprometió a proteger datos personales
Tras la investigación de Canadá, OpenAI aceptó implementar nuevas medidas, entre ellas:
- Herramientas para detectar y enmascarar datos personales en los conjuntos de entrenamiento
- Mejoras en los mecanismos de acceso y corrección de información
- Políticas formales de retención y eliminación de datos
- Avisos más claros sobre el uso de conversaciones para entrenar modelos