OpenAI ha realizado esfuerzos significativos para reducir la cantidad de información factualmente incorrecta generada por su chatbot, ChatGPT. Sin embargo, estos esfuerzos no son suficientes para garantizar el pleno cumplimiento de las normas sobre datos de la Unión Europea, según un grupo de trabajo del organismo de control de la privacidad de la UE.
Medidas Insuficientes
“Aunque las medidas tomadas para cumplir con el principio de transparencia son beneficiosas para evitar la mala interpretación de los resultados de ChatGPT, no son suficientes para cumplir con el principio de exactitud de los datos”, señaló el grupo de trabajo en un informe publicado en su sitio web el viernes.
El organismo que agrupa a los supervisores nacionales de privacidad de Europa estableció el grupo de trabajo sobre ChatGPT el año pasado, después de que los reguladores nacionales, encabezados por la autoridad italiana, expresaran preocupaciones sobre el servicio de inteligencia artificial ampliamente utilizado.
OpenAI no respondió de inmediato a una solicitud de comentarios por parte de Reuters.
Investigaciones en Curso
Las diversas investigaciones iniciadas por los supervisores nacionales de privacidad en algunos estados miembros aún están en curso, según el informe, lo que significa que aún no es posible proporcionar una descripción completa de los resultados. Los hallazgos deben entenderse como un ‘denominador común’ entre las autoridades nacionales.
La exactitud de los datos es uno de los principios rectores del conjunto de normas de protección de datos de la UE.
“De hecho, debido a la naturaleza probabilística del sistema, el enfoque actual de entrenamiento lleva a un modelo que también puede producir resultados sesgados o inventados”, indicó el informe.
“Además, es probable que los resultados proporcionados por ChatGPT sean tomados como factualmente precisos por los usuarios finales, incluida la información relacionada con individuos, independientemente de su precisión real.”
