Una nueva renuncia en OpenAI volvió a poner sobre la mesa las preocupaciones por los riesgos de la inteligencia artificial (IA).
David Robinson, exempleado de la compañía, advirtió que las principales empresas que desarrollan esta tecnología no estarían tomando suficientes medidas para mitigar posibles riesgos catastróficos.
Robinson, quien dirigía el área de transparencia dentro del equipo de seguridad de OpenAI, dejó la empresa y posteriormente publicó un ensayo en The Atlantic en el que cuestionó el ritmo acelerado con el que se desarrollan y lanzan nuevos sistemas de inteligencia artificial.
En su texto, Robinson señaló que OpenAI ha avanzado bajo un enfoque de “prueba y error” y planteó que el desarrollo de la IA debería gestionarse con medidas de seguridad similares a las utilizadas en instalaciones nucleares.
¿Qué dijo el exempleado de OpenAI sobre los riesgos de la IA?
David Robinson reconoció que sus antiguos compañeros de OpenAI son capaces y que trabajan para tomar buenas decisiones; sin embargo, consideró que el ritmo acelerado de lanzamientos dificulta alcanzar el nivel de atención y precaución necesario conforme la inteligencia artificial se vuelve más potente.
De acuerdo con Robinson, el desarrollo de esta tecnología requiere un nivel de cuidado mucho mayor para reducir la posibilidad de que errores humanos provoquen consecuencias graves.
Por ello, propuso adoptar un modelo de seguridad más cercano al utilizado en las instalaciones nucleares, con múltiples niveles de redundancia y una planificación cuidadosa para evitar que un error termine provocando un desastre.
En su ensayo, Robinson escribió que Sam Altman, CEO de OpenAI y creador de ChatGPT, ha prosperado mediante un proceso de “prueba y error”.
El exempleado también sostuvo que, aunque sus antiguos compañeros son inteligentes y trabajan duro, la velocidad con la que la empresa pasa de un lanzamiento a otro no permitiría alcanzar, desde el inicio, el nivel de atención que considera necesario.
Alertas por los riesgos del desarrollo de la inteligencia artificial
La salida de Robinson se suma a otras advertencias realizadas por empleados y directivos de la industria tecnológica sobre los posibles riesgos asociados con el desarrollo acelerado de la inteligencia artificial.
Entre las preocupaciones planteadas en los últimos años se encuentran los posibles efectos de sistemas de IA cada vez más capaces y la necesidad de establecer mecanismos de seguridad y evaluación antes de implementar nuevas tecnologías.
En este contexto, líderes de empresas del sector, como Dario Amodei, CEO de Anthropic, han planteado la necesidad de reducir el ritmo de desarrollo en determinados escenarios y recurrir a evaluadores externos para analizar los riesgos de los sistemas de inteligencia artificial.
Estas preocupaciones también han sido abordadas públicamente por Sam Altman, quien ha señalado la importancia de establecer medidas de seguridad conforme aumentan las capacidades de los modelos de IA.