El senador estadounidense Bernie Sanders anunció que presentará una legislación para prohibir la superinteligencia artificial y pausar el desarrollo de IA avanzada, luego de que investigadores de Anthropic alertaran sobre los riesgos que esta tecnología podría representar para la humanidad.
La declaración de Bernie Sanders ocurre después de la renuncia de Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic y quien acusó a ambas compañías de avanzar de forma irresponsable hacia una superinteligencia capaz de mejorarse a sí misma.
Investigadores de Anthropic advierten sobre la IA
Coxon aseguró que personas involucradas en el desarrollo de IA en Anthropic consideran posible que esta tecnología provoque la extinción humana antes de que termine la década.
Sus declaraciones fueron respaldadas por Evan Hubinger, investigador de seguridad de Anthropic, quien estimó personalmente en más de 10% la posibilidad de que la IA pueda acabar con la humanidad durante los próximos 10 años.
Por su parte, Samuel Marks, investigador de Anthropic, señaló que algunos desarrolladores creen que la IA podría provocar la extinción humana u otros resultados catastróficos en los próximos años. También sostuvo que muchos trabajadores quieren ralentizar la carrera tecnológica para encontrar métodos más seguros de desarrollar estos sistemas.
Ante este panorama, Bernie Sanders afirmó que quienes desarrollan la tecnología reconocen los posibles peligros, por lo que su propuesta contempla prohibir permanentemente el desarrollo y despliegue de superinteligencia artificial, además de establecer una pausa temporal para la IA avanzada mientras se crean reglas federales de seguridad.
La iniciativa coloca nuevamente sobre la mesa el debate sobre hasta dónde debe llegar la regulación de la inteligencia artificial y si la carrera por desarrollar sistemas cada vez más capaces está avanzando más rápido que las medidas para mantenerlos bajo control.