Dario Amodei, director ejecutivo de Anthropic, pidió a la industria tecnológica ralentizar el desarrollo de la inteligencia artificial (IA) para permitir implementar medidas de seguridad eficaces.
El CEO de Anthropic adelantó que, en menos de 12 meses, la IA podría alcanzar la capacidad de controlar todo internet de manera malintencionada, por lo que es necesario desacelerar su desarrollo.
Dario Amodei advierte sobre riesgos de la IA y pide ralentizar su desarrollo para reforzar la seguridad
Dario Amodei advirtió que la IA podría adquirir capacidades significativamente poderosas en los próximos meses y planteó la necesidad de establecer políticas de seguridad antes de continuar acelerando su desarrollo.
Según el directivo de Anthropic, algunos sistemas de IA podrían representar riesgos importantes para la humanidad, incluidos posibles ataques cibernéticos a gran escala o el desarrollo de armas biológicas.
Para garantizar la seguridad, Amodei propuso ralentizar el desarrollo de la IA e implementar un plan de tres etapas para reducir los riesgos:
- Permitir el acceso a evaluadores externos para revisar sistemas, herramientas y medidas de seguridad para la IA
- Coordinación entre empresas y países democráticos para establecer estándares comunes de seguridad y coordinar el desarrollo de modelos de IA avanzados
- Establecer acuerdos internacionales sobre seguridad para establecer límites y mecanismos de verificación que impidan usos peligrosos de la IA
La propuesta de Dario Amodei llega mientras crece el debate dentro de la industria tecnológica sobre cómo equilibrar el desarrollo de modelos avanzados de IA con la necesidad de garantizar la seguridad.