Sam Altman, director ejecutivo de OpenAI, alertó al Consejo de Seguridad de la ONU que el progreso de la inteligencia artificial demanda una vigilancia estricta, con la finalidad de evitar la autonomía total de los modelos.
“Podríamos perder el control del futuro ante la IA. El riesgo es que avance tan rápido que las personas ya no puedan intervenir”
Sam Altman, director ejecutivo de OpenAI
Enfatizó la necesidad de una cooperación internacional urgente para establecer normativas globales que garanticen el control humano sobre estos sistemas.
Sam Altman señaló que el sector tecnológico no puede permitirse asumir riesgos excesivos solo por el atractivo de sus beneficios económicos o sociales.
Sam Altman alertó sobre los riesgos de la IA en la ONU
Líderes de las principales empresas de tecnología se presentaron ante el Consejo de Seguridad de la ONU para advertir sobre los riesgos críticos que plantea la inteligencia artificial avanzada.
Durante el encuentro, Sam Altman de OpenAI advirtió sobre varios riesgos fundamentales de la inteligencia artificial y realizó llamados específicos a la industria y a la comunidad internacional.
Advirtió sobre el peligro de perder el control del futuro ante la IA si esta avanza a un ritmo tan acelerado que las personas ya no puedan comprender lo que ocurre, ni intervenir cuando sea necesario.
“La tecnología avanza a un ritmo sin precedentes y necesita límites claros desde ahora”
Sam Altman, director ejecutivo de OpenAI
Destacó en particular el riesgo de los modelos avanzados capaces de programarse y mejorarse a sí mismos de forma recursiva.
Enfatizó que las empresas no deben asumir riesgos tecnológicos excesivos solo por el atractivo de grandes beneficios económicos o por ganarle a la competencia.
“La industria no debe aceptar demasiado riesgo tecnológico simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance. No queremos caer en la trampa del optimismo ciego”
Sam Altman, director ejecutivo de OpenAI
Detalló que ganar una carrera comercial no justifica tomar decisiones precipitadas, y recordó que OpenAI ha desacelerado el desarrollo de forma unilateral en el pasado y lo volverá a hacer si es preciso.
Sam Altman exhortó al Consejo de Seguridad de la ONU sobre una supervisión democrática de la IA
Sam Altman alertó que el uso de la IA sin una supervisión adecuada representa un peligro directo para la estabilidad mundial, pues que podría repetir las profundas desigualdades y fracturas de la Revolución Industrial si desplaza la capacidad de decisión humana.
“Avanzar con precaución extrema es la única vía para reducir los riesgos sociales y económicos. Aunque la inteligencia artificial ofrece beneficios para la ciencia y la productividad, un uso sin supervisión adecuada representa un peligro directo para la estabilidad mundial”
Sam Altman, director ejecutivo de OpenAI
Señaló que se debe evitar construir sistemas en los que no se puedan garantizar la alineación, el monitoreo y la seguridad.
Subrayando la necesidad de contar con evidencia sólida de que actuarán según las intenciones humanas a medida que se vuelvan más inteligentes.
Rechazó que las decisiones clave sobre la IA queden exclusivamente en manos de laboratorios privados en San Francisco o de un grupo reducido de países.
“Si la IA va a ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por los laboratorios de San Francisco”
Sam Altman, director ejecutivo de OpenAI
Por ello, exhortó al Consejo de Seguridad a impulsar una alianza y cooperación internacional para definir marcos técnicos rigurosos que permitan auditar capacidades, evaluar amenazas y notificar vulnerabilidades.
“A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”
Sam Altman, director ejecutivo de OpenAI
