Esta medida responde a una directiva de seguridad nacional emitida por el gobierno de Estados Unidos la cual busca restringir el acceso de ciudadanos extranjeros a estas herramientas avanzadas.

Estados Unidos ordena a Anthropic suspender sus modelos de la IA más avanzados

El gobierno de Estados Unidos ordenó el bloqueo de los modelos de inteligencia artificial Fable 5 y Mythos 5 de Anthropic debido principalmente a preocupaciones de seguridad nacional y riesgos críticos de ciberseguridad.

El gobierno considera que estos modelos poseen una capacidad sin precedentes para detectar y explotar vulnerabilidades de software.

La orden se enmarca en leyes de control de exportaciones que tratan a esta IA como tecnología sensible.

El objetivo formal es impedir que ciudadanos extranjeros (incluidos empleados de la propia Anthropic) accedan a estos modelos, tanto dentro como fuera de territorio estadounidense, para evitar que la tecnología sea utilizada por potencias rivales o actores ilícitos.

Se fundamenta en que estas herramientas tienen un potencial de uso dual; es decir, pueden emplearse para fines civiles legítimos, pero también para ataques biológicos, químicos o de infraestructura crítica.

Según informes de The Wall Street Journal, el CEO de Amazon, Andy Jassy, habría influido en la decisión al advertir a funcionarios de la Casa Blanca que Fable 5 proporcionaba información que teóricamente debería estar prohibida por facilitar ciberataques.

Así respondió Anthropic ante la orden del gobierno de Estados Unidos

Anthropic no cuenta actualmente con un sistema técnico para filtrar a los usuarios por nacionalidad de manera inmediata.

Por lo que optó por apagar los modelos en todo el mundo para garantizar el cumplimiento de la orden federal mientras ajusta sus controles internos.

Sin embargo, Anthropic expresó su desacuerdo y preocupación ante la orden del gobierno de Estados Unidos, calificándola como el resultado de un “malentendido”.

La empresa manifestó que el hallazgo de una posible vulnerabilidad o “desbloqueo” (jailbreak) de alcance limitado no debería ser motivo suficiente para retirar del mercado un modelo comercial que ya es utilizado por cientos de millones de personas.

Anthropic advirtió que si este criterio se aplica de manera generalizada a todo el sector, se podría paralizar prácticamente cualquier nuevo despliegue de modelos de inteligencia artificial de vanguardia por parte de todos los proveedores.

Aunque la empresa defiende la necesidad de una regulación pública y auditorías obligatorias para los modelos más potentes, denunció que esta directiva gubernamental no se adhiere a principios de un “procedimiento legal transparente, justo, claro y basado en hechos técnicos”.

La compañía sostuvo que, tras revisar el método de “desbloqueo” mencionado por el gobierno, no consideran que Fable 5 otorgue a los hackers capacidades que no estén ya disponibles a través de otros modelos públicos en el mercado.

Anthropic afirma estar trabajando para restablecer el acceso a estos modelos de última generación lo antes posible, mientras que el resto de sus sistemas continúan operando con normalidad.

Un reciente filtración de datos reveló que Anthropic ha estado trabajando en una inteligencia artificial llamada, Claude Mythos Preview.

Así es Mythos, la IA desarrollada por Anthropic

Mythos es un nuevo modelo de IA desarrollado por Anthropic, que se caracteriza por su capacidad de detectar y explotar vulnerabilidades tanto en sistemas operativos como en navegadores web.

La potencia de Mythos es tal que ha encontrado fácilmente brechas de seguridad ocultas durante décadas a revisiones humanas y millones de pruebas automatizadas.

En navegadores web como Firefox, se detectaron y corrigieron 271 fallos de seguridad gracias a Mythos.

De acuerdo con los especialistas, Mythos sobresale por su capacidad de realizar tareas de seguridad ofensiva y defensiva de alto nivel.

La IA, Mythos, ha generado un intenso debate sobre sus riesgos y usos que puede tener.

¿Por qué Mythos es considerada peligrosa? Esto se sabe de la IA desarrollada por Anthropic

Mythos de Anthropic es considerada una IA peligrosa porque en manos equivocadas puede servir para el desarrollo de ciberataques complejos.

Ante tal situación, Anthropic decidió limitar el acceso a su inteligencia artificial y lanzar el Proyecto Glasswing, iniciativa para “proteger el software más crítico del mundo”.

Algunas de las empresas que han podido hacer uso de Mythos son:

• Amazon
• Apple
• Google
• Microsoft
• Nvidia
• CrowdStrike
• JP Morgan Chasde
• Cisco
• Broadcom
• Palo Alto Networks
• Linux Foundation

Pese a la alerta que ha generado Mythos, expertos aseguran que no se conoce lo suficiente sobre la IA de Anthropic como para asegurar que los temores que genera estén justificados.

Esto fue dado a conocer por Anthropic, cuya valoración actual es de 350 mil millones, la cual fue base para determinar la inversión de Google.

Asimismo, la apuesta de la filial de Alphabet a Anthropic se da tras la inversión de Amazon, anunciada el pasado 20 de abril, por una cantidad de 5 mil millones de dólares inicialmente.

Google invertirá 40 mil millones en Anthropic en apuesta por la IA

Anthropic dio a conocer una inyección inicial de 10 mil millones de dólares de parte de Google, para el desarrollo de la IA, más una consideración de 30 mil millones.

Sin embargo, Anthropic deberá alcanzar rendimientos específicos para obtener la inversión adicional de 30 mil millones de dólares de parte de Google.

Entre ellos, estaría el desarrollo de sus modelos de lenguaje y la infraestructura de la nube de Google, de la cual, Anthropic es uno de los principales clientes.

De acuerdo con lo señalado, este pacto de “crecimiento por resultados” es para asegurar tanto los intereses de Google como de Anthropic.

El acuerdo también abarcaría cinco gigavatios de capacidad de computación de Google Cloud a Anthripic, con posibilidad de dar varios más.

Y formaría parte de una ampliación del convenio que firmaron Google y Anthropic a inicios de abril, el cual incluye a Broadcom Inc.

Amazon también apuesta por la IA de Anthropic con 25 mil millones de dólares

La inversión de Google se da tras el anuncio de Anthropic de que recibiría un total de 25 mil millones de dólares de Amazon, empresa accionista de la start-up.

Se invertirá un inicial de 5 mil millones de dólares con posibilidad de 20 mil más en un plazo considerado, dentro de los diez años de alianza entre Amazon y Anthropic.

Asimismo, Anthropic rentaría a Amazon servidores que alcanzarían los cinco gigavatios, aunque no se ha señalado si se sumarán los dados por Google.

De acuerdo con The Wall Street Journal, Anthropic envío miles de solicitudes de eliminación por derechos de autor para borrar las copias, pero el alcance de la filtración es mayor.

Anthropic filtró accidentalmente el código fuente de Claude

Durante una actualización rutinaria, Anthropic filtró el código fuente de Claude Code, conformado por cerca de 1.900 archivos y más de 512 mil líneas de código.

Esto luego de que la compañía incluyó por error un archivo de depuración en el paquete oficial de su herramienta de programación con IA, publicado en la plataforma de distribución de software para desarrolladores.

El incidente expuso más de 500 mil líneas de código y archivos internos, revelando funciones experimentales y nombres de modelos aún no anunciados.

Esto ha permitido tener acceso en profundidad la anatomía actual de Claude Code, los planes internos sobre siguientes iteraciones y las principales limitaciones con las que cuenta ahora mismo.

En la filtración el código menciona a:

• BUDDY, una mascota virtual de tipo Tamagotchi para aumentar la retención de los usuarios
• KAIROS, un asistente activo en segundo plano que registra observaciones a lo largo de la jornada
• Nombres internos de modelos de lenguaje que no se han anunciado, como Capybara, Fennec y Numbat, que son versiones alternas de Sonnet y Opus

Anthropic aseguró que esta filtración no comprometió datos de clientes ni expuso los pesos matemáticos de sus modelos de IA.

Destacó que se trató de un problema de empaquetado causado por un error humano y no de un fallo de seguridad.

Sin embargo, varios expertos en seguridad han externado su preocupación por las posibles vulnerabilidades de seguridad.

Anthropic no puede recuperar el código fuente de Claude luego de reescripción para evitar su eliminación

Chaofan Shou, investigador de seguridad de Solayer Labs, alertó sobre el descubrimiento y la propagación fue imparable.

Anthropic ha utilizado medidas legales y técnicas para intentar frenar la distribución del material, el cual ya ha sido replicado miles de veces en diversas plataformas.

Según información compartida Anthropic había enviado más de 8 mil solicitudes de retirada de contenido a GitHub, en un intento de contener la difusión.

Sin embargo, esta estrategia no ha funcionado luego de que el desarrollador coreano llamado Sigrid Jin reescribió la funcionalidad expuesta de Claude Code en otros lenguajes de programación para evitar que la eliminen.

Esa versión alternativa ya acumula miles de descargas en GitHub, ahora el código es permanente y Anthropic no puede recuperarlo.

Hoy jueves 26 de marzo se detuvo la inclusión de Anthropic en la lista negra del Pentágono.

Sanción del Pentágono contra Anthropic es rechazada por tribunal de Estados Unidos

La jueza federal Rita Lin bloqueó la sanción del Pentágono contra Anthropic, al considerar que había fundamentos suficientes para frenar la decisión gubernamental.

Se trata de una medida judicial temporal que impide al Departamento de Defensa de Estados Unidos clasificar a Anthropic como un riesgo para la cadena de suministro de la seguridad nacional.

Dicha etiqueta es aplicada por el gobierno a compañías que exponen los sistemas militares a una posible infiltración o sabotaje de sus adversarios.

En el caso de Anthropic, la clasificación en la lista negra del Pentágono le habría valido limitar sus funciones y acceder a contratos con el gobierno.

Anthropic presentó su demanda ante un tribunal federal de California alegando que el secretario de Defensa, Pete Hegseth, se extralimitó en sus funciones.

De igual manera, Anthropic alegó que el gobierno de Estados Unidos violó su derecho de libertad de expresión contra sus opiniones sobre la seguridad de la inteligencia artificial.

La decisión de la jueza federal Rita Lin entrará en vigor hasta dentro de siete días, para dar oportunidad de apelación.

Danielle Cohen, portavoz de Anthropic, indicó en un comunicado que la compañía estaba satisfecha con el bloqueo temporal del tribunal de Estados Unidos:

“Si bien este caso fue necesario para proteger a Anthropic, a nuestros clientes y a nuestros socios, nuestro enfoque sigue centrado en trabajar de manera productiva con el gobierno para garantizar que todos los estadounidenses se beneficien de una IA segura y confiable.”

Danielle Cohen, portavoz de Anthropic

Así se desató el conflicto entre Anthropic y el Pentágono

El conflicto entre Anthropic y el Pentágono surgió luego de que la compañía de tecnología se negara a permitir el uso del modelo de IA Claude en aplicaciones militares como:

• Sistemas de vigilancia
• Desarrollo de armas autónomas

En su momento, Anthropic indicó que sus sistemas no eran confiables todavía para usarse en el sector militar, ya que implicaban riesgos éticos.

Eso provocó que el Pentágono intentara designar a Anthropic como una amenaza para la seguridad nacional.

“Ordeno a TODAS las agencias federales del Gobierno de Estados Unidos que CESE INMEDIATAMENTE todo uso de la tecnología de Anthropic ¡No volveremos a hacer negocios con ellos!”

Donald Trump, presidente de Estados Unidos

Según anunció en su perfil de Truth Social, su gobierno dará un periodo de transición de seis meses a agencias como el Departamento de Guerra para dejar de usar la tecnología de Anthropic.

El anuncio de Donald Trump ocurre después de que Anthropic se negara a ceder el uso completo de su modelo de inteligencia artificial Claude al Departamento de Guerra para espiar a ciudadanos estadounidenses.

Anthropic será sacada de agencias federales tras negarse a ceder su sistema de inteligencia artificial

También en sus redes sociales, Donald Trump llamó a Anthropic a reconsiderar la situación con su inteligencia artificial, pues de no hacerlo, habría importantes consecuencias civiles y penales.

“Más vale que Anthropic se ponga las pilas y colabore durante este periodo de transición o utilizaré todo el poder de la presidencia para obligarlos a cumplir, con las importantes consecuencias civiles y penales que ello conllevaría”

Donald Trump, presidente de Estados Unidos

Por este caso, el Pentágono fijó el viernes como fecha límite para que la empresa seda el uso de Claude al Ejército estadounidense, sin importar los fines que se tengan con la inteligencia artificial.

Sin embargo, Anthropic opuso resistencia y se negó a que Claude sea usada para armas autónomas ni espionaje de ciudadanos estadounidenses, mientras que el Pentágono insiste en aplicarlo en “todos los casos de uso legal”.

Donald Trump acusa a Anthropic de ser de “radical izquierda”

La empresa tecnológica anunció ayer que no aceptará las condiciones del departamento, al argumentar que autorizar el uso de Claude en esos dos casos resultaría incompatible con los valores democráticos.

Dicha postura generó reacción en Donald Trump, quien sostuvo que “una empresa de IA radical de izquierda” no decidirá sobre el futuro de Estados Unidos.

“Nosotros decidiremos el destino de nuestro país, no una empresa de IA radical de izquierda fuera de control dirigida por personas que no tienen ni idea de cómo es el mundo real”

Donald Trump, presidente de Estados Unidos

En la foto grupal, ambos se negaron a tomarse de las manos como lo hicieron los demás asistentes, optando por levantar los puños.

La escena reavivó las especulaciones sobre la rivalidad entre los líderes de dos de las compañías más influyentes en inteligencia artificial.

Sam Altman de OpenAI y Dario Amodei de Anthropic muestran su rivalidad al negar tomarse de las manos

Sam Altman de OpenAI y Dario Amodei de Anthropic protagonizaron un momento incómodo en la cumbre de IA en India, el cual ya se hizo viral en redes sociales.

Pues los CEOs de sus respectivas compañías de IA, se negaron a tomarse las manos durante la foto grupal, pese a que los demás asistentes lo hicieron; en contraste, aunque ellos estaban hombro a hombro, solo levantaron sus puños.

Esta escena resalta la rivalidad entre ambas empresas de IA: por un lado está Amodei, exvicepresidente de OpenAI, quien trabajó por años con Altman y quien al final, en 2021 abandonó la empresa y fundó Anthropic.

De acuerdo a lo que se sabe, la salida de Dario Amodei de Anthropic se debió a desacuerdos sobre prioridades éticas y de seguridad en la IA, lo que ha intensificado la competencia global con Sam Altman y OpenAI.