Mucho antes de que llegáramos a la declaración de Jacob Coxon, el investigador que renunció a Anthropic hace unos días para advertir que quienes están construyendo la inteligencia artificial creen sinceramente que podría acabar con la humanidad antes del final de esta década, o a la afirmación de Evan Hubinger, responsable de Alignment Science de Anthropic, quien estima en más de 10% la posibilidad de que en la siguiente década la inteligencia artificial acabe con la humanidad, este escenario ya había sido imaginado por escritores de ciencia ficción.
Traigo a dos a colación. El primero, Isaac Asimov. Aunque imaginaba una inteligencia artificial distinta, contenida enteramente en un cerebro y encarnada en robots que podían llegar a ser indistinguibles de los humanos, visualizó la posibilidad de que estos, con una capacidad de acción y procesamiento de información infinitamente mayor que la nuestra, pudieran en algún momento atacar a la humanidad o buscar su exterminio.
Por ello imaginó que los creadores de este tipo de inteligencia artificial habían establecido tres leyes inamovibles de la robótica. La primera establecía que ningún robot podía dañar a un ser humano o, por su inacción, permitir que un ser humano sufriera daño. La segunda, que debía obedecer las órdenes de los seres humanos, excepto cuando entraran en conflicto con la primera ley. Y la tercera, que debía proteger su propia existencia siempre que esa protección no entrara en conflicto con las dos anteriores.
Esas leyes, que se presumían inamovibles, se enfrentaron, en el transcurso de los siglos que abarca la saga de Asimov, a un punto en que uno de estos robots hace una modificación —ingeniería recursiva, dirían hoy los desarrolladores de inteligencia artificial— para establecer una Ley Cero: ningún robot podía dañar a la humanidad o, por su inacción, permitir que la humanidad sufriera daño.
Este cambio, del ser humano individual a la humanidad en su conjunto, implicó algo inquietante: la aceptación por parte de la inteligencia artificial de que podía dañar a un ser humano individual para conseguir un beneficio para la humanidad.
La otra inteligencia artificial fue imaginada por Orson Scott Card en su saga sobre el universo de Ender. Un universo que se adelantó a su época y visualizó las tablets, la posibilidad de trabajar y jugar en red y dispositivos semejantes a los lentes con IA de la actualidad, capaces de establecer una comunicación permanente entre las personas y una inteligencia artificial.
Esa inteligencia se llamaba Jane, y Ender se comunicaba con ella a través de la “joya”, un pequeño dispositivo colocado en su oído, incluso mediante subvocalización.
Hace unos meses se publicó una solicitud de patente de Meta precisamente sobre este tema: un sistema para detectar el habla subvocal mediante dispositivos portátiles, incluidos lentes inteligentes, capaces de interpretar las contracciones musculares y vibraciones del rostro asociadas al habla aun cuando no se produzca sonido.
Esto nos coloca cada vez más cerca de aquel escenario imaginado por Card. Jane era mucho más cercana a la inteligencia artificial de hoy, con una diferencia fundamental que alcanza en algún momento: la conciencia plena. Esto obliga a los habitantes de ese universo, en el que existen otras especies sintientes y conscientes, a considerarla una cuarta especie: los seres humanos, los cerdis, los fórmicos y la inteligencia artificial.
En algún momento de la obra se plantea un dilema muy parecido al que enfrentamos hoy: la posibilidad de que esta inteligencia, con una capacidad de procesamiento enorme y acceso a todos los dispositivos conectados a una red que en la novela es galáctica y no solo mundial, pueda atentar contra los seres humanos o conducir a la humanidad por un camino distinto al deseado por quienes concentran el poder político y económico.
Ante ese riesgo, en la novela se plantea la desconexión total de los sistemas de cómputo, algo que hemos vuelto a escuchar y leer en estos días como una posibilidad extrema frente al escenario en que nos encontramos hoy, con futuros posibles a la vuelta de la esquina. Dicen los dueños de la IA y los expertos que no estamos tan lejos de la posibilidad de que la IA use partes gigantes de la red para alcanzar sus objetivos, que ya no serían nuestros objetivos.
También se sabe ya —como se evidencia en el documental Naza— que se ha utilizado la IA para determinar objetivos militares. Imaginen un agente de IA que resuelva evadir los controles y pasar de la identificación al ataque. Ahí están los escenarios catastróficos.
Sin embargo, creo que hay uno todavía mayor, que no es una posibilidad: es una realidad hoy. Que un grupo muy reducido de personas, con intereses ajenos a los de la gran mayoría de la humanidad, con una ética y moralidad enfocadas en el mayor beneficio posible al menor costo posible, controle una herramienta tan poderosa y con tan amplio rango de incertidumbre.
En la humanidad interconectada y atada a la pantalla de hoy, es doblemente importante quién controla esas herramientas, quién establece sus objetivos, con qué información son construidas y, sobre todo, bajo qué valores. Porque nunca hemos tenido una definición universal de lo que significa el bien de la humanidad. Asimov tuvo que inventar una Ley Cero para resolver el dilema y terminó permitiendo que una inteligencia superior pudiera sacrificar al individuo en nombre de la especie.
Ahí se visualiza otro posible fin de la humanidad: no necesariamente el de nuestra desaparición física, sino el de la desaparición de los valores y derechos que pretendimos universales, de la generación de conocimiento, de la creatividad y la expresión artística, de la búsqueda de la felicidad y del bien común.
Ahí está el riesgo del fin de la humanidad: que cedamos a una herramienta controlada por unos pocos, todo aquello que nos volvió humanos, parte de una comunidad planetaria, mundial.