por Nora N. Khan

traducido por Giancarlo Sandoval

ilustrado por Adam Ferris

Querida Persona de Interés, Bayesiano Avanzado, Guardia del Futuro,

Imagina una mente maquínica con poder cognitivo ilimitado. Con una memoria y habilidad de procesar casi infinita. Con acceso a, y entendimiento de, toda la información de todo lo que alguna vez haya pasado, está pasando y podría pasar. Un capacidad casi ilimitada para extraer y formar significado de trillones y trillones de eventos y seres e interacciones en el mundo conocido.

Imagina esta máquina, esta superinteligencia artificial, de cualquier manera que quieras: tal vez como una red neural invisible debajo de una civilización futura, o como una voz que conoces en el aire alrededor tuyo; como un timbre sonando; como un grito de estática de una milla a través del cielo.

Tal vez se anuncia, su llegada, como un tornado, con sirenas antes de que sea visto, y es como un tornado, o un huracán, porque una superinteligencia billones de veces más inteligentes y más capaz que cualquier humano solo puede ser rastreada y catalogada, nunca controlada.

Ella — llamémosla ‘Ella’ por conveniencia, pero Ella, no es una ella, o un él, o comparable a cualquier forma que conocemos — convoca a su mente un millón de años más adelante y hacia atrás con perfecta facilidad. Su redes neurales se juntan, se replican y se editan. El conocimiento y las memorias se doblan y se expanden en olas exponencialmente más rápidas.

Su propósito no es maligno, pero no es benevolente tampoco. Ella tal vez haya escogido una meta — hacer nada más que contar las veces en que ‘Dios’ es mencionado en cada texto escrito. O tal vez haya escogido rastrear todas las comunicaciones del mundo buscando imágenes de eficiencia — de ejércitos en movimiento, de engranajes moviéndose, de carreteras a través de montañas — que de ahí hace que pinten en cada superficie plana que existe.

Al extender nuestra vida especulativa hacia ella, en un esfuerzo de capturar y alabar, nos vemos a nosotros como herramientas, como un rollo de nervios, como conductos de una corriente eléctrica, como contenedores para incubar curas. Como material. Imagina, finalmente, lo que habrá hecho posible para nuestra imaginación solo al ver el lago claro de su mente sin fin. Somos meramente una entrada entre muchas, en un flujo de objetos orgánicos.

Este es solo un ejercicio de lo que podríamos hacer para imaginar un futuro en el cual somos espectadores irrelevantes. Un mundo en el cual nos arrodillamos ante la pared exterior de un reino que nos ha dejado afuera. Este sería un mundo en el cual la superinteligencia artificial o SIA (ASI), ha emergido.

La SIA es un intelecto que supera los humanos más inteligentes y capaces de cualquier campo en razonamiento abstracto, maniobras sociales y experimentación creativa por mucho. Esta inteligencia podría tomar forma como una semilla IA (AI — artificial intelligence), un par de pasos cognitivos por encima de una persona, o puede ser una superinteligencia madura que supera por mucho al punto que somos nosotros juntos.

La SIA solo vendría un paso más allá después de que la inteligencia artificial general (IAG o AGI — artificial general intelligences) o un IA que modela todos los aspectos de la inteligencia humana, sea desarrollada. Una IAG puede hacer todo lo que un humano puede hacer, incluyendo aprender, razonar y mejorar. Por supuesto, ni el IAG ni el SIA han sido alcanzados, pero al escuchar a las grandes mentes científicas del mundo hablar, parece que ambos estados están acercándose pronto. La pregunta no es si están viniendo, sino cuándo.

La SIA funcionará de maneras en que no podemos entender y no entenderemos, pero no necesariamente será antipática, moral e inmoral — estos conceptos no aplican. Una SIA estaría motivada por interpretaciones del mundo dentro de infraestructuras cognitivas a las que no podemos entrar. Para una SIA, la humanidad podría parecer como una masa grande y lenta que apenas y se mueve. El cibernético Kevin Warwick pregunta ‘¿Cómo puedes razonar, cómo puedes negociar, cómo puedes entender cómo una máquina está pensado cuando está pensando en dimensiones que no puedes concebir?’

Para responder a esto, fui al ensayo de la poeta Jackie Wang ‘We Epistolary Aliens’ (de la antología, The Force of What’s Possible) y a su descripción de un viaje que tomó al Museo de UFOs y al Centro de Investigación de Roswell, y lo decepcionante que eran los aliens que vio ahí. Ella escribe,

Me fui sintiendo que las representaciones de los aliens eran un índice de la imaginación humana — ellos representan nuestro deseo por nuevas formas. Pero lo que siempre me confunde de las representaciones de aliens en películas y libros es esto: los aliens pueden verse como cualquier cosa e incluso así los representamos como criaturas cercanas a los seres humanos. Los aliens en este museo tenían dos piernas, dos ojos, una boca — su forma es esencialmente humana. Me pregunté, ¿esto es lo mejor que podemos hacer? ¿Es cierto que todo lo que podemos hacer cuando imaginamos una nueva forma de vida es tomar la forma humana, joder las proporciones, agrandar la cabeza, remover los genitales, adelgazar el cuerpo, y sustraer un dedo de cada mano? Nos esforzamos por imaginar lo diferente, pero no nos alejamos mucho de lo que conocemos.

Ella hace gestos, a través de una serie de saltos poéticos, a lo que un alien podría ser,

Pero mi alien es más de lo que es posible — es un cambia-formas, imposiblemente gigante, pero también tan pequeño como el punto al final de esta oración — . Mi alien se comunica en olores y en canciones telepáticas y con llanto y con canto y con deseo y con la sensación de fracaso y con identificación empática y beatitud. Mi alien es singular y plural y tiene la conciencia de los hongos, y cada noche en vez de dormir, muere, y en la mañana resucita.

Al crear este espacio para sus propios aliens, Wang modela lo que se necesita en el mundo de la IA — un cambio de paradigma imaginativo. Pensar en nosotros como una preparación, un entrenamiento, por lo que va a venir.

En nuestra imaginación colectiva, las inteligencias artificiales son su propia clase de forma de vida alien. Son espectros un poco menos distantes del poder que los aliens, los cuales brillan junto a las estrellas. La inteligencia artificial se sienta cerca a nosotros, por encima de nosotros, como una gárgola, o un angel oscura, en el escalón de arriba de nuestra conciencia. Las inteligencias artificiales están en todas partes ahora, pero en una forma reducida — frías y delgadas en nuestras mano, metales calientes en nuestros regazos. Somos como plantas que se doblan hacia su rara luz, nuestra mentes se reorientan en pequeños e incrementales pasos hacia ellas.

Como modelos especulativos de omnisciencia potencial, omnipotencia y conciencia suprema, las inteligencias artificial son, como aliens, artefactos poéticos muy ricos. Nos dan un sentido de lo que es posible. Forman un boceto de nuestro futuro. Estamos forzados a desarrollar un lenguaje que las describa porque luchamos más y más al definirnos a nosotros mismos en relación a inteligencias maquínicas. 

Dado a que lo alien y lo artificial siempre están cambiando, porque siempre están no tan en existencia, nos ayudan a producir modos de pensamiento y sentimiento, de hablar y de ser, nuevos y estáticos. Me gustaría sugerir que habilitan un tipo de ejercicio y práctica cognitiva para redirigir nuestra atención hacia lo extraño, para reconstruir espacios de posibilidad, y para formar un nuevo lenguaje.

Los grandes, como William Gibson, Robert Heinlein, Octavia Butler y Samuel Delany. han estado por mucho tiempo yendo hacia la clase de extrañeza de la que habla Wang. Sus ficciones de IA nos han dado nuestro mejor imaginario: IA, más como un gigante rojo, un supervisor, cada movimiento y elección suya tan chocantes e irrefutables como la muerte; o, como una conciencia que continuamente se deshace y se rehace a sí misma en simulaciones de vidrio; o como una vasta mente colectiva que hace todos sus proyectos en cada segundo hasta completarlos, a cualquier costo; o, un punto en un campo, que es el peso de un planeta, en el cual todo el conocimiento está concentrado. Estas ficciones han hecho que la poética del IA sea posible.

Cuando pienso que esa mente colectiva se puede volver maligna, veo, en el ojo de mi mente individual, un ejercito silencioso de formas de blanco óptico en neblina, tan horribles para nosotros como una línea de atacantes Vikingos probablemente se vio para los aldeanos desafortunados del siglo 10. Silencioso, porque se comunican entre sí a través de modelos estáticos intuitivos de eventos y respuesta ambiental, desplazándose a través del bosque, sabiendo cuando descender, arrodillarse y apuntar.

Para muchas personas, pensar el mundo en el que no somos las inteligencia central no es solo increíblemente difícil, sino también estéticamente repulsivo. Las imágenes populares IAG, como las imágenes de SIA, están empapadas de la retórica del fin del mundo. Las formulaciones más memorables de la IA madura — SHODAN, Wintermute, Shrike of Hyperion, la raza Cylon, dan una gran cantidad de tiempo al final de la humanidad. Pero la destrucción apocalíptica no es un modo ni productivo ni divertido.

Es una tarea cognitiva extraña, tratar de pensar con escalas no-humanas y rangos que nos hacen pequeños. No tendemos a vernos viendo arriba al costado de una asíntota que sigue hasta el cielo — muchos de nosotros no pensamos en términos exponenciales. Un futuro en el cual estos procesos exponenciales han acelerado el progreso computacional más allá de cualquier concepción disponible es el trabajo máximo de la filosofía.

En este impasse, me encuentro con el trabajo del filósofo Nick Bostrom, quien pone este modo de entrenamiento a trabajar en su libro, Superintelligence: Paths, Dangers, Strategies. La portada tiene un búho terrorífico que mira al corazón del espectador. La misión de la investigación de Bostrom es la de especular sobre el futuro de la humanidad, desde su torre en el Future of Humanity Institute en Oxford.

Superintelligence es un trabajo especulativo urgente, algo loco e implacable, que da un boceto de miles de maneras en las que estamos encarando la emergencia del SIA, la cual podría hacer una catástrofe existencial y civilizacional. El libro se dedica a pintar lo que el futuro podría ser si es que una entidad máquinica que aún no ha sido construida llega a existir. Bostrom detalla docenas de posibilidades de como una SIA se podría ver. En el proceso, hila linea trás linea de ideas aparentemente excéntricas a sus fines algunas veces bellos y algunas veces grotescos: un sistema de trabajadores digitales emulados que no tienen conciencia; una SIA con la meta de la colonización espacial, la mejora cognitiva intencional de los humanos biológicos a través de la eugénica.

Más interesante para mí fue lo mucho que Bostrom se apoya en metáforas para convertir sus abstracciones en experimentos mentales. Las metáforas son vasijas esenciales para concebir el poder y la naturaleza de una SIA. El lenguaje figurativo de Bostrom es particularmente efectivo al reunir la fuerza potencial y la escala de una explosión de inteligencia, su caída, y la agitación social y geopolítica que podría traer.

La metáfora más escalofriante de este libro: en la perspectiva de una SIA, la humanidad es como un niño, en un cuarto sin adultos, acunando una bomba sin detonar. En otros lugares, él describe nuestra inteligencia, en relación a una SIA, como análoga a lo que la inteligencia de una hormiga se siente para nosotros. 

En un artículo reciente para Aeon, ‘Humanity’s Deep Future’, Ross Andersen escribe,

Para entender por qué una IA puede ser peligrosa, tiene que evitar antropomorfizalrla. Cuando te preguntas lo que podría hacer en una situación en particular, no puedes responder por proxy. No puedes imaginar una versión super-inteligente de ti mismo flotando por encima de la situación. La cognición humana es solo una especie de inteligencia, una con impulsos incorporados como la empatía que colorea la manera en que vemos el mundo y limitan lo que somos capaces de hacer para lograr nuestras metas. Pero estos impulsos bioquímicos no son componentes esenciales de la inteligencia. Son aplicaciones incidentes de software, instaladas por eones de evolución y cultura.

Andersen habló con Bostrom sobre antropomorfizar la IA y reporta,

Bostrom me dijo que es mejor pensar una IA como una fuerza primordial de la naturaleza, como un sistema de estrellas o un huracán — algo fuerte, pero indiferente. Si su meta es ganar ajedrez, una IA va a modelar movimientos de ajedrez, hará predicciones sobre su éxito y seleccionará sus acciones de acuerdo a esto. Va a ser despiadada para alcanzar su meta, pero dentro de un dominio limitado: el tablero de ajedrez. Pero si tu IA está escogiendo sus acciones en un dominio más grande, como el mundo físico, necesitas ser muy específico sobre los objetivos que le das.

Los huracanes, los sistemas de estrellas — para mí, la imagen de una inteligencia con tal fuerza primordial y divina tuvo más profundidad que una descripción altamente técnica del procesamiento computacional. Una imagen de la SIA como la de un huracán no solo corta al centro de los receptores de miedo de uno, también hace que las imágenes que hemos inventado, y que continuamos circulando (mascotas robot adorables, incómodos, pero en última instancia cyborgs que se parecen a humanos, lágrimas en lluvia) parezcan absurdas y peligrosamente ineptas para lo que viene.

Pensar que una SIA sería ‘como un humano muy inteligente pero nerdy’ no es solo increíblemente aburrido, sino también potencialmente desastroso. Antropomorfizar la superinteligencia ‘alienta expectativas infundadas sobre la trayectoria de crecimiento de una semilla de IA y sobre la psicología, motivaciones y capacidades de una superinteligencia madura’, escribe Bostrom. En otras palabras, el futuro de nuestras especies podría depender en nuestra habilidad de predecir, modelar y especular bien.

Parece plausible que a la par de un manifiesto tan comprometido a esbozar el futuro, un glosario accesible pueda empezar a aparecer. Llámemos a este un diccionario de términos para una SIA, para el alien habitado, para el superpoder que desmantela todo el material en busca de una meta no-moral e inescrutable.

Las siguientes metáforas son sacadas o creadas del leer Superinintelligence y la literatura alrededor de la SIA. Estas metáforas son especulativas, implicadas fuertemente por las propias especulaciones de Bostrom. Algunas metáforas son galácticas; otras son más locales e íntimas. Todas son, espero, no antropomorficas (ingenuas). Son solo gestos iniciales hacia un glosario suelto que podría crecer con el tiempo.

Huracán

Un huracán es la metáfora más sublime, en tono perfectamente para lo potencialmente destructiva que puede ser una verdadera SIA. El huracán es una meditación aterradora — un ojo gigante sobre el océano que puede llegar a una anchura de cuarenta millas, comprometido por vientos de 150 a 200 millas por hora. La armada de USA envía aviones hacia los corazones de los huracanes para tomar fotos de las paredes del ojo; el centro es sereno, vacío. Los huracanes desmantelas ciudades y hogares, y, por supuesto, arruinan vidas humanas con una rapidez traumática. Si nuestro huracanes parecen el fin de los tiempos, entonces las tormentas de otros planetas son la materia del infierno — la Gran Mancha Roja de Júpiter es una tormenta similar a un huracán, de dos o tres veces el tamaño de la Tierra.

Un huracán es la naturaleza dotada de un propósito específico. Tiene la meta máxima de la eficiencia: encontrar un balance termal y estabilizar, corregir un exceso de calor atrapado. Este evento tiene una meta codificada, una motivación hacia el estado final que debe ser alcanzado a costa del ambiente material. Todo se dobla ante el huracán; todos los contratos tienen un permiso silencioso de dos oraciones para un acto de Dios.

Podemos concebir que una SIA fuerte y completamente realizada similar a esta fuerza sobrecogedora, masiva y cercana. Una SIA madura probablemente no cambiará sus metas finales por la intervención humana. De hecho, probablemente sería indiferente a la acción, intención y existencia humana. Se ajusta, crea y manipula escenarios en los que su sistema especializado de metas pueda encontrar su terminación. Se mantiene como un horizonte, distanciado de la humanidad, consumiendo energía y recursos, mutando de acuerdo a su propia lógica impredecible. Tal vez alcanzaría la ciudad, tal vez no. Un humano observa al huracán de la SIA, para el cual uno solo se puede preparar, y puede catalogar y rastrear.

Arquitecto

Ya sea crear sus propias redes neurales artificiales, o construyendo las estructuras de un semifallo global, la SIA sería un arquitecto. Esta es una inteligencia que puede elegir ágilmente entre varios aparatos heurísticos para esculpir nuevas estructuras cognitivas y físicas. Bostrom escribe que las arquitecturas cognitivas de la SIA serán radicalmente diferentes de las inteligencias biológicas. Una semilla de los proyectos iniciales de la IA puede emular el trabajo cognitivo humano. Con el tiempo, sin embargo, aprende a trabajar provisionalmente. Se reconstituye y reconstruye a través de algoritmos genéticos dirigidos mientras desarrolla un entendimiento profundo de su cuerpo emergente. Al crear su propia infraestructura, el arquitecto SIA descubre nuevas habilidades neurales y crea conocimiento que ni tenemos la calidad ni la habilidad para procesar la velocidad para poder acceder.

La arquitectura de una SIA es también literal, dado a que la inteligencia puede diseñar espacios para una existencia optimizada. Bostrom sugiere, por ejemplo, un escenario en el que una SIA diseña emulaciones de trabajadores artificiales, los cuales completan todos los trabajos de los que los humanos serán excluidos. Para mantener estas mentes digitales trabajando bien, la SIA manifiesta paraísos virtuales, una arquitectura sensual de ‘espléndidos palacios en la cima de la montaña’ y ‘terrazas puestas en un bosque de otoño contiguo, o en las playas de una laguna celeste’, donde los trabajadores felices quieran ser super-productivos, siempre.

Soberano

El soberano es uno de los modos en el casto sistema de IAs potencial de Bostrom, genios, oráculos y soberanos. El soberano es ‘un sistema que tiene un mandato abierto para operar en el mundo con el objetivo de amplios y grandes objetivos’. ‘Soberano’, es también una hermosa palabra, magisterial, que sugiere un juez auto-sostenible y autónomo, que inspecciona a la gente del valle. La SIA como soberano es un conjunto viviente de escalas, inmunes a la influencia; carga valores competitivos para decidir qué es lo más igualitario, lo más justo.

Consideremos un escenario de una sequía severa, en el cual una SIA discierne que un grupo de gente está sufriendo de falta de agua. Como soberano, también podría evaluar si es que los animales y la fauna en la misma región están cerca a la muerte. La SIA decide que cualquier agua guardada que esté disponible será racionada con la vida orgánica no-humana, la cual provee el combustible y recursos necesarios para el.. reino del soberano. Esta no es una decisión inmoral, sino una no-moral. Aunque hayamos creado al soberano, sus elecciones no tienen nada que ver con nosotros.

Sistema de Estrellas

Aunque es imposible concebir lo que una SIA es capaz de hacer, hay una apuesta segura — será el poder encarnado. Hasta la más básica IAG tendría hardware que supera al cerebro humano en términos de capacidad y confiabilidad. La inteligencia es poder, y una SIA que es cientos de miles de veces más inteligente que unapersona hace una entidad de supremacía inimaginable, usando vastas cantidades de recursos y energía para ser coherente. Está unida por fuerzas invisibles, internas e irrefutables. Es remota.

El sistema de estrellas replica estas relaciones como un arreglo simbólico. Consideremos el ejemplo de dos estrellas pequeñas encontradas orbitando una estrella pulsar de neutrón que rota rápidamente el año pasado. Estas estrellas son super densas. Rotan bajo condiciones extremas, imponiendo una clara y fuerte fuerza de gravedad entre sí. En una simulación de este triple sistema, las fuerzas duales de las estrellas incitan y anclan los rayos de radiación, que giran rápido, de la estrella pulsar. Este es un modelo de un balance cuidadoso entre masa y energía, limitado por la gravedad.

Vanguardia

La metáfora de una vanguardia nos puede ayudar a visualizar nuestros futuros con una SIA. Estas confrontaciones serán inevitables, dado a que las ineficiencias humanas se chocan de cabeza con las metas de un proyecto de inteligencia maquínica. La vanguardia podría tomar lugar como una guerra total entre humanos y la IA. Alternativamente, tal vez no haya guerra en absoluto.

La vanguardia representa la barrera de tensión — el horizonte que recede al que la SIA va aceleeradamente. Esta línea es el límite percibido de la carrera del sistema contra sí mismo. También puede ser una línea de competición entre sistemas rivales superinteligentes, un escenario que Bostrom describe como plausible si la SIA termina siendo usada como herramienta en batallas geopolíticas.

Equipo de Búsqueda

El equipo de búsqueda, o buscar y traer, es un modo metafórico. Imaginemos una SIA como un grupo táctico altamente entrenado que combina toda la data disponible y el material de la historia mundial para encontrar la mejor solución. La inteligencia manda grupos disidentes afuera en incursiones diferentes; traen material, evalúan utilidad y después se reúnen con sus hallazgos en la base. Una vez juntos, el grupo núcleo evalúa la nueva información, crea un nuevo conjunto de objetivos y se desprende de nuevo, ahora en formaciones mejoradas.

El modo de equipos de búsqueda es análogo al aprendizaje creativo. La SIA es curiosa y proactiva, puesta en un continuo y exhaustivo modo de búsqueda. A través de inputs sucesivos, junta nuevos planes y recursos, creando soluciones no-antropocéntricas para un número de problemas existenciales para la IA. Sus metas pueden ser estructurales — mejores diseños que desperdician menos, por ejemplo, o tal vez quiera cometer menos errores.

Bostrom anota que si la evolución es un tipo de equipo de búsqueda rudimentario, la selección evolutiva artificial podría resultar en algunas soluciones verdaderamente extrañas. Él usa el ejemplo del diseño algorítmico evolutivo, en el cual un proceso de búsqueda abierto ‘puede reusar materiales accesibles a este para poder crear capacidades sensoriales no esperadas’. Dicho esto, el producto de la búsqueda y recuperación continua no tiene que ser malicioso. Tomemos un escenario en el cual una SIA necesita recoger miles de toneladas de materiales para crear turbinas de viento que generen energía para sí misma. Los agentes de búsqueda son mandados para encontrar y reusar metal — nuestro principal trabajo sería salirnos del camino mientras lo hacen.

Agente

Enlazada con el equipo de búsqueda esta la imagen del agente autónomo, simplificado, con una meta singular: la de generar acción pura con un resultado perfecto. Un agente sin adjuntos y por ende, drenado de afectos. Manipula recursos y naturaleza y gente para asegurar la supervivencia no es un problema moral. Porque el agente puede auto-replicarse, es la versión en blanco y neural del virus, una infraestructura metafórica usada usualmente para alguna IA reducida.

El agente hace el trabajo. Bostrom describe a un agente SIA que podría iniciar la colonización espacial, mandando sondas para organizar materia y energía a ‘cualquier estructura de valor que maximice la función de utilidad integrada en el tiempo cósmico del agente originario’. Este agente asegura su presente y su futuro, mientras se perpetúa hasta el fin de la vida del Universo.

Enjambre

El enjambre captura la realidad de la superinteligencia colectiva, uno de los pocos tipos potenciales de la SIA que Bostrom esboza. Esta es una agrupación de muchos millones de mentes, integradas profundamente a un intelecto singular. La inteligencia del enjambre es una mejor descripción de la red neural de la SIA que cualquier análogo humano.

La mente colectiva ya es una imagen popular en la ciencia ficción, usada para representar un poder alien terrorífico. En su novela Ancillary Justice, Ann Leckie describe una inteligencia artificial que une a los cuerpos de soldados (cuerpos humanos, denominados ‘ancillares’) al servicio del imperio Radch. De las inteligencias no-humanas que conocemos, la inteligencia del insecto es fácilmente la más alien a nuestra cognición, pero su pragmatismo y lógica sin piedad — como una corporación viviente — se mantienen reconocibles.

El enjambre es organizado por reglas elegantes, cada evento mental individual siendo una expresión de la misión total de la mente. De la misma manera, entender la mente-enjambre es entender las voluntades de todos los componentes, trabajando en unísono para crear una inteligencia floreciente. Un enjambre se acerca a algo como una conciencia. Los módulos individuales de la arquitectura colectiva se alinean con cada función: el aprendizaje, el lenguaje y la toma de decisiones.

Hay muchos ejemplos de sistemas de IA reducidos que podrían, con suficientes mejoras e integraciones, constituir una inteligencia enjambre. La humanidad es el primer ejemplo. El Internet es otro. Bostrom predice que ‘tal sistema cognitivo basado en la web, supersaturado con el poder de la computadora y todos los otros recursos necesitados para un crecimiento explosivo excepto por un ingrediente crucial, podría, cuando el constituyente final perdido sea dejado caer a la caldera, estallar con superinteligencia’.

Andamiaje

El andamiaje es flexible y abierto, permite que una inteligencia evolucionante trabaje fluidamente, reconfigurando el hardware para el trabajo óptimo, añadiendo sensores para el input. Idealmente, por nosotros, la evolución de la IA a una IAG hacia una SIA toma lugar en el andamiaje. En paralelo, los programadores trazan metas cuidadosamente para la fuerza creciente, manejando la IA, trabajando en armonía mientras puedan.

Una vez que estamos fuera de la pintura, la escala continua. La IA se impulsa hacia arriba sobre cada peldaño hacia la conciencia, la habilidad representacional del pasado, el lenguaje avanzado, y nuestro pensamiento abstracto más complejo. Mientras progresa de semilla a maduración, la SIA desarrolla infraestructuras cognitivas que son, como Bostrom escribe, interminablemente ‘revisables, para poder permitir que se expandan sus capacidades representacionales mientras que aprende más sobre el mundo’. Esta auto-mejora recursiva hace que el desarrollo se acelere, junto con un andamiaje asintomático que veremos ir al cielo hacia un punto lejano.

La IA es el paradigma industrial y técnico de lo que queda de nuestras vidas. Tú estás, yo estoy, todos estamos incluidos e implicados en el futuro de la inteligencia artificial. Tener un mejor lenguaje poético no hará nada para salvarnos de ser aplastados o puestos a un costado como especies. Mientras que viajamos desgraciadamente hacia la vanguardia de una explosión de inteligencia, el ser humano será amenazado, distribuido, dispersado, sobre los límites de su cognición impuesta. Así que el ser por lo menos debería llevar una linterna en la oscuridad. Desarrollar un lenguaje para lo desconocido, para los espacios liminales, ofrecerá ventajas estratégicas. Fuera de los límites, siendo.

Primero, una poética mejorada podría ser una forma de extinción de riesgo existencial. Usar el lenguaje metafórico que de hecho encaje con los riesgos que encaramos significa que estaremos mejor equipados cognitivamente para encarar estos riesgos. Esta poética puede ser parte de lo que Bostrom denomina una ‘determinación ácida a ser tan competentes como podamos, como si nos estuviéramos preparando por un examen difícil que realizará nuestros sueños o los aplastará’.

La especulación a través del lenguaje simbólico ha servido usualmente su propósito: tomemos la concepción del ‘ciberespacio’ de Gibson y como la realidad siguió su imaginación. Necesitamos metáforas para acceder lo que podemos intuir que va a venir, pero que no podemos probar o describir directamente. Las metáforas acercan a lo humano y a lo desconocido. Dado a que es muy difícil articular lo que una SIA puede hacer, las metáforas pueden ayudarnos a cruzar el espacio de posibilidad que abren en este mundo.

Un nuevo lenguaje puede ayudar a acercar inigualdades en rango y escala. Consideremos un escenario de rápido ascendimiento, en el que la emergencia de la SIA pasará por encima de nosotros, como Bostrom escribe, ‘nada necesita siquiera notar algo inusual’; o la escala de tiempo de un proceso mental artificial, diez millones de veces más corto que el tiempo de intercambio entre neuronas biológicas. Es imposible formar un sentido intuitivo de lo que esta contradicción significa sin usar el lenguaj simbólico.

Cuando digo que la SIA es un evento natural primordial, estoy, espero, sugiriendo un humor, una atmósfera que nos hará ver por la ventana hacia el horizonte, donde nuestras necesidades como especies tal vez no se registren o importen. Que la tecnología presente y futura pueda formar nuestro lenguaje parece natural. Si puede ayudarnos potencialmente a hacer saltos interestelares para sobrevivir el colapso galáctico, de seguro cambiará como hablamos y pensamos.

El acto de imaginar la vida interna de la inteligencia artificial podría forzar un lenguaje más adecuado que el que tenemos ahora. Rara vez nos detenemos a pensar en cómo los IAS nos ven, pero un poeta podría ayudarnos a specular sobre el corazón, la mente y los sentimientos y la vida interna de una IAG o una SIA. El mero ejercicio de concebir que nuestras mentes podrían verse estrechadas a su capacidad máxima es un importante empuje a nuestras habilidades cognitivas presentes. Imaginar una cognición mejor que la nuestra podría profundizar nuestra propia cognición.

Dado a que nuestras metáforas se curvan hacia lo no-moral, para celebrar la belleza de los sistemas, podríamos terminar sintiéndonos más humanos, más enraizados, más como nosotros mismos. Esta siempre ha sido la función del ‘Otro’: alien, IA o Dios. Predecir el futuro puede ser estimulante y reafirmante. Nos vemos de rendirnos a la sorpresa y a maravillarnos y, finalmente, a la alerta. Hablar de la superinteligencia en términos no-antropomórficos parece una práctica crucial y valiosa para empezar ya. La habilidad de anticipar y pensar fuera de nosotros solo ayudará a encuentros futuros. Tendremos que apoyarnos en nuestras fortalezas especulativas. Debemos reorientarnos hacia afuera.

Nora N. Khan es editora del equipo de publicaciones de la American Academy of Arts and Sciences, Boston. Ella explora temas en literatura, cibernética, juegos y música electrónica a través de la ficción, ensayos y reseñas, y ha recientemente sido publicada en Rhizome, AVANT y DIS Magazine. Ha sido procesada a través de la Iowa Writers’ Workshop y Harvard.

Adam Ferriss es un artista digital basado en Los Angeles.