53: El anime de 1995 “Ghost in the Shell” es más relevante que nunca en la sociedad tecnológicamente compleja de hoy (Maynard)
- Page ID
- 99748
\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)
\( \newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\)
( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\)
\( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\)
\( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\)
\( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\)
\( \newcommand{\Span}{\mathrm{span}}\)
\( \newcommand{\id}{\mathrm{id}}\)
\( \newcommand{\Span}{\mathrm{span}}\)
\( \newcommand{\kernel}{\mathrm{null}\,}\)
\( \newcommand{\range}{\mathrm{range}\,}\)
\( \newcommand{\RealPart}{\mathrm{Re}}\)
\( \newcommand{\ImaginaryPart}{\mathrm{Im}}\)
\( \newcommand{\Argument}{\mathrm{Arg}}\)
\( \newcommand{\norm}[1]{\| #1 \|}\)
\( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\)
\( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\AA}{\unicode[.8,0]{x212B}}\)
\( \newcommand{\vectorA}[1]{\vec{#1}} % arrow\)
\( \newcommand{\vectorAt}[1]{\vec{\text{#1}}} % arrow\)
\( \newcommand{\vectorB}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vectorC}[1]{\textbf{#1}} \)
\( \newcommand{\vectorD}[1]{\overrightarrow{#1}} \)
\( \newcommand{\vectorDt}[1]{\overrightarrow{\text{#1}}} \)
\( \newcommand{\vectE}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash{\mathbf {#1}}}} \)
\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)
Andrew D. Maynard
#review, #descriptive, #reportinginformation, #argument, #currentevents, #kairos #technology
Cuando en 1995 se estrenó la película de anime Ghost in the Shell, la world wide web seguía siendo poco más que una novedad, Microsoft apenas comenzaba a encontrar sus pies GUI, y la investigación de inteligencia artificial estaba en crisis.
En este contexto, Ghost fue notablemente presciente para su época. Veintitrés años después, es aún más relevante a medida que nos enfrentamos a los avances en el aumento humano, la IA y lo que significa ser humano en un futuro tecnológicamente avanzado.
Ghost in the Shell es una de las doce películas de ciencia ficción que aparecen en un nuevo libro que lidia con la compleja intersección entre las tecnologías emergentes y la responsabilidad social. En Películas desde el futuro: La tecnología y la moralidad de las películas de ciencia ficción (de Mango Publishing), me propuse explorar el panorama emergente en torno a las tendencias transformadoras en innovación tecnológica, y los desafíos y oportunidades sociales que presentan.
Las películas del libro fueron seleccionadas inicialmente para ayudar a contar una historia de convergencia tecnológica e innovación socialmente responsable. Pero para mi sorpresa, terminaron abriendo ideas mucho más profundas sobre la naturaleza de nuestra relación con la tecnología.
Hackeo de identidad
Ghost in the Shell abre con el mayor operativo especial de cyborg Kusanagi ayudando a localizar a un talentoso hacker, también conocido como el “Puppet Master”, que está reescribiendo el “fantasma” de las personas, o lo que los hace únicos “ellos”, utilizando interfaces cerebro-máquina implantadas.
Kusanagi habita en un mundo donde el aumento humano es algo común, y es casi en su totalidad máquina. Este aumento tecnológico le proporciona a ella y a otros habilidades sobrehumanas. Pero también los hace vulnerables, especialmente para los piratas informáticos que pueden volver a codificar sus recuerdos de manera efectiva.
Este parece ser el modus operandi del Maestro de los Títeres. Sin embargo, a medida que se desarrolla la narrativa, aprendemos que no se trata de una persona, sino de una IA desarrollada por los servicios de seguridad estadounidenses que se ha escapado de la correa de sus manejadores.
El Puppet Master (o “2051” como se le designa formalmente) está buscando asilo a sus amos estadounidenses. Pero también está buscando sentido y propósito como entidad autoconsciente.
A través de la historia siguiente, Ghost toca una serie de preguntas profundamente filosóficas que se encuentran en el corazón de la relación de la sociedad tecnologías cada vez más poderosas. Estos incluyen lo que significa ser humano, el valor de la diversidad, e incluso la naturaleza de la muerte. Como Emily Yoshida lo puso tan acertadamente en su Guía para principiantes del fantasma en el universo Shell, Ghost es una “meditación sobre la conciencia y la filosofía del yo”.
Aquí es donde la película entra en sí misma, ya que saca a los espectadores de los surcos del pensamiento convencional y los lleva a reflexionar más profundamente sobre los posibles impactos sociales de tecnologías como la IA, el aumento humano y las interfaces computadora-cerebro.
Navegando por el aumento responsable del cerebro-máquina
En 2016, Elon Musk estableció la compañía Neuralink para desarrollar interfaces cerebro-máquina inalámbricas parecidas a la ciencia ficción. Inspirado en los cordones neuronales de las novelas de Cultura de Iain M. Banks, y haciéndose eco de Ghost, Musk anunció en Twitter que, en su opinión, “Crear un encaje neuronal es lo que realmente importa para que la humanidad logre la simbiosis con las máquinas”.
Sin embargo, como Ghost in the Shell ilustra tan profusamente, donde tienes conexiones cerebrales de lectura y escritura, es probable que tengas hackers cerebrales.
De ninguna manera está claro qué tan exitoso será Neuralink (la compañía sigue volando en gran parte por debajo del radar). Pero su lanzamiento coincide con intensos esfuerzos para comprender y controlar mejor el cerebro humano, y avances en optogenética que algún día podrían habilitar redes inalámbricas máquina-mente.
Dados estos y otros desarrollos similares, no está más allá de los reinos de posibilidad que alguien intente encajar un sujeto con una interfaz cerebral conectada a Internet que pueda escribir así como leer lo que sucede dentro de su cabeza; y que alguien más intente hackearlo.
Desarrollar dichas capacidades de manera responsable requerirá mucho cuidado ya que los científicos y otros pisan la fina línea entre “podría” y “debería”. Y exigirá nuevas formas de pensar creativamente sobre lo que posiblemente podría salir mal, y cómo evitarlo.
Aquí es donde películas como Ghost son muy útiles para iluminar el panorama de riesgos en torno a tales tecnologías, no porque obtengan la tecnología correcta, sino porque revelan aspectos a menudo ocultos de cómo interactúan las personas y las tecnologías.
Pero las ideas de Ghost van mucho más allá de desempaquetar los problemas de los implantes cerebrales pirateables.
¿Quién posee y controla tu yo aumentado?
A lo largo de Ghost, la mayor Kusanagi está plagada de dudas de quién es ella. ¿Sus aumentos cibernéticos la hacen menos humana, o tener menos valor? ¿Su sentido de sí mismo, su “fantasma”, es simplemente una ilusión de su programación de máquinas? Y ¿qué autonomía tiene cuando funciona mal, o necesita una actualización?
Estas son preguntas que ya están empezando a gravar a los desarrolladores y a otros en el mundo real. Y a medida que las tecnologías robóticas y cibernéticas se vuelven cada vez más avanzadas, solo van a ser más difíciles de navegar.
En 2012, el atleta sudafricano Oscar Pistorius hizo historia al ser el primer corredor en competir en los Juegos Olímpicos con dos prótesis de piernas. Sus icónicas palas de carreras llegaron a representar la promesa de mejoras tecnológicas para superar las limitaciones humanas. Sin embargo, despertaron temores de que le dieran una ventaja injusta que llevó a que se le impidiera competir en los Juegos Olímpicos anteriores.
El mismo año en que Pistorius compitió con éxito en los Juegos Olímpicos, el investigador canadiense Steve Mann fue presuntamente agredido porque su extensión ocular aumentada por computadora ofendió a alguien. Y en 2015, el paciente-defensor Hugo Campos descubrió que legalmente no tenía acceso al desfibrilador implantado que lo mantenía con vida.
Todos estos son ejemplos relativamente pequeños de la tensión que está creciendo entre el pensamiento convencional y el aumento humano. Pero ilustran cómo la angustia que siente Kusanagi por su cuerpo aumentado, y cómo la define, ya forma parte de la sociedad actual. Y apenas hemos tocado la punta de este iceberg en particular.
Nuevamente, aquí es donde Ghost forma un poderoso lienzo sobre el que explorar desafíos que a menudo trascienden el pensamiento convencional, y se desarrollan en las fronteras de nuestra comprensión moral y ética. Observado de la manera correcta, puede ayudar a revelar verdades ocultas en torno a nuestra relación con las tecnologías que estamos construyendo, y guiarnos hacia formas más socialmente responsables de desarrollarlas y utilizarlas.
Esto, para mí, es un poder que es inherente a las películas de ciencia ficción. Y no se limita a Ghost —en Films from the Future, me baso en películas tan diversas como Never Let Me Go y Minority Report, hasta Ex Machina, para sacar ideas sobre los desafíos y oportunidades morales y éticos que cada vez son más poderosas tecnologías presentes.
Habiéndome sumergido en estas películas y en las tecnologías que las inspiran, está claro que, si queremos asegurarnos de que estas tendencias no causen más problemas de los que resuelven, necesitamos desesperadamente las perspectivas que revelan películas como Ghost in the Shell y otras.
La alternativa es arriesgarnos a perder nuestros propios “fantasmas” en el impulso de innovar más grande y mejor, sin pensar en las consecuencias.
_____________________
El Dr. Andrew Maynard es autor de Películas desde el futuro: La tecnología y la moralidad de las películas de ciencia ficción (Mango Publishing, 2018), físico y destacado experto en el desarrollo socialmente responsable de tecnologías emergentes y convergentes en la Escuela para el Futuro de la Innovación en Sociedad en la Universidad Estatal de Arizona. Se le puede encontrar en Twitter en @2020science.