“Westworld” estrenó su segunda temporada el 22 de abril. John P. Johnson/HBO
Imagina que hubiera robots idénticos a hombres, mujeres y niños y que la ley nos permitiera interactuar con ellos de la manera en que quisiéramos. ¿Cómo los tratarías?
Ese es el argumento de Westworld, la popular serie de HBO que el 22 de abril comenzó la transmisión en América Latina de su segunda temporada. Además, si dejamos de lado los giros en la trama de la temporada más reciente, el programa genera una pregunta ética fundamental que es probable que enfrentemos los humanos de un futuro no tan lejano.
Basada en la película de 1973, Westworld es una serie que retrata un patio de juegos futurista inspirado en el Salvaje Oeste, donde los personajes —cantineros, prostitutas, alguaciles, bandidos— son “anfitriones” robóticos que han sido programados para interactuar de la manera más natural posible con sus huéspedes humanos. Estas máquinas inteligentes se ven y actúan del mismo modo que las personas. De hecho, el programa a menudo logra confundir o engañar al público sobre quién es un anfitrión y quién es una persona.
Los huéspedes pueden comportarse como les plazca. Algunos adoptan actitudes heroicas, pero otros eligen representar sus impulsos más oscuros al participar en tortura, violación y asesinato —incluso al matar a robots idénticos a niños humanos—. Los anfitriones han sido diseñados para no causar ningún daño a los huéspedes, así que esos actos son muestras de sadismo puro, que no conllevan el riesgo de ninguna represalia.
No arruinaría la trama mencionar que los humanos empiezan a tener problemas en Westworld. Sin embargo, lo que nos interesa es la premisa del programa y lo que sugiere acerca de la naturaleza humana y el futuro de la tecnología nuestra reacción como televidentes ante estos robots realistas.
La mayor inquietud es que tal vez algún día podamos crear máquinas conscientes: seres sensibles con creencias, deseos y, lo más importante desde el punto de vista moral, la capacidad de sufrir. No parece que haya nada que nos vaya a impedir hacer esto. Los filósofos y los científicos aún no están seguros de cómo surge la consciencia a partir del mundo material, pero pocos dudan que así suceda. Esto sugiere que es posible crear máquinas conscientes.
Imagina, como lo creen muchos filósofos y científicos, que la consciencia se origina en sistemas que procesan información y que cuentan con la complejidad necesaria. No hay ninguna razón para pensar que esos sistemas deban estar hechos de carne. Lo más probable es que las mentes conscientes no requieran una plataforma. A fin de cuentas, son el producto del programa informático adecuado. Parece que solo es cuestión de tiempo para que emulemos el trabajo del cerebro humano en nuestras computadoras o creemos mentes conscientes de otro tipo
Aunque alguien creyera que solo los sistemas biológicos pueden ser conscientes, ese avance también está a nuestro alcance, tal vez mediante una combinación de inteligencia artificial e ingeniería genética. De hecho, en Westworld, se da a entender que los anfitriones son parcialmente biológicos. No cabe duda de que los vemos sangrar.
Si en verdad creáramos seres conscientes, los principios morales convencionales nos dirían que dañarlos no sería correcto, precisamente porque son conscientes y pueden sufrir o se les puede privar de la felicidad. Del mismo modo que no sería correcto criar animales para torturarlos ni tener hijos solo para esclavizarlos, sería incorrecto maltratar a las máquinas conscientes del futuro.
No obstante, ¿cómo sabremos que nuestras máquinas se han vuelto conscientes? El filósofo francés René Descartes argumentaba que la consciencia propia de uno está más allá de cualquier duda posible. En el caso de los demás, nunca tendremos una certeza absoluta. Muchos de nosotros hemos jugado con la idea, aunque sea tan solo por un momento, de que tal vez todos sean zombis: sonríen, lloran, se quejan, se alegran, pero con un cerebro que no opera. Tal vez los científicos terminarán por descubrir el elemento distintivo de la consciencia, y entonces podremos analizar a nuestros robots para averiguar si la tienen, al igual que podremos buscarla en animales y entre nosotros. Sin embargo, está claro que crearemos máquinas que parezcan conscientes mucho antes de que lleguemos a ese punto.
Cualquier cosa que se parezca o actúe como los anfitriones de Westworld nos daría la impresión de que se trata de un ser consciente, sepamos o no cómo surge la consciencia en los sistemas físicos. De hecho, los experimentos con inteligencia artificial y robótica ya han demostrado la velocidad con la que atribuimos sentimientos a las máquinas que se ven y comportan como agentes independientes. Multiplica por mil esa tentación de antropomorfizar: no pienses en una máquina con cables a la vista, con ojos caricaturizados y una voz que suena como Siri, sino en una persona hermosa pero desconocida que entabla una conversación inteligente contigo y que podría estar más consciente de tus emociones de lo que nunca han estado tu cónyuge ni tus mejores amigos. Sería irresistible concebir a esta criatura como una persona, sin importar tus opiniones filosóficas ni lo que te dijeran sus creadores respecto de la manera en que fue construida.
Justo en este momento es cuando tiene importancia ver Westworld. Dejemos de lado el placer del entretenimiento: los creadores de la serie han producido un poderoso trabajo filosófico. Una cosa es asistir a un seminario y discutir las implicaciones morales de que los robots tuvieran consciencia. Otra cosa completamente distinta es ser testigo de los tormentos que sufren esas criaturas, del modo en que lo representan actrices como Evan Rachel Wood y Thandie Newton. Es probable que a nivel intelectual todavía te surja la pregunta, pero tu intuición y tu corazón ya te han dado la respuesta.
Al ver el programa, también descubres cómo te sientes respecto de la gente que viola, tortura y mata a estos robots. No tenemos ni idea de cuánta gente en verdad se comportaría de este modo en un lugar como Westworld (en el programa se sugiere que no hay escasez de ese tipo de clientes), pero hay algo repugnante en las personas que se comportan así. En este supuesto, los anfitriones robot son los más humanos y los humanos que abusan de ellos son monstruos.
El filósofo Immanuel Kant tenía opiniones encontradas sobre los animales, pues consideraba que eran solo cosas, desprovistas de valores morales, pero insistió en que se les debía tratar de una manera apropiada por las consecuencias en la forma en que nos tratamos los unos a los otros: “Porque aquel que es cruel con los animales también endurece su forma de tratar a los hombres”. Ciertamente podríamos decir lo mismo del tratamiento a los robots realistas. Aun si tuviéramos la certeza de que no están conscientes y en realidad no pueden sufrir, lo más probable es que torturarlos provocaría un daño en el torturador y, a fin de cuentas, en las demás personas en su vida.
Esto podría parecer una versión extrema de la preocupación que muchas personas tienen sobre los videojuegos violentos. Desde hace mucho, se especula que recrear la violencia en un mundo virtual desensibiliza a las personas ante la violencia en el mundo real. La evidencia que respalda ese tipo de efectos es débil. De hecho, a medida que los videojuegos se han vuelto cada vez más realistas, ha disminuido la tasa de crímenes violentos.
No obstante, la posibilidad de construir un lugar como Westworld es mucho más inquietante porque la experiencia de dañar a un anfitrión no es solo similar a la de dañar a una persona, sino que es idéntica. Desde el punto de vista ético y psicológico, no tenemos ni idea de lo que provocaría en nosotros satisfacer esas fantasías una y otra vez, pero hay pocas razones para creer que sería algo bueno.
Los problemas de esta situación van mucho más allá del sadismo. Las máquinas se crean para mejorar la vida de los seres humanos, y una de las atracciones de la inteligencia artificial avanzada es la posibilidad de que haya sirvientes, mayordomos y choferes robot (también conocidos como vehículos autónomos). Todo esto está bien con el tipo de máquinas que tenemos en la actualidad pero, a medida que mejore la inteligencia artificial, corremos un riesgo moral.
Después de todo, si en efecto lográramos crear máquinas tan inteligentes o más inteligentes que nosotros —y, más importante, máquinas que puedan sentir—, no queda muy claro si sería ético que las usáramos para que obedecieran nuestras órdenes, aun cuando estuvieran programadas para disfrutar del trabajo pesado. La noción de diseñar genéticamente una raza de esclavos dispuestos es un tropo estándar de la ciencia ficción, en el cual se revela que la humanidad ha hecho algo terrible. ¿Por qué la producción de esclavos robot sensibles sería diferente?
Entonces, por primera vez en nuestra historia, corremos el riesgo de crear máquinas que solo los monstruos podrían usar a placer.
Paul Bloom es profesor de Psicología en Yale y autor de "Against Empathy: The Case for Rational Compassion". Sam Harris es neurocientífico, autor de "Waking Up: A Guide to Spirituality Without Religion" y conductor de la audioserie "Waking Up Podcast".
New York Times
Comments