Este artículo apenas habla de ‘Her’ y está razonablemente libre de spoilers.
¿Es posible enamorarse de un Sistema Operativo? Esa es la pregunta sobre la que planea ‘Her’, una de las películas de la temporada. La respuesta antes de ver la película, e incluso después, es un rotundo no. Es absurdo empatizar con Android, con MacOS, o con la más sofisticada Inteligencia Artificial sobre la tierra. Uno no se enamora de su ordenador aunque juegue bien al ajedrez o sea capaz de guiarnos hasta casa en mitad de la noche. Estos sistemas ni son realmente inteligentes, ni tienen personalidad, y aunque pudiesen aparentarla, no serían más que un impostor: nada creado por el hombre ha mostrado algo semejante a una consciencia.
La película, sin embargo, logra ser interesante porque añade una premisa: la existencia de un Sistema Operativo que aparenta ser consciente de si mismo, que dice tener sentimientos y que actúa como si los tuviera. Hasta elige su propio nombre: Samantha. Sobre esa premisa, la absurda pregunta original se transforma en un argumento clásico de la ciencia-ficción: ¿aceptaríamos como iguales a seres que no son humanos?
En el género se han escrito cientos de relatos alrededor de esa pregunta, la mayoría de ellos optimistas al respecto. En los mundos imaginados, las personas fueron capaces de empatizar con seres de todo tipo, sin que importase su constitución ni su origen. Los hombres de ficción han considerado como sus semejantes a extraterrestres (pequeninos), planetas enteros (Gaia), monos listos (Zira), universos diminutos (Ausencia), superperros (Sirio), Inteligencias Artificiales (Wintermute), robots (Daneel) o replicantes (Rachel). Si hacemos caso a la literatura de ciencia ficción, las personas podríamos empatizar con seres que no son humanos; podríamos otorgarles derechos, compadecerlos, quererlos, gastarles bromas y odiarles, y como le ocurrió a Alice, quizás hasta enamorarnos de Ausencia, un universo vacío y lleno de nada.
Si Samantha existiese, alguien podría amarla. ¿Pero es posible crear una máquina que, como Samantha, «piensa» y «siente»?
Sobre la posibilidad de una máquina pensante
Cuando uno se plantea si sería posible crear una máquina que «piensa» y «siente», el primer impulso es responder que nadie lo sabe, porque no tenemos ni la menor idea de cómo hacerlo. Pero en realidad es bastante evidente que pueden construirse máquinas pensantes… porque se cuentan por millones. La existencia del cerebro es, como dijo Von Neumann, la mejor prueba de que las máquinas pueden pensar.
“If you tell me exactly what it is a machine will never be able to do, I can create a machine that does it. The problem is that it’s generally not specific enough. We say machines can’t “think” because we don’t know what thinking actually is. The proof that machines can do it is the existence of the brain.” ~Von Neumann.
Nuestro cerebro existe y difícilmente será la única solución constructiva capaz de «pensar» o «sentir». No lo es, de hecho, por que cada uno de nuestros cerebros es ligeramente diferente y todos piensan y sienten. Aunque no sepamos cómo, lo más razonable es asumir que puede fabricarse un cerebro análogo al nuestro usando piezas distintas, quizás a partir de bioquímica basada en el silicio, con un ADN de arsénico, o conectando transistores en lugar de sinapsis.
Construyendo mentes: determinismo o Golem
Imaginemos que somos capaces de replicar nuestro cerebro usando silicio y nanotransistores. Asumamos, pues, que construimos un cerebro inorgánico, con materiales diferentes, pero análogo al nuestro en estructura y funcionamiento.
¿Emergería de ese artefacto algo semejante a una mente?
Solo caben dos respuestas, la cientificista y la mística. O creemos que hay algo sobrenatural en los seres humanos o aceptamos que de ese cerebro artificial emergería una cosa parecida a nosotros. No hay más alternativas.
La respuesta mística supone creer en una forma de Alma, aunque no necesariamente del tipo católico. Supone creer que hay algo «fuera de la naturaleza», una sustancia etérea, que nos dota de humanidad a las personas y que se la niega al resto de cosas. Los seres humanos seríamos una suerte de Golem, una maquinaria biológica inanimada que solo cobra vida, consciencia y existencia superior cuando se le insufla una «chispa de vida». El origen de esa ignición puede ser Dios o cualquier otra cosa ajena al mundo físico.
La respuesta cientificista asume, en cambio, que no hay nada extrafísico en las personas. Si no creemos en el Alma, tenemos que aceptar que nuestra consciencia emerge de nuestra estructura y es el resultado ineludible de como se ordena la materia que nos constituye. Si replicásemos esa misma estructura usando otras piezas (quizás silicio y transistores diminutos, como Samantha) el resultado sería un ser casi humano, consciente de si mismo, que piensa y siente, y que como nosotros, elige su propia aventura, tiene libre albedrío o siente que lo tiene.
Hasta donde sabemos, la biología apoya esta segunda opción. Nada indica que haya una «partícula vital» que contenga nuestra esencia, sino que ésta fluye y surge de esa interacción caótica que nos agita por dentro. Ni siquiera está claro que el «yo» sea una cosa muy definida, sino que nuestra mente parece «contener multitudes». Eso explica que tengamos dilemas internos, que nos hagamos promesas y las rompamos, o que nos riamos de nosotros mismos; todo cosas que nos resultan cotidianas, pero que no dejan de ser extrañas: si el Alma es unitaria, ¿con quién discutimos?
Sobre la complejidad de una máquina pensante
Es probable, pues, que de un artefacto que nos replicase surgiese un ser semejante a nosotros. Pero construir esa máquina de novo (esto es, sin usar piezas biológicas) no resultará nada sencillo. Al contrario, representa un problema de una complejidad absurda y apenas concebible. Exige replicar las miles de miles de millones de neuronas que forman un cerebro (100.000.000.000) y las miles de miles de miles de millones de conexiones sinópticas que las unen (1000.000.000.000.000) (I, II). A eso hay que sumar todas las células que nos constituyen y que, entre otras cosas, nos dotan de tacto, olfato, gusto, oído y vista. Todos esas células y neuronas son sistemas complejos de por si, antes incluso de agregarlos por millones y millones. El modelo más detallado que existe de un patógeno unicelular tiene decenas de subsistemas y parámetros tomados de novecientas referencias bibliográficas, lo que sirve para que intuyamos un fractal de complejidad digno de asombro.
Por supuesto, no sabemos como de esa cascada de conexiones electroquímicas surge un pensamiento, pero algo sí sabemos: eso que llamamos mente, emerge de la interacción de un número astronómico de otras cosas.
Replicar todo esto con electrónica suena inverosímil: un cerebro tiene del orden de 100.000.000.000.000.000.000 interruptores, más o menos los mismos que suman todos los microprocesadores que se fabricaron el año pasado, operando todos coordinados. Es posible que no sea necesario algo tan complejo para construir máquinas pensantes, pero de momento nuestros intentos han sido infructuosos. Quizás no existen atajos: somos las únicas máquinas pensantes que la evolución ha fabricado en esta iteración que es la vida en la tierra; el resto de animales no tienen mentes como la nuestra, a pesar de que son prácticamente igual de complejos. O bien hacer mentes no es útil (cosa en principio dudosa) o no es fácil.
De lo posible a lo probable
En definitiva, tiendo a creer que las personas podemos empatizar con seres no humanos y estoy razonablemente convencido de que esos seres podrían fabricarse. Las dos cosas me parecen plausibles, y por eso creo que una persona y un Sistema Operativo podrían, tal vez, enamorarse.
Acepto la posibilidad del amor entre Samantha y Theodore.
Pero me parece improbable.
Las razones las dejo para otro momento. Diré solamente que podría amar a Rachel, el personaje de la mítica Blade Runner, pero no a Samantha. Rachel es una replicante de carácter frío y gesto hierático, pero tiene unos ojos en los que puedes verte reflejado; un cuerpo y un rostro que son suyos… y quizás un poco tuyos. Samantha, en cambio, es invisible e incorpórea. Y mientras que Rachel es humana en sus limitaciones, Samantha es casi omnisciente.
Samantha no es lo suficientemente humana, porque es algo más que humano.
«Si hacemos caso a la literatura de ciencia ficción, las personas podríamos empatizar con seres que no son humanos; podríamos otorgarles derechos, compadecerlos, quererlos, gastarles bromas y odiarles»
Supongo que te refieres a seres «no vivos» o «no terrestres» o directamente «artificiales» (eludo discutir si existen los extraterrestres), ya que actualmente millones de personas empatizan con animales y existe un notorio movimiento proderechos de los animales. 😉
Tangencialmente, tal vez no podramos crear una máquina pensante, pero si queremos compartir sentimientos, tal vez sirva una simple app (Black Mirror S02E01 «Be right back») 😛
Míralo desde la otra perspectiva con «El Hombre Bicentenario» de Asimov.
Y el mismo Asimov planteó en otro cuento que los Humanos no podríamos aceptar como iguales a robots que precisamente se parecieran demasiado a nosotros mismos.
No he visto «Her» pero, por lo que cuentas, parece un Blade Runner moderno… Antes era inconcebible enamorarse de alguien a quien no se había visto nunca (enamorarse en el sentido actual, se entiende) ahora te encuentras gente que asegura que se enamoró por un chat, a base de interactuar por twitter… la única diferencia es que en «Her» él sabe que jamás la verá, pero, por otra parte, tiene la seguridad (¿o no? no la he visto) de que «ella» no está «con otro»
Yo sí creo (como una religión, por pura fe) que la inteligencia se puede crear a base de fundir chips, la pregunta sería entonces ¿para qué?
Mi último párrafo es el más especulativo. Pero si creo que amar a Samantha es más improbables no es sólo porque no tiene cuerpo, también y sobre todo porque es demasiado diferente, casi omnisciente. Enamorarse de alguien sin físico a mi me parece difícil, pero veo vente que parece cobseguirlo, sí.
Luego os leo a todos despacio, que voy en móvil.
Resulta que Samatha habla con miles a la vez, y esta enamorada de 650 mas o menos… hahahahhha
¡Chapó, apreciado Señor Llaneras!, toca Usted temas muy importantes, sensacional y de gran calidad su artículo. Puede ser que parte de la Esencia del Renacimiento no desaparezca nunca. Por cierto, Señor Llaneras…¿no está Usted, últimamente muy enamoradizo?.
Felicidades por tan brillante artículo. De todas maneras, la dulce intangibilidad es sorprendente.
https://www.youtube.com/watch?v=1l_PkVl2_A0
Saludos.
Gracias, Teresa, gracias.
Gracias a Usted, por ilustrarnos con un artículo de ESPÍRITU AGUDO. Nunca podemos decir NO a las nuevas posibilidades futuras, nunca se sabe, pero conjuntamente a ello, no se puede desechar la tradición, lo que es connatural al hombre y a la vida, porque es algo imperecedero.
Estimado Señor Llaneras, demás Editores y lectores, ¡ no saben Ustedes lo que puede ocurrir a un Editor de Blog, que le inviten a subir escaleras!…yo no digo nada.
https://www.youtube.com/watch?v=UseInM3hmxk
Aunque nunca se sabe lo que puede ocurrirle de más a un Editor, ¿ algo como esto?…yo no digo nada.
https://www.youtube.com/watch?v=5MzZYQWyC5M
¡ Que conste que yo no he dicho nada!
Saludos.
En ciertas ocasiones, apreciado Señor Llaneras puede ocurrir lo siguiente:
https://www.youtube.com/watch?v=_fh7H-cpeuY#aid=P99q0xqsOGI
Saludos Afectuosos.
Pero quien es esta loca?
Muy amable, por su parte. Espero que siga teniendo esa amabilidad grandiosa.
Saludos.
Julio Cortázar decía esto: » Creo que todos tenemos algo de esa bella locura, que nos mantiene andando, cuando todo alrededor es tan insanamente cuerdo».
Disculpe, Señora Lista Lydya, Gracias por el cumplido tan maravilloso, me encanta.
Saludos.
La diferencia entre un Magnífico Traductor a uno no tan bueno es abismal, el primero aproximará el texto al original del autor con mayor fiabilidad que el segundo. Todas las palabras se pueden traducir y se obtiene sus interpretaciones, maravillosa labor.
https://www.youtube.com/watch?v=EnJsHSF6zgg
Heine decía esto: » La verdadera locura quizá no sea otra cosa que la sabiduría misma que, cansada de descubrir las vergüenzas del mundo, ha tomado la inteligente resolución de volverse loca».
Amable Señora Lista Lydya, ¿ podría mostrarnos sus enseñanzas sobre el artículo?, y por favor, si pudiera ser un comentario distinto por completo al resto, porque el autor plantea muchos temas dentro del artículo y casi todos los comentarios están basados en lo mismo. Yo al menos se lo agradecería, hablo por mí no por nadie.
Geniales son los expertos en cualquier disciplina que demostrando todos sus conocimientos lo hacen desde la amabilidad y la simpatía, porque para eso se necesita de mucho arte e ingenio, no todo el Mundo sabe demostrarlo. El Humor es síntoma de inteligencia.
Posiblemente detrás de su nombre hay una persona muy inteligente, por favor, es mucho pedir, que lo demuestre, se lo agradecería de corazón.
Yo le voy a pedir a los Señores Editores un favor, como no sé si algún día puedo faltar al respeto a una persona y dejarlo expuesto, por favor si se dan cuenta de ello, les pido que me censuren, porque sería una censura razonable. Ante todo la educación y guardar las formas, porque demostrar esa cuestión es muy importante lo dice todo. Esto lo pido yo misma. Gracias.
https://www.youtube.com/watch?v=NvR60Wg9R7Q
» Sólo los cuerdos aman con locura.»
» En el amor siempre hay algo de locura, mas en la locura siempre hay algo de razón»
» El amor y la locura son los motores que hacen andar la vida»
» La locura, la verdadera locura, nos está haciendo mucha falta, a ver si nos cura de esta peste del sentido común que nos tiene a cada uno ahogado el propio»
Saludos.
Y sí es verdad que hay en la vida » Locuras maravillosas» como esta…la que proporciona Carlos Nuñez.
https://www.youtube.com/watch?v=grHOcHIhXr8
Saludos.
Y también lo fantástico que es el gozo de lo sublime…eleva a los cielos, eso también constituye una Gran Locura de las de Verdad.
https://www.youtube.com/watch?v=9ktsF5bTInw
Nunca hay que perder la posibilidad de gozar de lo maravilloso.¡ Bendita LOCURA!.
Saludos.
La Dulce intangibilidad es apreciada con los ojos invisibles del Corazón, yo diría también la amable magia.
MIRAR con el Corazón, es DEMASIADO, fuente inagotable. Me quedo con lo ESENCIAL, produce mayor satisfacción, navegamos en las profundidades del océano y nos dejamos lo Valioso. Cambio una palabra inteligente por un simple Gracias, me quedo más con la actitud, porque las palabras pueden ser bellas pero falsas también, y en otras ocasiones, se reúne la belleza y la verdad en esas palabras.
https://www.youtube.com/watch?v=IKMEtuCxCCI
Saludos.
Gracias a los Editores por permitir todas estas palabras, aunque no tenga que ver con el artículo, es lo correcto.
Saludos.
Guardar las formas es también no decir banalidades continuas que no tienen nada que ver con el post, solamente porque le gusta que le publiquen sus «cosas». Cree usted un blog y no haga perder el tiempo a los demás.
Por favor, comente algo acerca del artículo.
Usted ha incurrido en banalidad, demuestre lo contrario, de todas maneras, mi participación en este blog no es muy activa, no comento en muchos artículos, y sí comento mi opinión con respecto al propio artículo, que luego incluya algo divertido( aunque no tenga que ver con el propio contenido del artículo) no soy la única que lo hace.
Esperamos su opinión, y si puede ser con respecto a otra temática presentada por el autor, mejor, se lo agradecería. No tengo ningún interés especial en que me publiquen o no mis cosas como dice Usted, concretamente no tengo afán de protagonismo.
Y dejo esto por finalizado, porque el final sería el mismo y sin sentido. Su aportación sí que dice mucho de Usted…tan claro como el agua.
Saludos.
Me olvidaba, y con esto termino como dije antes, he dejado que hable Carlos Nuñez por mí y sí tiene que ver en algo con el artículo del autor…el Señor Llaneras habla de muchas cosas muy importantes.
http://www.dailymotion.com/video/xxeh50_the-measure-of-a-man-la-medida-de-un-hombre-star-trek-tng_shortfilms
En eso he pensado precisamente cuando he leído el artículo.
[…] ¿Es posible enamorarse de un Sistema Operativo? [es] […]
Veo muchísimo más fácil emular el comportamiento que proviene de las emociones que tenerlo realmente. El test de Turing es falaz, las personas somos perspicaces, pero no tanto. Con un «sistema experto» muy complejo que haya pasado por muchos muchos entrenamientos a base de mostrarle respuestas emocionales humanas «estándar» se podría conseguir uno que engañase a gente poco perspicaz.
¿Y cual es la diferencia entre «emular» y «tener realmente»…?
La misma que hay entre tirarse el moco yendo de farol y ser p.ej. médico o informático.
Exacto
Está planteado que nadie, ningún ser humano es espontáneo. Lo que hacemos, decimos, decidimos, etc está condicionado por nuestro repertorio previo, nuestras experiencias, que, como si fueran bloques de lego vamos reordenando y moviendo… El arte, por ejemplo, surge de experiencias previas, es acumulativo. Nadie crea desde cero sino sobre sus influencias, incluso los más rompedores.
Entonces, ¿cómo podemos diferenciar que lo que dice o hace una IA de lo que hacemos nosotros? No se puede, porque en el fondo, no somos más que IAs muy complejas y con un gran repertorio
Entiendo, entonces, que no podemos ponernos enfermos, porque que los gérmenes y virus no existen, ya que no podemos verlos. Nuestra percepción lo es todo.
Decir que si algo parece así es así es caer en el idealismo de Berkeley. Como decía Borges, creer que los espejos multiplican el número de los hombres tanto como la cópula.
[…] ¿Es posible enamorarse de un Sistema Operativo? […]
Dos comentarios:
– uno, que empiezo fusilando sin misericordia una frase que no recuerdo de quien es (¿de Arthur C. Clarke, quizá?) pero dice que preguntarse si una máquina puede pensar es tan inútil como preguntarse si un barco puede nadar… algo relacionado con el famoso test de Turing.
El test aparentemente se basa en la idea de que si no podemos distinguir las respuestas de un humano de las de una máquina, entonces la máquina está pensando. Un fundamento que siempre he encontrado un tanto difícil de aceptar desde un punto de vista filosófico, porque implica que una imitación lo suficientemente perfecta _ES_ la cosa original, a pesar de ser una imitación… y por eso encuentro la frase de más arriba una solución muy satisfactoria: no importa si la máquina está pensando, como no importa si los coches andan o los barcos nadan, para nuestros propósitos es irrelevante.
– Otro es que los humanos somos de lejos demasiado buenos viendo intenciones, alma y emociones no solo en animales, sino en objetos; lo antropomorfizamos todo, absolutamente TODO, incluyendo coches, barcos y aviones (como esos aviones de 1939-45 con ojos y bocas de tiburón pintados). No me cuesta nada creer que alguien pudiera enamorarse de un ordenador después de leer algunos libros escritos por pilotos de caza, o este artículo
http://www.washington.edu/news/2013/09/17/emotional-attachment-to-robots-could-affect-outcome-on-battlefield/
Y eso es con robots desactivadores de explosivos, que no son precisamente ositos de peluche, sino poco más que un palo movido sobre orugas. Lo que vaya a ocurrir cuando entren en juego máquinas como la «mula robótica» va a ser realmente fascinante… pero me cuesta bastante más creer que sea posible enamorarse de una voz sin soporte físico (puedo imaginarme perfectamente al protagonista de ‘Her’ asociándole un aspecto, al estilo de las OS-tan japonesas)
Nota: quien no sepa lo que son las OS-tan, que se prepare…
Hombre, una imitación de una cosa concreta (mi coche, mi perro o mi madre) nunca será esa cosa. Pero hablando de categorías/clases/tipos, la cosa cambia. Una imitación suficientemente perfecta de un coche será un coche, y una imitación suficientemente perfecta de una persona será una persona. El problema, claro, es definir «suficientemente perfecta» 🙂
El que algún día las maquinas piensen o tengan sentimientos quizá no sea relevante para nuestros propósitos… hasta el día en que una de ellas pida que se tengan en cuenta.
Los talibanes de la paella discrepan. Una imitación suficientemente perfecta de una paella no es una paella. Es arroz con cosas.Aunque entre en la categoría/clase/tipo «paella».
El lobby valenciano ataca de nuevo. XDDDDDD
¿Pero por que cosas te crees tu que nos preocupamos los valencianos? Sin duda no vaya a ser porque durante muchísimos años, con gobiernos centrales y autonómicos de distintos colores, hayamos sido los más perjudicados por la financiación autonómica, al tener una renta en la media de la española y un déficit fiscal de podium. Eso jamás ocuparé una parte importante del debate en la política valenciana.
PD: ahí lo dejo, metida con calzador.
¿Tendría sentido construir una máquina que pensase y sintiera?
http://www.thedailybeast.com/articles/2013/12/31/can-robots-fall-in-love-and-why-would-they.html
Jamás soñé que vería un artículo como éste en Politikon. Maravilloso.
Si el odio es posible el amor también. Y yo, personalmente, odio a Fritz.
Y también lo amas! 😉
Fritz es un paquete. Mirad mejor a David Antón, xD
En la comparación del número de switches no tienes en cuenta que no sabemos como se reparte su funcionalidad.
A lo mejor el 90% de ellos está centrado en respirar, mantener circulando la sangre y no hacerte pipi y popo por las calles. En «digitalizar» el sonido o la visión. O controlar la posición de los miembros.
Es plausible considerar que un sistema visual como el nuestro esté poco optimizado y uno algorítmico creado por ordenador necesite varios ordenes menos de complejidad para gestionarlo.
Viendo al ser humano medio es bastante obvio que la principal función de su cerebro no es precisamente pensar. Si no sostener sus funciones vitales, y que no da para más.
Es un cálculo de grano muy grueso. Ni siquiera la analogía de «switches» es muy buena para lo que ocurre dentro de una sinapsis. Sobre cuanto cerebro sirve para pensar… no creo que lo sepamos muy bien.
Tampoco creo que podamos separar nuestra mente de, no sé, la parte de nuestro cerebro que regula la insulina o nos ajusta el ritmo del sueño, porque probablemente sean maquinarias que se solapan.
La cuestión que quería señalar es que nuestro cerebro no es solo diferentes a nuestros computadores, es también mucho más complejo.
creo que el problema de la capacidad de computación será resuelto con los ordenadores cuánticos. Otra cosa es cómo modelar la mente. El otro día vi un par de líneas de investigaciones sobre IA que pienso van por el (preliminarísimo) camino correcto: por el de Piaget (inteligencia sensoriomotriz) y por el de Watson y Skinner (condicionamiento). Sin programación, con redes neuronales
Y luego está el tema del enamoramiento. Pensemos en el apego a lo material. El otro día una amiga entregó su coche viejo al desguace y parecía que venía de un funeral. Qué habría pasado si hubiese sido KITT 🙂
y nosotros los hombres… pues como viene a sugerir Kiko al final, si hacen una androide como Sean Young, igual podemos enamorarnos aunque tenga la mente de una ameba. Lo intelectual está sobrevalorado 😉
Kiko, me encantó tu artículo. Creo como tú, que es posible enamorarse de un sistema operativo pero altamente improbable. El ser humano necesita el contacto físico, unos en mayor medida que otros, pero todos. Una relación humano-sistema operativo está abocada al fracaso.
» ¿aceptaríamos como iguales a seres que no son humanos? «, no aceptamos como iguales a los seres humanos de este planeta entre distintas razas, sexo, etc.
COMO VAMOS A ACEPTAR POR IGUALES A LOS NO HUMANOS.
Creo que deberíamos entender y educar primero a los humanos para que se respeten entre ellos y luego podríamos aceptar si son iguales o no los no humanos.
[…] escenario que plantea Her, en palabras de Kiko Llaneras, no es posible, ya que resulta difícil pensar en que podríamos enamorarnos de un sistema […]
En todo caso, quizá el punto de vista más interesante no sea el de si un sistema operativo es posible objeto de enamoramiento. Sino qué es enamorarse, el proceso de enamoramiento es infinitamente más complejo que el que pueda hacer mover al más refinado de los robots.
[…] […]
[…] View the original article here […]