{"id":53,"date":"2010-02-16T21:30:07","date_gmt":"2010-02-17T03:30:07","guid":{"rendered":"http:\/\/angelsoftware.com.mx\/asustin\/blogs\/elblogdeedd\/?p=53"},"modified":"2026-10-11T10:37:29","modified_gmt":"2026-10-11T08:37:29","slug":"deus-ex-machina","status":"publish","type":"post","link":"https:\/\/asustin.net\/elblogdeedd\/2010\/02\/deus-ex-machina\/","title":{"rendered":"Deus ex Machina"},"content":{"rendered":"\n
\n

“En el principio, estaba el Hombre. Y por un tiempo, fue bueno. Entonces el Hombre hizo a la M\u00e1quina a su imagen y semejanza.”<\/p>\n\n\n\n

– The Second Renaissance, The Animatrix<\/p>\n<\/blockquote>\n\n\n\n

Al ver al mundo que nos rodea los humanos siempre hemos envidiado el poder de hacer uno propio. Y vaya que lo hemos intentado. Ahora, en la Era de la Informaci\u00f3n, se asoma la posibilidad de realizar el Santo Grial de la ingenier\u00eda: las m\u00e1quinas inteligentes. Y no en el sentido de las “etiquetas inteligentes” de Microsoft Word. Verdaderamente inteligentes, y a\u00fan mejor, m\u00e1quinas conscientes. Tener el poder de crear seres semejantes a nosotros. Hacernos dioses. Este tema ha fascinado a la humanidad desde hace miles de a\u00f1os<\/a>.<\/p>\n\n\n\n

Seguramente, para poder hacer m\u00e1quinas inteligentes, debemos saber lo que es la inteligencia. Cedo la palabra a la sabia Wikipedia: (Perd\u00f3n que cite a Wikipedia en ingl\u00e9s, pero la versi\u00f3n en espa\u00f1ol es francamente penosa. Por cierto, si alguien tiene un rato, puede traducir art\u00edculos al espa\u00f1ol para contribuir.)<\/p>\n\n\n\n

\n

Intelligence<\/strong> is an umbrella term describing a property of the mind comprehending related abilities, such as the capacities for abstract thought, reasoning, planning and problem solving, the use of language, and to learn.<\/p>\n<\/blockquote>\n\n\n\n

Muy bien, tenemos que la inteligencia es una propiedad de la mente. Pero, espera, \u00bfqu\u00e9 demonios es la mente?<\/p>\n\n\n\n

\n

Mind<\/strong> (pronounced \/\u02c8ma\u026and\/) is the aspect of intellect and consciousness experienced as combinations of thought, perception, memory, emotion, will and imagination, including all unconscious cognitive processes.<\/p>\n<\/blockquote>\n\n\n\n

De acuerdo, la mente es un aspecto de la conciencia. Hmmm…<\/p>\n\n\n\n

\n

Consciousness<\/strong> is subjective experience<\/em> or awareness<\/em> or wakefulness<\/em> or the executive control system of the mind<\/em>. It is an umbrella term that may refer to a variety of mental phenomena.<\/p>\n<\/blockquote>\n\n\n\n

Entonces, la conciencia es el control executivo de la mente. Esto tiene que ser una broma…<\/p>\n\n\n\n

Descuiden, no debemos sentirnos est\u00fapidos si no podemos definirlas, despu\u00e9s de todo nadie ha podido hacerlo en m\u00e1s de 2,000 a\u00f1os de historia de la filosof\u00eda. Adem\u00e1s, a\u00fan no he visto pruebas irrefutables de que existen consciencias fuera de la m\u00eda (pero ese es tema para otro post). \u00bfC\u00f3mo podemos, entonces, decir que nuestras m\u00e1quinas son inteligentes si no podemos decir que significa \u00e9sto? Por suerte, nosotros los humanos no nos caracterizamos por esperar a saber qu\u00e9 implican las cosas antes de ponernos a hacerlas (v\u00e9ase: Large Hadron Collider<\/a>). Adem\u00e1s, tenemos gente como Alan Turing:<\/p>\n\n\n\n

\n

“Si una m\u00e1quina act\u00faa tan inteligentemente como un ser humano, entonces es tan inteligente como un ser humano.”<\/p>\n\n\n\n

– Alan Turing<\/p>\n<\/blockquote>\n\n\n\n

Si creemos lo que dice Turing, lo \u00fanico que tenemos que hacer es imitarnos lo suficientemente bien para hacerle creer a otro humano que una m\u00e1quina es otro humano y habremos creado una m\u00e1quina inteligente. Por supuesto, para fines pr\u00e1cticos (como un futuro en el que los robots son nuestros esclavos) no necesitamos m\u00e1s. Hasta nos podr\u00eda ahorrar asuntos complicados como Derechos Rob\u00f3ticos (como Derechos Humanos, pero de robots. \u00bfEntienden?). Pero nosotros, los humanos, tenemos esa ma\u00f1a de seguir preguntando tonter\u00edas cuando todo parece resuelto (\u00bfNo odian a los humanos, a veces?) . A\u00fan queremos saber qu\u00e9 tan inteligente es la m\u00e1quina. Si, se parece a nosotros pero, \u00bfes<\/em> como nosotros? \u00bfUna m\u00e1quina as\u00ed adquiere subjetividad?<\/p>\n\n\n\n

\u4e2d\u56fd\u623f<\/h2>\n\n\n\n

Imaginen un programa de computadora que ha sido programada para responder apropiadamente a cualquier pregunta que se le haga. Toma caracteres chinos como entrada y responde con caracteres chinos. Este programa convence a cualquier persona que hable chino de que la computadora es otra persona. Seg\u00fan nuestro amigo Turing, la computadora entiende<\/em> chino. Un ejemplo es el maravilloso Google Translate que utilic\u00e9 para el t\u00edtulo de \u00e9sta secci\u00f3n (dice “cuarto chino”, por cierto), aunque a\u00fan le falta para convencer a alguien de que es un humano.<\/p>\n\n\n\n

Ahora, imaginen un tipo encerrado en un cuarto, en el cual su \u00fanica forma de comunicaci\u00f3n es la ranura por debajo de su puerta (Claramente, el tipo ser\u00eda empleado de the Dharma Initiative<\/a>). El hombre recibe hojas con preguntas en chino por debajo de su puerta. Su trabajo consiste en tomar libros que tienen instrucciones paso a paso para responder a \u00e9stos mensajes (el hombre no habla nada de chino). Al terminar, entrega la respuesta por la ranura de la puerta. Hace exactamente lo que hace el programa, pero manualmente.<\/p>\n\n\n\n

Un tal John Searle dice que dado que el hombre hace exactamente lo que la computadora har\u00eda, y no entiende nada de chino, la computadora tampoco lo entiende. Dado que lo que hace la computadora no puede ser descrito como “pensar”, porque s\u00f3lo sigue instrucciones, no tiene mente. Actuar inteligentemente no es lo mismo que ser inteligente para Searle. Esta postura se conoce como I.A. d\u00e9bil (la de Turing es I.A. fuerte).<\/p>\n\n\n\n

Sin embargo, la I.A. fuerte tiene otro argumento. Se basa en que nosotros, los humanos, somos conscientes e inteligentes (aunque Paris Hilton se esmere en demostrar lo contrario); y que somos robots nosotros mismos. Claro, de carbono, ox\u00edgeno y nitr\u00f3geno en lugar de fierro y silicio, pero robots despu\u00e9s de todo. Claro, esto asumiendo que nuestra inteligencia se deba a lo material, porque no considera la existencia del esp\u00edritu. Otros dicen que el cerebro humano no es una computadora, porque no piensa en t\u00e9rminos de n\u00fameros. Sin embargo, la cuesti\u00f3n a\u00fan es valida para simulaciones de cerebros.<\/p>\n\n\n\n

De ser la I.A. fuerte correcta, no hay nada que imposibilite una m\u00e1quina verdaderamente inteligente. Personalmente, yo creo que la respuesta va por ah\u00ed, aunque algunas cosas a\u00fan me causan conflictos. Adem\u00e1s, \u00e9sta postura pone a los robots irremediablemente en el campo de la \u00e9tica.<\/p>\n\n\n\n

Una de las cosas que me causan conflicto con la I.A. fuerte es c\u00f3mo se crea la mente. Suena algo absurdo que de un momento a otro surja una. Y lo que me pregunto a m\u00ed mismo para “resolverlo” es: \u00bfc\u00f3mo se cre\u00f3 mi<\/em> mente? Tengo la impresi\u00f3n de haber existido siempre. Obviamente, no tengo recuerdos de tiempos antes de mi nacimiento, pero tampoco tengo un recuerdo de un momento en que pueda decir “aqu\u00ed comenc\u00e9 a existir”. Mi conciencia no sabe d\u00f3nde est\u00e1 su principio. Quiz\u00e1 un robot con I.A. fuerte tenga una experiencia similar.<\/p>\n\n\n\n

Declaraci\u00f3n de los Derechos del Hombre y del Ciudadano<\/span> de M\u00e1quinas Sentientes<\/h2>\n\n\n\n
\n

“\u00a1Soy un ni\u00f1o de verdad!”<\/p>\n\n\n\n

– Pinocho apoya la inteligencia artificial fuerte<\/p>\n<\/blockquote>\n\n\n\n

Como dije, si las m\u00e1quinas comienzan a sentir como nosotros, la cuesti\u00f3n de sus derechos surge inmediatamente. Actualmente, la Declaraci\u00f3n de los Derechos Humanos nos otorga derechos simplemente por el hecho de ser humanos. El problema es, \u00bfcomo se define “humano”? Si es pertenecer a la especie Homo Sapiens, los robots no entrar\u00edan en ella. Si es tener una conciencia, raz\u00f3n, sentimientos y voluntad, tendr\u00edamos que incu\u00edrlos. No hacerlo constituir\u00eda una especie de “racismo”.<\/p>\n\n\n\n

Esta cuesti\u00f3n siempre me ha parecido fascinante: \u00bfqu\u00e9 haremos los humanos si alguna vez nos encontramos a alguien semejante intelectualmente pero completamente distinto a nosotros f\u00edsicamente? Ahora la tenemos f\u00e1cil, porque somos los \u00fanicos seres que conocemos que cabe en cualquiera de las definiciones de “humano” que mencion\u00e9. Pero considerando la actitud de soberbia y superioridad que mucha gente tiene hacia los animales o a otros humanos de etnias distintas, no soy tan optimista. Si alg\u00fan d\u00eda creamos robots sentientes o si nos llegamos a encontrar vida inteligente en otros mundos, creo que la reacci\u00f3n predominante ser\u00e1 la xenofobia. La reacci\u00f3n a lo desconocido generalmente es de miedo, lo que casi siempre lleva a la agresi\u00f3n.<\/p>\n\n\n\n

Pero a\u00fan si fuese te\u00f3ricamente posible hacer m\u00e1quinas conscientes y libres, dudo que se construyan. Despu\u00e9s de todo, \u00bfcu\u00e1l es su utilidad?. No nos interesan m\u00e1quinas que se depriman, sino que siempre est\u00e9n dispuestas a trabajar; no queremos que nos desaf\u00eden, sino que nos obedezcan; no nos conviene tener hordas de robots pidiendo sus derechos, sino tener esclavos que nadie quiera defender. Si no tienen mucho valor comercial, lo m\u00e1s probable es que no se desarrollen.<\/p>\n\n\n\n

Por supuesto, un grado de inteligencia s\u00ed es deseable. Nos encanta que Google Maps encuentre la ruta m\u00e1s corta a donde vamos, y que los aviones no se estrellen aunque el piloto sea un inepto. Adem\u00e1s, robot con creatividad ser\u00edan invaluables para resolver problemas complicados r\u00e1pidamente. Pero la libertad es un problema. De hecho, el c\u00e9lebre escritor de ciencia-ficci\u00f3n Isaac Asimov propon\u00eda limitar su libertad con 3 leyes:<\/p>\n\n\n\n

\n
    \n
  1. Un robot no puede lastimar un humano o, por inacci\u00f3n, permitir que un humano sea lastimado.<\/li>\n\n\n\n
  2. Un robot debe seguir cualquier orden que le de un ser humano, excepto cuando las \u00f3rdenes entren en conflicto con la Primera Ley.<\/li>\n\n\n\n
  3. Un robot debe proteger su propia existencia siempre y cuando la protecci\u00f3n no entre en conflicto con la Primera o Segunda Ley.<\/li>\n<\/ol>\n<\/blockquote>\n\n\n\n

    Afortunadamente, eso significar\u00eda que no veremos la dominaci\u00f3n robot m\u00e1s que en pel\u00edculas. Claro, a menos que robots no conscientes sean utilizados por un humano como herramientas para la dominaci\u00f3n. Eso a\u00fan es completamente posible…<\/p>\n","protected":false},"excerpt":{"rendered":"

    “En el principio, estaba el Hombre. Y por un tiempo, fue bueno. Entonces el Hombre hizo a la M\u00e1quina a su imagen y semejanza.” – The Second Renaissance, The Animatrix Al ver al mundo que nos rodea los humanos siempre hemos envidiado el poder de hacer uno propio. Y vaya que lo hemos intentado. Ahora, […]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"asustin_title_en":"","asustin_title_es":"","footnotes":""},"categories":[7],"tags":[10,28,29,30,31,32],"class_list":["post-53","post","type-post","status-publish","format-standard","hentry","category-teorias","tag-asimov","tag-pinocho","tag-robots","tag-searle","tag-the-matrix","tag-turing"],"_links":{"self":[{"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/posts\/53","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/comments?post=53"}],"version-history":[{"count":2,"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/posts\/53\/revisions"}],"predecessor-version":[{"id":413,"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/posts\/53\/revisions\/413"}],"wp:attachment":[{"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/media?parent=53"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/categories?post=53"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/asustin.net\/elblogdeedd\/wp-json\/wp\/v2\/tags?post=53"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}