John Searle. La habitación china
Contextualización
Identificación de la corriente intelectual a la que se adscribe el texto
En 1931, el matemático checo Kurt Godel descubrió que había teoremas matemáticos que eran verdaderos aún cuando no se pudiesen demostrar. Ante esto, Alan Turing, también matemático y convencido de que las matemáticas son una ciencia exacta regida por reglas lógicas, se propuso trabajar en aquellos teoremas que sí podían ser demostrados.
Para hacerlo, ideó una máquina imaginaria capaz de realizar de manera totalmente mecánica los procesos que normalmente llevaría a cabo un matemático. Había una máquina para cada proceso; así, había una máquina que sumaba, otra que multiplicaba, etc. Estas máquinas acabarían por recibir el nombre de “Máquinas de Turing”.
Básicamente, lo que quería era hacer una lista de los problemas que una máquina sería capaz de resolver siguiendo reglas lógicas (algorítmicas). Si esta lista abarcaba todos los problemas matemáticos, entonces su tesis quedaría demostrada, y con ella la teoría de la computabilidad.
Tras estudiar con detenimiento el funcionamiento de sus máquinas, concluyó que era posible diseñar un artilugio único capaz de cumplir las funciones de cualquier otra máquina de Turing. A ésta se le llamó la “Máquina Universal de Turing”.
Alan Turing había establecido las bases teóricas. En abril de 1949 se construía el EDSAC el primer dispositivo capaz de comportarse como una máquina universal de Turing: nacía el primer ordenador y con él se proveía de un arma poderosa a las corrientes disidentes con el conductismo en psicología: se proclamaba un nuevo tipo de mentalismo, con un importante matiz, era un mentalismo que no necesitaba recurrir al “hombrecillo en la cabeza”: había nacido la Psicología Cognitiva Mientras que algunos psicólogos cognitivos, algunos años después utilizarían la metáfora mente-ordenador en un sentido flexible, más bien como una analogía, para los partidarios de la I.A. fuerte la comparación va más allá y opera en ambas direcciones:
La mente funciona igual que un programa de ordenador, siendo el cerebro una especie de ordenador biológico. La mente es al cerebro lo que el programa es al ordenador.
Un ordenador, convenientemente programado para simular la inteligencia humana, no sólo es una simulación de inteligencia sino que es inteligencia. Dicho de otro modo: los ordenadores digitales pueden tener “mente”
Identificación del autor, la obra y la época en que fue escrito el texto
El texto que vamos a comentar, “La habitación china”, es un experimento mental, propuesto por el filósofo de la mente y el lenguaje John Searle para atacar la idea de que la mente es como un programa de ordenador. Se trata de una de las críticas más sagaces a los postulados de la I.A. fuerte y podemos decir que desde su publicación en 1984, ha levantado ríos de tinta.
Resumen
Tema
Mediante este experimento mental, Searle se propone demostrar (y en esto estarían de acuerdo los partidarios de la I.A. débil) que una máquina puede “simular” inteligencia, puede comportarse “como si” tuviera mente, pero que no es cierto, por la propia definición de “ordenador digital” o “programa” que una máquina pueda “pensar” realmente.
Estructura
El experimento es el siguiente: Un hombre que no tiene ni idea de chino, es encerrado en una habitación, en la que hay varias cestas llenas de símbolos chinos. En la habitación también hay un manual en castellano que explica cómo combinar esos símbolos, pero las instrucciones que contiene se basan sólo en la sintaxis de los garabatos y no en su semántica. Por ejemplo, una de las reglas del manual podría decir: “toma el garabato “changyan” de la cesta A y ponlo junto al garabato “chengyen” de la cesta B”. Entre las instrucciones hay además una que especifica como enviar fuera de la habitación ciertas combinaciones de símbolos chinos ante la entrada de nuevos símbolos.
Fuera de la habitación, los “programadores” de este experimento llaman a los símbolos que entran en la habitación “preguntas” y a los que salen “respuestas”. Los programadores son tan buenos diseñando programas y el hombre es tan bueno manipulando los símbolos que pronto el sistema llega a ser tan eficaz, que sus respuestas son emitidas en perfecto chino, indistinguibles de las de un hablante chino real. Pese a ello ¿se puede afirmar que el hombre (o el sistema) entiende chino?
Qué ideas defiende el autor
La idea principal es muy clara: una cosa es manipular símbolos conforme a unas reglas formales (lo que constituye la propia definición no rigurosa de “programa”) y otra cosa es “comprender” estos símbolos. En términos linguisticos: el programa lleva a cabo manipulaciones sintácticas la mente humana lleva a cabo manipulaciones semánticas
Ampliación del significado
En realidad el experimento mental expuesto por Searle en la habitación china puede considerarse una réplica a un experimento mental anterior: el test de Turing. Este “test” es una prueba propuesta por Alan Turing para demostrar la existencia de inteligencia en una máquina. Fue expuesto en 1950 en un artículo, “Computing machinery and intelligence” para la revista “Mind”, y sigue siendo uno de los mejores métodos para los defensores de la Inteligencia Artificial. Se fundamenta en la hipótesis positivista de que, si una máquina se comporta en todos los aspectos como inteligente, entonces “debe ser inteligente”.
La prueba consiste en un desafío. Se supone un juez situado en una habitación, y una máquina y un ser humano en otras. El juez debe descubrir cuál es el ser humano y cuál es la máquina, estándoles a los dos permitido mentir al contestar por escrito las preguntas que el juez les hiciera. La tesis de Turing es que si ambos jugadores son suficientemente hábiles, el juez no podría distinguir quién era el ser humano y quién la máquina. Todavía ninguna máquina actual puede pasar este examen. Lo peliagudo del tema es que una maquina programada para hablar chino (o un hombre ejecutando el papel de una “maquina de Turing chinoparlante”) podría pasar el test de Turing ante un “juez externo” puesto que partimos del supuesto de que no hay nada que distinga a este dispositivo (desde el punto de vista de un observador) de un auténtico entendedor del chino. Pero en realidad el sistema no “comprendería” chino.
Relación entre las ideas defendidas en el texto y la corriente intelectual y época a que pertenece
Además de la crítica contra la I.A. fuerte presentada en la “habitación china”, podemos destacar otra crítica que desde un terreno totalmente diferente llega a las mismas conclusiones. El matemático Roger Penrose en su libro “La nueva Mente del Emperador” utiliza el apoyo de la física cuántica (aunque un poco abstrusamente, todo hay que decirlo) para argumentar al igual que Searle que los seres humanos tenemos procesos mentales que no son (ni serán, y este es un matiz importante) computables.
En definitiva se trata de dos duros golpes a lo que fue el paradigma de la ciencia cognitiva durante 20 años (el filósofo Jerry Fodor lo califico de “el único juego de la ciudad”): que el pensamiento es una manipulación de símbolos que sigue unas reglas formales.
Pero la Ciencia Cognitiva encajo bien los golpes y se dispuso a emprender la tarea de recomponerse, llegaba “un nuevo juego a la ciudad” (que en realidad no era tan nuevo, pero había permanecido oculto) y se adoptaba una nueva estrategia para explicar la inteligencia, un nuevo “conexionismo”: el procesamiento “en paralelo” de la información, ofrecía la posibilidad de que diferentes clases de actividades mentales percepción, lenguaje, memoria, resolución de problemas, poseen modos representativos, reglas de transformación y procesamiento de las representaciones que les son propios, formando subsistemas relativamente encapsulados (algo así como las muñecas rusas) e interconectados. Los avances en neurofisiología parecen apoyar estas aproximaciones conexionistas de la conciencia, y en mi opinión la neurociencia cognitiva sí que constituye hoy por hoy un auténtico paso de gigante para la consecución de lo que ha sido un sueño de la psicología durante décadas: el estudio científico de la mente.
Discusión
Actualidad del tema tratado y validez de sus ideas
La verdad es que los sueños y esperanzas de la I.A. fuerte eran demasiado optimistas y aún estamos muy lejos de construir máquinas como los replicantes de “Blade Runner” el psicópata ordenador Hall 9000 o el simpático robot R2D2 ¿Podrán las máquinas algún día “pensar”? quizá no sea esa una pregunta realmente significativa ¿Nos ayudan a entender cómo funciona nuestra mente? Esa sí que es una buena cuestión.
Para terminar no me resisto a transcribir un fragmento de la que a mi juicio constituye la más divertida réplica al argumento de “la habitación china” de que las máquinas no serán nunca capaces de pensar. Se trata de una historieta del escritor Terry Bisson y la he tomado del libro del psicólogo cognitivo Steven Pinker “Cómo funciona la mente”:
“- Son de carne.
- ¿De carne?
- No nos cabe la menor duda. Tomamos a varios de diferentes partes del planeta, los llevamos a bordo, los colocamos en las capsulas de reconocimiento, los investigamos y analizamos a fondo, y son todos de carne.
- Es imposible. ¿Y las señales de radio, los mensajes enviados a las estrellas?
- Utilizan las ondas de radio para hablar, pero las señales no las emiten ellos sino máquinas.
- Entonces, ¿quién construye las máquinas? Es con ese alguien con quien queremos establecer contacto
- Ellos mismos construyen las máquinas, es lo que intento decir: la carne construye las máquinas (…)
- Entonces ¿qué elabora el pensamiento?
- ¿No me entiende? El cerebro produce el pensamiento. Es la carne.
- ¡Carne pensante! ¿Me pide que crea que son carne que piensa?
- ¡Sí, carne que piensa, carne consciente, carne que ama, que sueña. ¡Todo es carne! ¿Se hace ya una idea?”
De forma algo intuitiva podemos decir que un algoritmo es un sistema por el cual se llega a una o varias soluciones, teniendo en cuenta que debe ser definido, finito y eficiente. Por eficiente entendemos que cada paso a seguir tiene un orden; finito implica que tiene un determinado número de pasos, o sea, que tiene un fin; y definido, que si se sigue el mismo proceso más de una vez llegaremos al mismo resultado.