かならずよんで ね！

パスがマーヴィンを論評する

Great poet Octavio Paz criticises Marvin Minsky's The Society of Mind (1985)

池田光穂

★オクタビオ・パス『二重の炎』井上義一・木村榮一訳、岩波書店、1997年は、純然たるエ ロス論であり、インド思想論でもあるのだが、第8章「結論に向けての回り道」で、マービン・ミンスキー『心の社会』を皮切りに、アーサー・C・クラーク、 ジェラルド・エーデルマン、オリバー・サックスなど、脳神経科学を論じた議論に突然変調する。このページは、そのうち、マービン・ミンスキーとジェラルド・エーデルマンに関する言及の、スペイン語オリジナルテキストを研究する。

En el libro de Mervin Minsky, The Society of Mind (1985), el autor no nos ofrece la divinización de una civilización extraterrestre sino la del ingeniero electrónico. Minsky es una de las autoridades en «inteligencia artificial» y está convencido de que no sólo es factible sino inminente la fabricación de máquinas pensantes. Su libro parte de una analogía; lo que llamamos mente es un conjunto de partes diminutas como las partículas elementales que componen al átomo: electrones, protones, elusivos quarks. Las fuerzas que mueven a las partes que componen la mente no son ni pueden ser diferentes a las que juntan, separan y hacen girar a las partículas atómicas. La analogía más perfecta entre unas y otras es el circuito de llamadas y respuestas en que consiste la operación de una computadora. A mí se me ocurre otra analogía: las pequeñas partes recuerdan a las piezas de un rompecabezas; aisladamente no tienen forma identificable pero unidas con otras se transforman en una mano, una hoja de árbol, una tela, hasta que, todas juntas, cobran figura y sentido: son una joven que se pasea con su perro por una arboleda. Las partes que componen la mente son movibles y, como las piezas del rompecabezas, no saben por qué o para qué se mueven ni quién las mueve. No piensan, aunque son partes, y partes indispensables, del pensamiento. Aquí brota una diferencia que deshace la simetría: las piezas del rompecabezas están movidas por una mano que sí sabe lo que hace y para qué lo hace. Una intención inspira a la mano y a la cabeza del jugador. En el caso de la mente no hay jugador: el yo desaparece. La máquina no piensa pero hace al pensamiento sin que nadie la guíe.
 【a】【邦訳 p.222】
Un punto que Minsky omite: la relación entre la mente, concebida como un aparato, y el mundo exterior. Para que la mente humana comience a funcionar —en la práctica funciona las veinticuatro horas del día, sin excluir las dedicadas al sueño— necesita recibir un estímulo exterior. El número de esos estímulos exteriores es prácticamente infinito, de modo que la máquina, para escoger aquello que le interesa, debe estar provista de un selector de objetos o temas pensables que sea el equivalente de lo que llamamos sensibilidad, atención y voluntad. Estas facultades no son puramente racionales y están impregnadas de afectividad. Así pues, la máquina tendría que ser, además de inteligente, sensible. En realidad, tendría que convertirse en el exacto duplicado de nuestras facultades: voluntad, imaginación, entendimiento, memoria, etc. Entraríamos así en las fantasías repulsivas de mundos habitados por criaturas idénticas. Por otra parte, incluso si la máquina pensante fuese el duplicado de la mente humana, habría de todos modos una diferencia que no vacilo en llamar inmensa: la mente humana no sabe que es realmente una máquina ni tiene conciencia de serlo; la mente cree en una ilusión: su yo, su conciencia. En el caso de una máquina fabricada por un ingeniero, ¿qué clase de conciencia podría tener? Ante un estímulo dado, la máquina pensante comienza esa serie de operaciones que llamamos sentir, percibir, observar, medir, escoger, combinar, desechar, probar, decidir, etc. Estas operaciones son de orden material y consisten en sucesivas uniones y separaciones, yuxtaposiciones y divisiones de las partes que componen la máquina hasta que aparece un resultado: una idea, un concepto. Platón, Aristóteles, Kant y Hegel se esforzaron por definir lo que es una idea y un concepto, sin lograrlo enteramente. La máquina resuelve el problema: es un momento de una cadena de operaciones materiales realizadas por partículas diminutas y movidas por una corriente eléctrica.
 【b】
¿Quién realiza las operaciones que son el pensamiento de la máquina? Nadie. Para los budistas el yo es una construcción mental sin existencia propia, una quimera. Suprimirlo es suprimir la fuente del error, del deseo y la desdicha, liberarse del fardo del pasado (karma) y entrar en lo incondicionado: la liberación absoluta (nirvana). La máquina pensante de Minsky no tiene preocupaciones morales ni religiosas: elimina el yo por ser innecesario. Pero ¿es realmente innecesario? ¿Podemos vivir sin el yo? Para los budistas, la extinción del yo implica la extinción de la ilusión que llamamos vida y nos abre las puertas del nirvana. Para Minsky la supresión del yo no tiene consecuencias morales sino científicas y técnicas. Por lo primero, nos hace comprender el funcionamiento de la mente; por lo segundo, nos permitirá fabricar máquinas pensantes más y más simples y perfectas. Hay que examinar más de cerca esta pretensión.
 【c】
Desde que el hombre comenzó a pensar, es decir, desde que comenzó a ser hombre, un silencioso testigo lo mira pensar, gozar, sufrir y, en una palabra, vivir: su conciencia. ¿Qué realidad tiene la conciencia, ese darnos cuenta de lo que hacemos y pensamos? La idea que tiene Minsky de la conciencia puede compararse a la de la imagen en un espejo. La comparación es útil pues nos permite ver con cierta claridad la diferencia entre una máquina y una conciencia. Si nos miramos en un espejo, la imagen que vemos nos remite a nuestro cuerpo; la conciencia, que no tiene figura visible, no nos remite a un yo (reputado ilusorio por Minsky) pero tampoco, como podría esperarse, al objeto que la origina: el circuito de relaciones entre las diminutas partículas. Si la conciencia es la proyección de un mecanismo, ¿por qué esa proyección y el mecanismo mismo se evaporan y se vuelven invisibles? O dicho de otra manera: si me miro en un espejo, veo mi imagen; si pienso que estoy pensando, esto es, si me doy cuenta de lo que hago, no miro ni miraré nunca mis pensamientos. Pensamos y al pensar nos damos cuenta de que pensamos; no obstante, no vemos lo que pensamos; entonces ¿cómo las descargas eléctricas que provocan los movimientos de las distintas partes que componen la mente, en lugar de transformarse en figuras visibles o audibles, se convierten en pensamientos invisibles y que no ocupan lugar en el espacio? Eliot dijo: entre el pensamiento y el acto, cae la sombra. En este caso, la sombra se evapora: el pensamiento tiene cuerpo pero no sombra: es una máquina que vuelve invisible aquello que produce. Es una anomalía, una verdadera singularidad, en el sentido que da Hawking al término. La máquina pensante de Minsky se presenta como un modelo más simple, económico y eficiente de lo que llamamos mente o espíritu. La verdad es que introduce un misterio no menos arduo que la inmaterialidad del alma o que la transubstanciación del pan y el vino en la Eucaristía. Su máquina es milagrosa y estúpida: milagrosa porque produce, con medios materiales, pensamientos invisibles e incorpóreos; estúpida porque no sabe que los piensa.
 【d】
Descartes fue el primero, según parece, al que se le ocurrió la idea de ver la mente como una máquina. Pero una máquina dirigida por un espíritu. El siglo XVIII concibió al universo como un reloj manejado por un relojero omnisciente: Dios. La idea de una máquina que marcha por sí misma, que nadie maneja y que puede acrecentar, atenuar y cambiar de dirección la corriente que la mueve, es una idea del siglo XX. Aunque esta idea, como se ha visto, es contradictoria, no podemos descartarla del todo. Es un hecho que podemos fabricar máquinas capaces de realizar ciertas operaciones mentales: las computadoras. Aunque no hemos fabricado máquinas que puedan regularse a sí mismas, los especialistas dicen que no es enteramente imposible que lo logremos pronto. La cuestión es saber hasta dónde puede llegar la inteligencia de esas máquinas y cuáles pueden ser los límites de su autonomía. Lo primero quiere decir: ¿la inteligencia humana puede fabricar objetos más inteligentes que ella misma? Si atendemos a la lógica, la respuesta es negativa: para que la inteligencia humana crease inteligencias más inteligentes que ella misma, tendría que ser más inteligente que ella misma. Se trata de una imposibilidad a un tiempo lógica y ontológica. En cuanto a lo segundo: los hombres están movidos por sus deseos, ambiciones y proyectos pero limitados por el poder real de su inteligencia y de los medios de que dispone: ¿cuáles podrían ser las ambiciones y los deseos de las máquinas pensantes? No podrían ser sino aquellos inscritos desde su fabricación por su fabricante: el hombre. La autonomía de las máquinas depende, esencialmente, del hombre. Es una autonomía condicionada, quiero decir: no es una verdadera autonomía.
 【e】【邦訳 p.227】
【付録】エーデルマンに対する論評
Aunque tengo mis reservas acerca de la moderna concepción biológica de la mente, me parece más rica y fecunda que las teorías mecanicistas. Estas últimas ven en las computadoras un modelo para comprenderla y el punto de partida para la fabricación de inteligencias artificiales; en cambio, la concepción biológica tiene bases más firmes pues se funda en la observación del organismo humano, ese extraño y complejo compuesto de sensaciones, percepciones, voliciones, sentimientos, pensamientos y actos. Una teoría de esta naturaleza es la de Gerald M. Edelman, que acaba de publicar un libro que es una fascinante exposición de sus hallazgos y de sus hipótesis.[37] No sólo es un tratado de neurobiología de la mente sino que abarca otros temas, como la aparición de la conciencia en el curso de la evolución y las relaciones de la ciencia biológica con la física y la cosmología. Para Edelman la mente es un producto de la evolución y, así, tiene una historia que es la de la materia misma, de las partículas atómicas a las células y de éstas al pensamiento y sus creaciones. Se trata de una característica que la especie humana comparte, en sus formas más rudimentarias, con los mamíferos, muchas aves y algunos reptiles.
 【aa】【邦訳 p.230】
La existencia de materia inteligente en la tierra es, según Edelman, un fenómeno único en el universo. (En esto se aparta de Crick). Una autoridad en estos asuntos, el neurólogo Oliver Sacks, ha comentado en estos términos el libro de Edelman: «Leemos excitados las últimas teorías sobre la mente —químicas, cuánticas o “computacionales”— y después nos preguntamos: ¿eso es todo?… Si queremos tener una teoría de la mente tal y como opera realmente en los seres vivientes, tiene que ser radicalmente distinta a cualquier teoría inspirada en la computadora. Tiene que fundarse en el sistema nervioso, en la vida interior de la criatura viva, en el funcionamiento de sus sensaciones e intenciones… en su percepción de los objetos, gente y situaciones… en la habilidad de las criaturas superiores para pensar abstracciones y compartir, a través del lenguaje y la cultura, la conciencia de otros». [38] O sea: el modelo debe ser el hombre mismo, ese animal que piensa, habla, inventa y vive en sociedades (cultura). Comentaré brevemente algunas de las ideas de Edelman. Como las anteriores, claro está, mis reflexiones no serán de orden científico.
 【bb】
La primera ventaja de la nueva teoría es que desecha la analogía con las computadoras y se resiste al simplismo de las explicaciones meramente físicoquímicas. Otra ventaja es su realismo: la mente debe estudiarse precisamente en su medio propio, el organismo humano, como un momento de la evolución natural. Cierto, la teoría es aún incompleta —hay vastos territorios inexplorados— y muchas de sus hipótesis carecen de verificación empírica. Estas limitaciones no invalidan su fecundidad: es una hipótesis que nos hace pensar. Edelman comienza por el comienzo, por la sensación en su forma más simple, que llama feelings: frío o calor, desahogo o estrechez, lo dulce o lo amargo, etc. Las sensaciones implican una valoración: esto es desagradable, aquello es placentero, lo de más allá es áspero y así sucesivamente hasta lo más complejo, como la pena que es también alegría o el placer que es dolor. Las sensaciones son percepciones embrionarias, pues, ¿sentiríamos si no nos diésemos cuenta de que sentimos? A su vez, la percepción es concepción; al percibir la realidad le imponemos inmediatamente una forma a nuestra percepción, la construimos: «Cada percepción es un acto de creación».
 【cc】
La idea del carácter creador de la percepción, comenta Sacks, aparece ya en Emerson. La verdad es que su origen se remonta a la filosofía griega y era corriente en la psicología medieval y renacentista. Corresponde a la teoría, vigente hasta el siglo XVII, sobre la función de los llamados «sentidos interiores»: el sentido común, la estimativa, la imaginativa, la memoria y la fantasía, encargados de recoger y purificar los datos de los cinco sentidos exteriores y transmitirlos, como formas inteligibles, al alma racional. La imagen o forma que recibe el entendimiento no es el dato crudo de los sentidos. En la tradición budista también aparecen estas divisiones, en un orden ligeramente distinto: sensación, percepción, imaginación y entendimiento. Cada una de estas divisiones designa un momento de un proceso que convierte a los datos y estímulos exteriores en impresiones, ideas y conceptos; en la sensación está ya presente la percepción que transmite esos datos a la imaginación que los entrega, como formas, al entendimiento que, por su parte, los transforma en intelecciones. El proceso creador de las operaciones mentales no es una idea nueva aunque sí lo sea la manera en que la neurología moderna describe y explica el proceso.
 【dd】
En cada uno de los momentos de esta complicada serie de operaciones — compuesta de millones de llamadas y respuestas en la red de relaciones neurológicas — aparece una intención. Aquello que sentimos y percibimos no es únicamente una sensación o una representación sino algo ya dotado de una dirección, un valor o una inminencia de significación. Como es sabido, la fenomenología de Edmund Husserl se funda en el concepto de intencionalidad. Husserl tomó esta idea, modificándola substancialmente, del filósofo austríaco Franz Brentano. En todas nuestras relaciones con el mundo objetivo —sensaciones, percepciones, imágenes— aparece un elemento sin el cual no hay ni conciencia del mundo ni conciencia de uno mismo: el objeto posee ya, en el momento mismo de aparecer en la conciencia, una dirección, una intención. Según Brentano el sujeto tiene invariablemente una relación intencional con el objeto que percibe; o más claramente: el objeto está incluido en la percepción del sujeto como intencionalidad. El objeto, cualquiera que sea, aparece indefectiblemente como algo deseable o temible o enigmático o útil o ya conocido, etc. Lo mismo sucede con las sensaciones y percepciones de Edelman: no son meras sensaciones ni representaciones: son ya, como él dice, valoraciones. Me parece que es fácil extraer una conclusión de todo esto: la noción de intencionalidad nos remite a un sujeto, sea éste la conciencia de Husserl o el circuito neurológico de Edelman. Sin embargo, Edelman se rehúsa a considerar la existencia de un sujeto al que puede atribuirse la intencionalidad con que aparece el objeto. No obstante su negación del sujeto, a Edelman le impresiona mucho «la unidad con que el mundo aparece ante el perceptor, a pesar de la multitud de maneras de percibirlo que emplea el sistema nervioso».[39] No le impresiona menos que «las teorías actuales de la mente no puedan explicar la existencia de un elemento que integre o unifique todas esas percepciones». Dilema peliagudo: por una parte, negación del sujeto; por la otra, necesidad de un sujeto. ¿Cómo lo resuelve Edelman?
 【ee】【邦訳 p.234】
Para hacer más comprensible su concepción, Edelman se sirve de una metáfora: la mente es una orquesta que ejecuta una obra sin director. Los músicos —las neuronas y los grupos de neuronas— están conectados y cada ejecutante responde a otro o lo interpela; así crean colectivamente una pieza musical. A diferencia de las orquestas de la vida real, la orquesta neurológica no toca una partitura ya escrita: improvisa sin cesar. En esas improvisaciones aparecen y reaparecen frases (experiencias) de otros momentos de ese concierto que ha comenzado en nuestra niñez y que terminará con nuestra muerte. Se me ocurren dos observaciones. La primera: en la hipótesis de Edelman, la iniciativa pasa del director de la orquesta a los ejecutantes. En el caso de la orquesta real, los ejecutantes son sujetos conscientes y con la intención de componer colectivamente una pieza: ¿esa conciencia y esa voluntad existen también en las neuronas? Si es así: ¿las neuronas se han puesto previamente de acuerdo? ¿O hay acaso un orden preestablecido que rige las llamadas y respuestas de las neuronas? En uno y en otro caso el director no desaparece: se disemina. El problema se desplaza pero no se resuelve. La segunda: la improvisación requiere siempre un plan. El ejemplo más inmediato es el del jazz y el de las ragas de la India: los músicos improvisan con cierta libertad pero dentro de un patrón y una estructura básica. Lo mismo sucede con las otras improvisaciones, sean musicales o de otra índole. Trátese de una batalla o de un diálogo de negocios, de un paseo por el bosque o de una discusión pública, seguimos un plan. Poco importa que ese plan haya sido trazado un minuto antes y que sea muy vago y esquemático: es un plan. Y todos los planes requieren un planificador. ¿Quién hace el plan de la orquesta neurológica?
 【ff】【邦訳 p.235】※オーケストラの比喩
Como se ha visto, a Edelman no se le escapa la dificultad de explicar el funcionamiento de las neuronas sin la presencia de un director de orquesta, sin un sujeto. Con cierta frecuencia se refiere al sentimiento de identidad, a un ser y a una conciencia. Estas palabras designan a construcciones de las neuronas. El circuito neurológico, conectado con todo nuestro cuerpo y compuesto por millones de neuronas (algunas son tribus nómadas, lo que me asombra y me deja perplejo), no sólo construye nuestro mundo con los ladrillos y piedras de las sensaciones, las percepciones y las intelecciones, sino que construye al sujeto mismo: a nuestro ser y a nuestra conciencia. Construcciones a un tiempo sólidas y evanescentes: nunca desaparecen pero cambian continuamente de forma. Continua metamorfosis de nuestra imagen del mundo y de nosotros mismos. Esta visión —pues se trata de una verdadera visión— recuerda a las concepciones budistas acerca de la naturaleza quimérica de la realidad y del sujeto humano. Para los budistas el yo tampoco tiene una existencia propia e independiente: es una construcción, una conglomeración de elementos mentales y sensoriales. Estos elementos o, más bien, racimos de elementos, son cinco en total (skhandas en sánscrito o khandas en pali). Los elementos componen al sujeto y a su conciencia; son el producto de nuestro karma, la suma de nuestros errores y pecados en vidas pasadas y en la presente. Por la meditación y por otros medios podemos destruir la ignorancia y el deseo, liberarnos del yo y entrar en lo incondicional, un estado indefinible que no es su vida ni muerte y del que no se puede decir absolutamente nada (nirvana).
 【gg】【邦訳 p.236】
El parecido entre estas concepciones y las de la neurología es extraordinario. También son notables las diferencias. El constructor del yo, para el budista, es el karma: para Edelman, el sistema nervioso. El budista debe destruir al yo si quiere escapar de la desdicha que es nacer y romper el lazo que lo ata a la rueda de las encarnaciones. Para Edelman el yo y la conciencia son construcciones indestructibles, salvo por un trastorno del circuito neurológico (enfermedad o muerte). El yo es una construcción y depende de la interacción de las neuronas. Es un artificio necesario e indispensable: sin él no podríamos vivir. Aquí aparece la gran cuestión: el día en que el hombre descubra que su conciencia y su ser mismo no son sino construcciones, artificios, ¿podrá seguir viviendo como hasta ahora? Parece imposible. En cuanto la conciencia se diese cuenta de que es una construcción del sistema nervioso y de que su funcionamiento depende de las neuronas, perdería su eficacia y dejaría de ser conciencia. La concepción de la conciencia como una construcción de las neuronas afecta no sólo al organismo individual, a cada hombre, sino a la colectividad entera. Nuestras instituciones, leyes, ideas, artes y, en fin, nuestra civilización entera, está fundada en la noción de una persona humana dotada de libertad. ¿Se puede fundar una civilización sobre una construcción neurológica?
 【hh】【邦訳 p.237】
Para el budista la liberación comienza en el momento en que el individuo rompe la costra de la ignorancia y se da cuenta de su situación. Este darse cuenta es la consecuencia de un acto libre: el yo, la conciencia, decide su disolución para escapar del ciclo vida-muerte-vida… La libertad exige, como la orquesta neurológica, un sujeto, un yo. Sin yo, no hay libertad de decisión; sin libertad —dentro de los límites que he señalado— no hay persona humana. La actitud de Edelman ante esta cuestión es muy matizada. La mente no es, para él, sino «a special kind of process depending on special arrangements of matter». O sea: la materia de que está hecha la mente no es distinta al resto de la materia; lo que es único es su organización. De esta propiedad se deriva otra: cada mente es distinta y única. Cada organismo humano es una colección de experiencias subjetivas, sentimientos y sensaciones (qualia); este conjunto de experiencias, aunque comunicables hasta cierto punto por el lenguaje y por otros medios, constituye un dominio virtualmente inaccesible para las mentes ajenas.
 【ii】
La pluralidad de mentes, señala Edelman, impide una teoría enteramente científica; siempre habrá excepciones, variaciones y regiones desconocidas. Toda descripción científica de la mente está condenada a ser parcial; nuestro conocimiento será siempre aproximado. Esta verdad abarca también a nuestra vida interior: conocerse a sí mismo es, a un tiempo, una necesidad ineludible y un ideal inalcanzable. Así pues, «el problema no consiste en aceptar la existencia de almas individuales, pues es claro que cada individuo es único y que no es una máquina…». El problema consiste en «aceptar que las mentes individuales son mortales: ¿se puede fundar una moral sobre esta premisa?». A mí no me parece imposible y Edelman también parece creerlo, aunque se pregunta «¿cuál sería el resultado de aceptar que cada espíritu individual es realmente corpóreo y de que, precisamente por serlo, es mortal, precioso e impredecible en su creatividad?». En otro pasaje de su libro sugiere que «la nueva visión científica de la mente puede dar nueva vida a la filosofía, limpia ya de la fenomenología husserliana, ayuna de ciencia, y de las reducciones de las teorías mecanicistas».
 【jj】【邦訳 p.239】
Es imposible no estar de acuerdo con Edelman sobre estos puntos. Yo también creo que «la filosofía necesita una nueva orientación». Pero estas afirmaciones de Edelman contrastan extrañamente con muchas de sus ideas básicas. Más exactamente: las contradicen. Sacks señala que aún no podemos ver los grupos de neuronas ni dibujar los mapas de sus interacciones; tampoco podemos oír a la orquesta que sin cesar ejecuta sus improvisaciones en nuestro cerebro. De ahí que Edelman y sus colegas hayan concebido «animales sintéticos, artefactos que actúan por medio de computadoras pero cuya conducta (si se puede usar esta palabra) no está programada ni es robótica sino noética». (De paso: una palabra de estirpe husserliana). Edelman no duda de que, en un futuro no demasiado lejano, será perfectamente posible fabricar «artefactos conscientes». Y Sacks comenta: «Felizmente esto no ocurrirá sino hasta bien entrado el siglo próximo». ¿Felizmente? No podemos lavarnos las manos: es imposible aplazar la discusión de un tema de esta gravedad hasta el siglo próximo. Confieso mi asombro y mi decepción.
 【kk】【邦訳 p.240】



+++

Links

リンク

文献

その他の情報

Copyleft, CC, Mitzub'ixi Quq Chi'j, 1997-2099