Los agentes inteligentes necesitan alguna forma de comparar resultados para basar sus decisiones. Es decir saber de forma numérica «lo útil» que es cada decisión. Es algo complicado. Muchas veces podemos estar tentados en tomar atajos. Uno de los más habituales es usar el valor económico como media de este valor. Sin embargo los seres humanos tienen un relación curiosa con el dinero.

¿Por qué es importante el dinero para la I.A.?

El dinero es importante para la I.A. por el sencillo motivo de que es importante para los humanos. Si necesitamos que los agentes inteligentes interaccionen con nosotros han de tener en cuenta nuestras peculiaridades.

También resulta curioso comparar como actuamos con el dinero. El dinero actúa como una función de utilidad para nosotros y al ser tan fácilmente interpretable (es un simple valor numérico) podemos comparar como actuamos respecto a cómo esperaríamos que actúe una inteligencia artificial.

¿Eso quiere decir que algo falla en nosotros o en los agentes? No, simplemente quiere decir que hemos llegado por caminos distintos y valoramos el dinero de forma diferente. Para los agentes es simplemente un número que usar como función de utilidad, mejor cuánto mayor sea el número. Para nosotros todo es más complicado. El dinero es una mezcla de algo natural y conocido como es el acumular bienes materiales con algo nuevo y desconocido que es el valorar algo abstracto e inmaterial como es el dinero.

Los humanos entendemos que acumular bienes es beneficioso, pero en la naturaleza la mayoría de los bienes importantes no son acumulables más allá de cierto punto. La comida se estropea y tener cien lanzas en lugar de dos o tres solo te supone una carga. De hecho repartir las cosas que te sobra entre tus amigos y familia puede ser una buena inversión ya que te conseguirá su simpatía y cierto estatus social y quién sabe si en un futuro necesitarás un favor y te lo podrán devolver. Además ayuda al grupo y estar en un grupo fuerte también es beneficioso. Al final compartir puede resultar la mejor forma de usar los bienes y el reconocimiento del grupo más valioso a largo plazo que los bienes.

Sin embargo. El dinero puede acumularse sin límites, sin suponer una carga o que se eche a perder con el tiempo (se devalúa pero no es comparable). El dinero permite mejorar nuestra calidad de vida y nos proporciona seguridad para el futuro. Pero esta claro que no sabemos muy bien como valorarlo de forma intuitiva lo que da resultado a comportamientos contradictorios.

El valor del dinero y la justicia

El valor del dinero es relativo, depende de lo que tengas, de lo que tengan los que te rodean o incluso tus esperanzas de beneficio. De primeras todos podemos pensar que si sales ganando dinero has ganado. De hecho las matemáticas nos apoyan. Ganar dinero es mejor que no ganarlo y desde luego mucho mejor que perderlo desde la teoría de juegos está claro. Sin embargo para el ser humano no es tan simple.

Hay un juego llamado «ultimátum», sus reglas son sencillas: Hay dos jugadores, a uno se le da una cantidad de dinero, supongamos 100€, su función es decidir cómo repartirlo, cuánto se queda el y cuánto el otro jugador. El otro jugador solo tiene una función, decir si acepta o no el trato. Si lo acepta ambos se quedan con su parte del dinero, si no lo acepta los dos pierden su dinero. Lo lógico sería aceptar cualquier trato cuyo valor sea mayor que 0. Algo siempre es mejor opción que nada. Pero los humanos no somos tan simples y tendemos a rechazar repartos que no sean lo suficientemente «justos», parece que podemos asumir cierta cantidad de injusticia a cambio de un beneficio pero «sin pasarse». Es decir mucha gente estaria dispuesta a aceptar un reparto 60-40 pero muy poca un reparto 90-10.

Para entenderlo vamos a comparar dos casos, supongamos que alguien te regala 10€, estarás agradecido. Ahora estás jugando al juego del ultimátum y te ofrecen 10€. El valor intrínseco del dinero es el mismo. Pero nuestra forma de valorarlo no. La injusticia del reparto hace que el dinero pierda valor, tanto como para llegar a rechazarlo. Ojo que al actuar así nos aseguramos que el reparto se acerque a lo justo. Incluso en el juego del dictador, una versión en la que el segundo jugador no puede decir que no, el reparto se aleja más de lo que sería justo pero no llega a los 0€ que sería lo óptimo en este caso. Esta claro que valoramos algo más que el simple beneficio económico

Se suele decir que «todos tenemos un precio», no estoy seguro si todos lo tenemos, pero algunos desde luego. Si el ultimátum se jugará con millones de euros estoy seguro que mucha gente se trataría su orgullo y aceptaría un reparto de 99 millones a 1 millón aunque fuera injusto.

Valor del dinero en el entorno social

Hay estudios que demuestran que la gente esta más o menos satisfecha con su salario o su bienes en relación a lo que tengan la gente que le rodea. Es decir valoras el dinero como indicador de estatus social. Y aprovechándose de eso muchos productos caros se publicitan como indicadores de estatus social. Se venden como si fueran la cola de un pavo real.

Mucha gente paga más de lo que corresponde en la relación beneficio/costo solo por aparentar. Comprarse un producto caro que no va a aprovechar. Se podría discutir que se compensa por el incremento de estatus social. También se podría cuestionar lo beneficioso que es entrar en esas dinámicas absurdas donde el único beneficio real lo saca el vendedor.

El hecho que haya gente que por aparentar se endeude quiere decir que valoramos el reconocimiento social como una valor en si mismo

Valor del dinero y necesidad

Para hacer un algoritmo que valore lo beneficiosa económicamente que es una acción podemos usar cálculos como la esperanza que son independientes de tu situación, solo dependen del beneficio que se pueda esperar.

En los humanos el valor que damos al dinero depende de la necesidad que tengamos de él. A mayor necesidad mayor valor le damos al dinero, sobre todo si es inmediato. De ello viven esas empresas que dan créditos rápidos a intereses altos. Cuando necesitamos dinero no valoramos correctamente los costes de obtenerlo. De hecho cuando la deuda alcanza un nivel que es imposible de pagar mucha gente opta por adoptar el punto de vista «de perdidos al río» tomando decisiones arriesgadas que pueden hacer que la deuda crezca ¿Pero que más da si ya no podemos pagarla?

Cuando tienes mucho dinero también resulta difícil evaluar el riego y eso hace que mucha gente acabe perdiendo su fortuna. Se da en muchos casos de gente que le ha tocado mucho dinero en la lotería que lo gestiona mal y lo pierde en la llamada maldición de la lotería. Posiblemente debida a que según vas acumulando cosas la felicidad que obtienes de ello disminuye muy rápidamente y acabas gastando más de lo debido. Parece que el acumular cosas por encima de un limite no produce más felicidad.

¿Ocurre solo con el dinero?

Realmente no, ocurre con cualquier cosa que tenga valor para nosotros. Estudios con primates han demostrado comportamientos parecidos con frutas o juguetes. Parece ser que valoramos más cosas que el simple beneficio material de nuestras acciones. Que la justicia, el reconocimiento o el grupo social nos interesa más de lo que consciente mente percibimos.

Cualquier inteligencia, artificial o no, que quiera vivir en la sociedad humana ha de tener en cuenta estos valores o no logrará predecir nuestro comportamiento. Como ejemplo, el caso de un colegio que cansado de que los padres llegaran tarde a buscar a los hijos decidió multarlos. Resultado, los padres empezaron a llegar aun más tarde. Al pagar por ello dejaron de sentirse tan culpables por llegar tarde, el coste social fue reemplazado por el económico

Todos hemos oído hablar del test de Turing u otras pruebas para medir la inteligencia de los agentes inteligentes. La habitación china plantea un escenario que reta la validez de estos test. Voy a explicarla de una manera diferente a la habitual pero que creo que es más sencilla de entender. Una habitación china es una caja donde metes un texto y obtienes una respuesta coherente. Podrida ser un chatbot que superase el test de Turing. Le introduces preguntas y obtienes una respuesta coherente. El comportamiento visto desde fuera es inteligente. ¿Pero realmente lo es? ¿Cómo distinguimos algo que actúa como si fuera inteligente de algo que es inteligente?. (Vamos a dejar de lado que muchas veces solo consideramos inteligentes comportamientos humanos)

Supongamos una inteligencia artificial que funciona de forma similar a la habitación china, pero que en lugar de responder preguntas juega a las damas o al ajedrez. Parar ello no tiene un complicado algoritmo para deducir el siguiente movimiento, tiene una base de datos con todos los posibles movimientos y sus posible respuestas. Para juegos como el ajedrez o el go eso es imposible pero es posible para juegos mucho mas sencillos como el tres en raya, el conecta 4 o incluso algunas versiones dé las damas. Esta IA solo busca la posición actual en su base de datos y nos responde con el mejor movimiento. Desde fuera nos parecerá un jugador realmente bueno y lo clasificaríamos como inteligente, sin embargo no actúa de forma mucho más inteligente que cualquier otra búsqueda en un base de datos.

Si habéis visto análisis de partidas de ajedrez o de go donde alguno de los jugadores es una I.A. veréis que los comentaristas hablan de «estrategia», como los movimientos que se han realizado en momentos anteriores de la partida le han permitido colocar sus fichas en la posición para ganar la partida o tomar ventaja al rival o «asestar un golpe al tablero». El problema es que las maquinas no tienen estrategia de ningún tipo, o al menos no nuestra idea de «tener una estrategia» estos algoritmos en su mayor parte ven el tablero cada vez de manera independiente a las anteriores. Es decir cada vez que tiene que decidir parten de cero, observan el tablero, deciden el mejor movimiento y excepto por datos que se almacenen para no volver calcularlos olvidan todo para su próximo movimiento. Para estas I.A. la partida como tal no existe, una partida es una sucesión de tableros para los que deciden cual es el mejor movimiento sin pensar en los anteriores tableros ni en los siguientes. Lo mismo les daría llegar a mitad de una partida. Esta forma de jugar es inconcebible para un humano, nosotros desarrollamos estrategias e intentamos llevarlas acabo. La I.A. parte del tablero actual, simula posibles movimientos, valora posiciones y elige aquel que piensa que le da más probabilidades de ganar y olvida todo eso en el siguiente movimiento.

Ahora mismo tenemos algoritmos que serian capaces de trazar un plan y que la I.A. elija sus movimientos para cumplir ese plan. Esa forma de actuar Seria más  apreciada a la forma de los humanos e crear una estrategia, sin embargo no se usan para este tipo de juegos porque no dan tan buen resultado.

¿No podria pasar lo mismo con la inteligencia de lo que nos pasa con estrategia? ¿Qué algo nos parezca inteligente pero no es nada más que una interpretación que hacemos nosotros de forma engañosa? Y volvemos a la habitación china y a su maquina que no piensa, solo busca respuestas de una enorme base de conocimientos. Que actúa de forma que parece (o es) inteligente.

¿Cuál es la definición de inteligencia? Pues sorprendentemente (o no) no existe un única definición, no se tiene muy claro ni el alcance de lo que es inteligencia. La inteligencia parece recoger diferentes fenómenos y capacidades. Gente que decimos que es inteligente: si entiendes textos complicados, si resuelves problemas matemáticos complejos, si eres bueno en algún aspecto técnico, si eres de respuesta rápida, si tiene una lenguaje muy rico, si tienes bastos conocimientos…. hay ejemplos para aburrir. Nos resulta fácil decir que es inteligente, pero no definirlo.

Incluso a nivel humano cuesta, por ejemplo el cubo de Rubik. La primera vez que te dan un cubo de Rubik y tratas de resolverlo te sorprende que haya gente que sea capaz de resolverlo, tienen que ser tremendamente inteligentes. Cuando investigas un poco, ves que hay técnicas para resolverlo y que en muchos casos es más un asunto de memoria y habilidad. De repente algo que nos parecía sin duda inteligente ha perdido parte de «inteligencia». Sin embargo parte de ser un gran jugador de muchos juegos necesitas aprender de memoria gran cantidad de movimientos y posiciones para no tener que pensarlos de cero cada partida.

 Si vemos la inteligencia más como un fenómeno, un resultado de las acciones, cualquier cosa que parezca inteligente sería inteligente. Daría igual que supiéramos resolver cubos de Rubik gracias a nuestro razonamiento o a nuestra memoria. En ese caso el test de Turing volvería a ser válido. Es decir la habitación china nos obliga a plantearnos si vamos considerar inteligente todo lo que se comporta de forma inteligente o si vamos a más requisitos. teniendo en cuenta que ni siquiera estamos seguros de nuestra inteligencia o nuestro libre albedrío yo no seria muy exigente.

También podría titularse «Porqué no paran de anunciar nuevos logros en I.A. pero a mí me siguen pareciendo igual de tontas». Pese a que cada poco tenemos una noticia de algún avance increíble y coletillas de lo cerca que está la singularidad. Actualmente ninguna I.A. sería capaz de sobrevivir a cosas como «levantarse e ir a trabajar». Si, nos ganan al ajedrez, al go, nos apalizan a las damas o nos hunden jugando a videojuegos. Cosas que a nosotros nos cuestan sudor y lágrimas las máquinas las realizan en milésimas de segundo. El problema es que estamos infravalorándonos y no sabemos apreciar la cantidad de cosas dificilísimas que hacemos sin darnos cuenta y sin coste aparente. No penséis que esto es nuevo, tiene nombre, la paradoja de Moravec .

Hay que tener en cuenta que todas esas cosas que nos parecen tan complicadas como derrotar a maestros del ajedrez realmente no lo son tanto. Es solo que nuestro cerebro no ha evolucionado para jugar al ajedrez. Pero sí que ha evolucionado para reconocer objetos, mantener conversaciones, trazar planes y montón de cosas que hacemos sin esfuerzo y por eso no lo sabemos valorar. Sin embargo los ordenadores se crearon para agilizar los cálculos y son buenos en ello. Es sorprendente lo lejos que han llegado siendo tan relativamente simples. La I.A. es un logro de las matemáticas más la capacidad de cálculo alcanzada por el hardware.

En los comienzos de la inteligencia artificial se subestiman los costes de simular a los humanos. En unas pocas décadas se iba a lograr crear máquinas inteligentes, apenas unos pocos años en crear máquinas que mantuvieran conversaciones y superarían el test de Turing y el problema de la visión por computador en un verano estaría resuelto. La realidad resultó más dura de lo esperado y con el paso de los años nos hemos dado cuenta de que realizamos con facilidad tareas que realmente son tan complicadas que no sabemos ni como definirlas. ¿Cómo explicamos la capacidad humana de reconocer objetos y poder integrarlos en un contexto? La visión por computador sufre para separar los objetos de una imagen y reconocerlos todos y nosotros reconocemos las cosas con un vistazo incluso si están parcialmente ocultas y no solo eso, integramos toda la información para hacernos una idea del entorno.

Imaginad que dejamos a una máquina en una ciudad que no conoce de un país en el que nunca ha estado y donde hablan un idioma que no entiende. Su única ayuda es un mapa no muy exacto y una guía de viajes no demasiado extensa. Su misión es llegar al hotel y organizar un plan para visitar la ciudad en unos pocos días, sin olvidar lograr comer y dormir todos los días. ninguna inteligencia artificial esta ni cerca de lograr hacer eso, pero nosotros lo llamamos «vacaciones».

Además no hay que olvidar que en el caso de la I.A. la fuerza bruta sigue teniendo mucho que ver. Para que una red neuronal reconozca objetos necesita entrenar con miles de ejemplos de lo que queremos que reconozca y de lo que no. Para que gane a cualquier juego necesita muchos miles de partidas. Aunque nuestra capacidad de aprendizaje llega mucho menos lejos que las de la I.A. nuestra capacidad de aprender es muy superior necesitamos menos ejemplos y nuestro aprendizaje es más flexible.

En resumen, aunque nos parezca que la I.A. hace cosas increíbles es solo porque no sabemos valorar correctamente lo que nuestro cerebro hace con engañosa facilidad. Aun estamos lejos de darle a la I.A. esas capacidades. Quizás el problema no es que no sepamos valorar los avances realizados en I.A., asombrosos sin duda alguna, si no que no sabemos valorar nuestras capacidades naturales de lo acostumbrado que estamos a ellas.