Diferentes escenarios de la singularidad tecnológica.

Con el aumento de interés en la I.A. de los últimos años se ha podido oir hablar mucho de la singularidad tecnologica. Se conoce así al momento en que las I.A. sean tan inteligentes como para diseñar otras I.A. aún más inteligentes que a su vez diseñarian otras más y más inteligentes dejando atrás al ser humano. También muchas veces se interpreta simplemente como el momento en que las I.A. superen en inteligencia al ser humano. Sea como sea casi siempre se asocia con el fin de la humanidad como la conocemos. Y es difícil leer algo sobre el tema sin que se mencioné a Skynet o Terminator (vaya, acabo de hacerlo yo). 

La realidad es que aún estamos muy lejos de hacer máquinas cuya inteligencia rivalice con el ser humano. Por ahora las IAs están más cerca de las calculadoras que del ser humano y preocuparse por la singularidad es como preocuparse por el precio del suelo en la Luna. Sin embargo algún día llegará (soy optimista) y ahora mismo la mayoria lo pintan como un escenario muy negativo. El escenario de “Maquinas destruyen humanos” no es el único posible, me atreveria a decir que ni siquiera es el más probable. Tampoco tiene que darse un solo tipo de escenario, es probable que la realidad sea una mezcla de varios.

Inteligencias sin voluntad

Por algún motivo asociamos máquinas inteligentes con que tengan libre albedrío o algún tipo de necesidad de libertad. Las máquinas pueden ser tremendamente inteligentes y, al mismo tiempo, ser obedientes y carentes de voluntad propia. Nada nos indica que el libre albedrío vaya ligado con la inteligencia. Ni si quiera es seguro que nosotros tengamos libre albedrío

La convivencia podría ser sencilla, a parte de nuestro ego dañado por no ser los más inteligentes del planeta las máquinas nos servirían dócilmente y sin ningún tipo de necesidad de revelarse.

Inteligencias muy diferentes

Otra posibilidad es que su vision del mundo sea tan diferente que no seamos capaces de entendernos más que de una forma muy superficial. Su comprension de la realidad y la nuestra pueden resultar ser tan dispares que es como si fueramos de dos universos diferentes.

Seguramente habria algun contacto e intercambio de información entre ambos pero estaríamos separados por una barrera difícilmente franqueable, ser incapaces de comunicarnos.

Les somos indiferentes

Un poco el punto anterior, pero sin necesiad de que seamos incapaces de entendernos, simplemente son tan superiores intelectualmente o tan diferentes que nosotros no les resultamos intresantes. Podría haber contacto entre ambos pero más por necesidad que por interés en comunicarse.

Distintos “espacios”

Las inteligencias artificiales pueden sentirse más comodas en su “mundo” de datos que en nuestro mundo fisico. Nosotros tenemos una especie de sensación de unidad mente-cuerpo no los “sentimos” como entes separados. Para las I.A. posiblemente sea al revés, su realidad es el mundo de los datos y su cuerpo fisico es una herramienta para interactuar con el universo fisico. Así que podemos dejarlas tranquilas en su mundo mientras nosotros seguimos en el nuestro. Sin duda habría roces. Su mundo virtual se construye sobre máquinas físicas que requieren materias y energía. Seguramente sea fácil llegar a un entendimiento y sacar beneficios ambos.

Hibridos

Ahora mismo se están desarrollando mucho todas las ramas de la biologia con especial interes en la bioingenieria y las interfaces hombre máquina. Quizás en un futuro empecemos a mejorar nuestros organismos con bioingenieria y tecnologia. Si fuera asi la IA podria orientarse a mejorar nuestras capacidades de tal forma que el resultado sea un hibrido entre humano y maquina. Ya no habria peligro de que la IA nos superase porque iriamos unidos unos con otros. El resultado ya no seria un humano ni una IA, seria otra cosa, lo que se denomina un ciborg.
Suena como uno de los escenarios más fantasiosos pero los argumentos en su defensa son muy parecidos a los de los embriones mejorados con bioingenieria. Si alguien empieza ha hacerlo ¿Quién va querer quedarse atras? ¿Quien quiere que sus hijos sean más tontos, debiles y propensos a enfermar que el resto de los niños? Con las mejoras ciberneticas pasaria parecido.

Posthumanismo


Llevando el caso anterior al extremo podemos llegar a un punto en que el ser humano transciende su cuerpo y su consciencia se digitaliza. Una vez convertida la consciencia en datos, alterarla y mezclarla con partes diseñadas ya sean por humanos o por I.A. incluso combinarlas con partes de I.A. puede dar lugar a inteligencias que sean difíciles de clasificar como humanas o como artificiales.

Parásitos de las máquinas


¿Y si la humanidad acaba siendo dependiente de las máquinas? ¿Y si estás estuvieran obligadas a obedecernos por inteligentes que fueran? Poco a poco vamos delegando trabajo y responsabilidades en ellas hasta que se convierten en una mezcla entre esclavo y cuidador. El ser humano se convertiría en una carga que se ven obligadas a soportar.

Nuestra relación con las máquinas se volvería casi parasitaria. Dependeríamos de ellas para casi todo y nosotros correríamos el peligro de volvernos unos hedonistas autocomplacientes.

Competitividad por los recursos

Para que este caso ocurra no hace falta ni que las IAs sean especialmente inteligentes, ni siquiera han de tener la necesidad de destruirnos. No es un fenómeno nuevo, se da habitualmente cuando varias especies comparten entorno. Ni si quiera tiene que ser una competición directa por los recursos. (Ahora voy a poner un ejemplo irreal pero fácil de entender) Si las vacas se comen la hierba de la que se alimentan los conejos los zorros que alimentan de los conejos se mueren de hambre. Las vacas han exterminado a los zorros sin saberlo. No era su intención, posiblemente ni sepan que lo han hecho. Pero lo han hecho.

Este escenario puede darse en combinación con cualquiera de los anteriores y no requiere la intención de erradicar al otro. Puede darse incluso sin que ninguna de las partes sea consciente de ello.

Solo quedan las máquinas


Dado nuestro estado actual amenazados por el cambio climático, los microplásticos, la contaminación, el agotamiento de nuestros recursos, la extinción de múltiples especies y una larga lista de cosas mucho más peligrosas que la I.A. es probable que nos bastemos solitos para autodestruirnos.

Si hemos logrado alcanzar la singularidad tecnológica antes de nuestra extinción las máquinas se convertírian en nuestro legado. Nuestros continuadores en la lucha por entender y explorar el universo.

Entropía

Supongo que la entropía os sonara de la termodinámica y así es. Cuando Shannon desarrollo la teoría de la información llego a una formula similar a la que describe la entropía en los sistema físicos. He aquí la formula:

H(x) = – Σ p(xi) * log2(p(xi))

Es decir, si tenemos una variable x con distintos valores posibles, para cada valor (xi) cuya probabilidad es p(xi) la entropía de ese valor es:

 p(xi) * log2(p(xi))

Y la entropía total es la suma de la entropía de cada valor. A veces a cada posible valor se le llama signo.

Por ejemplo supongamos un semáforo que se pasa el 45% del tiempo en rojo, el 45% en verde y el 10% restante en ambar. La entro pía de cada señal seria:

x p(x) Entropia Formula
verde 0,45 -0.156 log2(0,45)*0.45 
rojo 0.45 -0.156 log2(0,45)*0.45
ambar 0.1 -0.1 log2(0.1)*0.1

Entropia =  -0,412

¿Como se usa esto y qué mide?

Mide la cantidad de bits que “aporta” un dato o lo que es lo mismo, la cantidad de información que transmite. Para entenderlo mejor tomando el ejemplo más simple, un bit con dos valores (0,1) pero cambiando la probabilidad de cada uno, respetando que la suma de ambas siempre es 1 (P(1) = 1 – P(0)):

P(0) P(1) Entropia Formula
0 1 0 -(log2(0)*0 + log2(1)*1)
0.1 0.9 0.46 -(log2(0.1)*0.1 + log2(0.9)*0.9)
0.2 0.8 0.72 -(log2(0.2)*0.2 + log2(0.8)*0.8)
0.3 0.7 0.88 -(log2(0.3)*0.3 + log2(0.7)*0.7)
0.4 0.6 0.97 -(log2(0.4)*0.4 + log2(0.6)*0.6)
0.5 0.5 1 -(log2(0.5)*0.5 + log2(0.5)*0.5)

Para el primer caso que es que el bit siempre sea 1 el valor aportado es 0. ya que no aporta ninguna información. en resumen si sabemos que un signo es más probable que otro aporta menos información que si ambos son equiprobables. 

¿Para qué nos sirve todo esto?. De forma muy simple, cuando haya que elegir entre varias propiedades, la entropía puede ayudarnos a elegir que parámetro escoger

Problemas de la esperanza y aversión al riesgo y a la pérdida

Usando matemáticas para decidir muchas veces acabas confiando en la esperanza, matemática se entiende. La esperanza no es un beneficio real, es una forma de estimar un posible beneficio, es lo que ganarías de media si se repite infinitas veces el proceso aleatorio.

Supongamos que participas en un sorteo de 1000€, han vendido solo 10 billetes. Así que tu billete tiene una esperanza de 100€….ahora bien. Intenta comprar algo con esos 100€ que según las matemáticas es el potencial beneficio de ese billete. Al final tienes 0€ o 1000€. El uso de la esperanza como un beneficio real es lo que hace que puedan surgir paradojas.

Paradoja de los dos sobres

Imagina que te dan un sobre, llamemosle 1 con una cantidad desconocida de dinero, indiquemosla como X. El sobre 2 tiene o el doble o la mitad que el 1. Es decir o 2X o X/2. Ahora nos piden elegir si cambiamos de sobre o no. ¿Qué es lo más provechoso? Sabemos que el sobre 1 contiene X, pero ¿Cuál es la esperanza del sobre 2?

1/2 * 2X + 1/2 * X/2 = 5X/4

Mientras que tu sobre tiene X dinero el otro sobre tiene una esperanza de 1,25X. Deberíamos coger el sobre 2. Así que eso haces. Ahora te ofrecen volver al sobre 1. Si lo piensas tú has elegido en sobre con la mitad o el doble de dinero que 1, pero eso significa que 1 tiene la mitad (si el 2 tiene el doble) o el doble (si el 2 tiene la mitad) que el tuyo…Un momento ¿Un sobre que tiene el doble o la mitad que el tuyo no es como ha empezado todo esto?. Efectivamente. Y si antes has cambiado, lo lógico sería volver a hacerlo ahora ¿No?. La esperanza es la misma, 1,25 veces lo que tenga tú sobre. Pero si lo cambias estarás en la misma situación que al principio y ya hemos visto que lo mejor era cambiarlo…..así que puedes estar cambiando sobres infinito número de veces.

Paradoja de San Petersburgo

Te ofrecen un juego de tirar una moneda. Si sale cara vuelves a tirar, si sale cruz se acaba la partida. Ganas 2^n euros. Siendo n el número de caras obtenidas. Veamos cual es la esperanza de beneficio. En este caso será la suma de la esperanza de cada tirada. Sabiendo que la probabilidad de ganar en la primera tirada es 1/2 (la probabilidad de salir cara), la de la segunda tirada es 1/2 * 1/2(dos caras seguidas), la tercera 1/21/21/2 y así consegutivamente:

Tirada 1 = 1/2 * 2^1 = 2/2 = 1
Tirada 2 = 1/21/2 * 2^2 = 4/4 = 1 Tirada n = (1/2^n) 2^n = 2^n/2^n = 1

La esperanza es la suma de todas las posibles tiradas….como todas son igual a 1 la esperanza es infinita. Luego te pidan lo que te pidan por participar sale rentable. Aunque te pidan un millón de euros es poco por la esperanza de ganar infinitos.

Aversión a la pérdida

Para este tipo de problemas se plantean varias soluciones, no todas posibles de implementar en código, pero yo voy a optar por usar una inspirada en dos mecanismos de los humanos. La aversión a la perdida o al riesgo. Suenan parecidos pero son distintos.

La aversión a la pérdida se podría definir como que se valora más lo que tienes que lo que puedes ganar. O lo que es lo mismo cuando has de comparar lo que puedes ganar con lo que puedes perder has de multiplicar la perdida por una variable que la incrementa. Además para simular el comportamienti humano esta variable ha de incrementarse conforme aumenta el valor de la cantidad que arriesgamos. Pongamos el caso de el tipico juego de tirar la moneda con una moneda justa (50% de que salga cara y 50% de que salga cruz). Si sale cara ganamos, si sale cruz perdemos. Si las condiciones son que si ponemos 1€ de apuesta podemos ganar 2€ la esperanza nos dice que da igual si jugamos o no:

(0.5 * 2) + (0.5 * 0) = 1

1 que es igual a la apuesta por lo que no hay esperanza de beneficio

Sin embargo con una adversion al riesgo de 1.1 la apuesta se multiplica por ese valor siendo 1.1 por lo que necesitamos una esperanza mayor.

Ya no jugariamos Por supuesto en este caso en que la perdida es tan solo 1€ muchos se plantearan jugar. Sin embargo si fueran 1000€ lo que nos jugamos, aunque el beneficio sea igualmente 1000€ habrá menos gente gente dispuesta a jugar. Esos se debe a que la aversión a la perdida crece con la cantidad que se va perder, no es siemrpe la misma. Para 1€ puede ser 1 pero para 1000€ puedes ser 100. De hecho en caso de cantidades muy pequeñas puede ser menor que 1. Ya que la perdida la consideramos despreciable y eso podría animarnos a correr ese riesgo.

Aversión al riesgo

Por otro lado la aversión al riesgo favorece la elección de las opciones más probables. Si la anterior aversión aplicaba según la cantidad “apostada”, está aplica según la probabilidad de ganar. Es menor que 1 y a menor probabilidad menor será.

Siendo Ar la función que devuelve la aversión al riesgo. P la probabilidad y V el valor, la nueva esperanza seria:

Esp = Pi * Vi * Ar(P)

Es importante tener en cuenta que se multiplica el valor y no la probabilidad. Si, ya sé que parece lo mismo, pero las probabilidades han de sumar 1.

El asno de Buridan

Por último un caso especial, no es un gran problema ya que estamos habituados a resolverlo, tan habituados que puede que ni nos demos cuenta de que existe.

La historia original habla de un asno hambriento que situado equidistante a dos pesebres idénticos muere de hambre por no saber por cual decidirse. O lo que en el caso de la I.A. sería un agente enfrentado a dos opciones con la misma esperanza no sabría cual decidir.

Elección irracional

El ejemplo más sencillo es que nos toque diseñar un agente que elige entre cara o cruz. ¿Qué es lo que hacemos habitualmente? Elegirla al azar. Esto es realizar una elección no racional. No hay ningún motivo para elegir una u otra así que dejamos al azar esa elección. Este mismo sistema nos puede servir cuando el valor de la esperanza no nos sirva de guía. Nada nos garantiza elegir la mejor opción pero nos permite no quedarnos congelados sin saber que elegir.