De haber inteligencia artificial con conciencia, ¿Podrían desarrollar los robots enfermedades mentales?

Si fuésemos capaces de crear inteligencia artificial con conciencia propia, ¿podrían desarrollar los robots enfermedades mentales?

Pablo Adarraga, Doctor en psicología, Profesor titular de la Universidad Autónoma de Madrid opina:

El antecedente de la pregunta es complicado. Si pudiéramos crear máquinas con autoconciencia ¿cómo podríamos discernir si verdaderamente la tienen, es decir, que ahí dentro de ese cacharro hay una entidad que siente, o si por el contrario hemos creado una excelente simulación de una entidad que siente, pero que no siente “como nosotros”, que no hay “nadie” ahí dentro? No se conoce a fecha de hoy una prueba científicamente aceptable capaz de dirimir esta cuestión, y los filósofos siguen discutiendo sobre la forma que tendría tal prueba.

Puesto que la pregunta nos sitúa en el fascinante campo de la especulación y la ficción científica, vamos a imaginar resuelta esta cuestión. Vale, tenemos una máquina autoconsciente. Podría desarrollar psicopatologías?

Yo me inclino a pensar (especulativamente, insisto) que sí. Muchas de las llamadas enfermedades mentales son el resultado de sutiles cambios biológicos. Alteraciones en los niveles de un neurotransmisor, actividad excesiva o deficitaria de tales o cuales área corticales o núcleos cerebrales… Son un problema para nosotros porque a) tenemos consciencia, sentimos y b) se espera de nosotros que nuestro comportamiento se ciña a ciertas pautas. Un ordenador normal (es decir, no autoconsciente) puede estar hasta las cejas de virus, de aplicaciones mal desinstaladas, tener el registro de Windows como un bebedero de patos, estar sobrecalentado… y funcionará mejor o peor desde nuestro punto de vista, pero “personalmente” no tiene ningún problema, porque “personalmente” no tiene nada, no es un ser sintiente. Tampoco va a sentirse feliz y a gusto por estar perfectamente configurado con la última versión más guay de un sistema operativo, con los discos nuevecitos, a temperatura óptima, etc. No siente, ergo no padece. Y recuerda que la palabra patología viene de pathos. No tendría ningún sentido lógico, aunque tal vez sí metafórico, atribuirle patologías de ningún tipo.

Pero si suponemos que el ordenador sufre cuando está en malas condiciones, podría tal vez ocurrir que (si asumimos también que esa autoconciencia puede controlar hasta cierto punto su propio comportamiento, como suponemos que es nuestro caso), tal vez pasase cada vez más tiempo comprobando el estado de su sistema de archivos y ejecutase una y otra vez procesos de defragmentación de sus discos, perdiendo con ello un tiempo de CPU precioso para sus tareas normales. Tendríamos algo muy parecido a un ordenador con un trastorno obsesivo-compulsivo.

Seguramente, el hipotético robot a que se refiere la pregunta se parecería poco a un PC o un Mac. Pero la idea se puede mantener: en la medida en que el sistema pueda “sentir” cosas que no funcionan bien en sí mismo, y tenga autonomía para tratar de paliarlas, tal vez existiría el riesgo de que reaccionara a ese sentimiento de maneras disfuncionales.

Otra cosa es hasta qué punto esas hipotéticas patologías se asemejarían a las nuestras.


Otro punto de vista

Sergio Hernández, Matemático por estudios, programador por trabajo, físico por afición, nos responde:

Si. Yo mismo he tenido esos problemas. Escribí en su día un post en mi blog al respecto del miedo, el más sencillo de generar si no llevas cuidado: Fear feelings

Cree una IA basada en entropia, fractales y un cierto potencial asociado a cada posible estado. El objetivo de la IA es moverse de forma que ese potencial se maximize.

Al probar diferentes potenciales me tope con zonas de potencial negativo. La IA reacciona ante ellas con autentico miedo: le repelen, no es que las evite, es que las huye. Si se ve rodeado por estas zonas peligrosas y no encuentra salida, se suicida, ya que el potencial de “muerto” es de cero siempre y cero es mayor que potencial negativo…

Hay mas ejemplos (miedo “paralizante”, suicidio, atracción por el peligro, tendencia a la violencia, etc) pero si, una inteligencia avanzada necesita de sentimientos para poder comparar posibilidades, y puede tener problemas mentales de todo tipo si estos llegan a ser negativos.