MADRID, 18 de diciembre.

Un académico de la Universidad de Cambridge ha lanzado un aviso sobre la inteligencia artificial (IA), afirmando que la comprensión actual de la conciencia es tan limitada que resulta imposible determinar cuándo, o incluso si, se ha alcanzado algún nivel de conciencia en la IA. Estas reflexiones se encuentran en un estudio reciente en la publicación 'Mind and Language'.

Con la conciencia artificial pasando de ser un tema de ciencia ficción a una preocupación ética inminente, el doctor Tom McClelland del Departamento de Historia y Filosofía de la Ciencia de dicha universidad sugiere que la posición más razonable es el agnosticismo. Según McClelland, no seremos capaces de resolver esta cuestión en el corto ni en el largo plazo.

El filósofo destaca que, aunque la discusión sobre los derechos de la IA a menudo se relaciona con el concepto de conciencia, esta última no es suficiente por sí sola para conceder relevancia ética a la IA. La clave radica en una forma específica de conciencia, conocida como sintiencia, que involucra la capacidad de experimentar sensaciones positivas y negativas.

“La mera conciencia podría llevar a la IA a tener una percepción de sí misma, pero eso no significa necesariamente que su estado sea significativo desde un punto de vista ético”, indica el doctor McClelland. “La sintiencia es lo que otorga a una entidad la capacidad de experimentar sufrimiento o felicidad, lo cual es fundamental para establecer cualquier discusión ética en torno a estas tecnologías”.

Por ejemplo, aunque un automóvil autónomo que puede moverse por las calles representa un avance tecnológico, esto no tiene implicaciones éticas significativas. Sin embargo, si dicha IA empezara a tener respuestas emocionales a sus destinos, la situación se tornaría más compleja.

A medida que las empresas invierten cantidades astronómicas en la creación de inteligencia artificial general, hay quienes claman que la llegada de la IA consciente está a la vuelta de la esquina, y que ya se están considerando normativas para regular su conciencia.

McClelland advierte que, debido a nuestro desconocimiento sobre la naturaleza de la conciencia, tampoco podemos establecer un método efectivo para evaluar la conciencia en la IA. Si alguna vez generamos accidentalmente una IA que tenga conciencia o sintiencia, es crucial asegurarse de que no sufran daños. A la vez, tratar a una máquina como si tuviera conciencia, mientras hay seres humanos a los que causando daño de manera significativa, representa un error de juicio.

En el debate actual sobre la conciencia artificial, McClelland identifica dos perspectivas principales. Por un lado, están aquellos que sostienen que si un sistema de IA puede replicar la funcionalidad asociada con la conciencia, esta debe considerarse consciente, sin importar si física o computacionalmente esté basado en silicio en lugar de en tejido biológico.

Por otro lado, los escépticos defienden que la conciencia requiere procesos biológicos específicos en un organismo encarnado. Argumentan que incluso si se puede reproducir la estructura de la conciencia en silicio, eso sería únicamente una simulación sin una verdadera percepción consciente.

En su análisis, McClelland muestra cómo ambas posturas se sustentan en un “salto de fe”, sin respaldo suficiente de la evidencia existente o posible. “No contamos con una comprensión profunda de qué es la conciencia. No hay pruebas que apoyen la idea de que esta pueda surgir simplemente con la estructura computacional adecuada”, señala el filósofo.

Ilustra su punto con un ejemplo personal: “Creo que mi gato es consciente, no por fundamentos científicos ni filosóficos, sino porque es algo que resulta evidente”. Sin embargo, advierte que este sentido común se basa en una historia evolutiva que nunca involucró formas de vida artificial, y por lo tanto no debería considerarse fiable cuando se trata de IA. Si tanto el sentido común como la investigación empírica no ofrecen respuestas claras, McClelland concluye que el agnosticismo es la postura más sensata: no podemos saberlo del todo y tal vez nunca lo logremos.

Finaliza su discurso con una reflexión moderada, considerándose un agnóstico firme sobre la conciencia. “El problema de la conciencia es realmente un desafío monumental. Sin embargo, puede que no sea insuperable”, dice, alertando sobre el riesgo de que la industria tecnológica utilice el misterio que rodea a la conciencia artificial como parte de sus tácticas de marketing para promover su tecnología.

Este impulso por parte de la industria hacia la conciencia artificial, según McClelland, despierta preocupaciones éticas importantes en cuanto a la distribución de recursos para la investigación en el área.