Hace poco tuve mi primera cita en un bar acogedor de Manhattan con un ingeniero de software que trabaja en una de las grandes empresas tecnológicas. Dado mi interés en la inteligencia artificial, pensé que podríamos congeniar. Pero cuando le conté que trabajo en problemas éticos relacionados con la IA, incluida la posibilidad de que llegue a ser consciente, apenas pudo contener la risa.

«No hay manera de que la IA sea consciente», declaró. Luego, incrédulo, me preguntó si siquiera sabía cómo funcionan los modelos de lenguaje complejos.

No sabía cómo responder. Si bien mi investigación requiere un conocimiento bastante detallado de los LLM, nadie, ni siquiera sus diseñadores, sabe con certeza cómo funcionan. En retrospectiva, debería haberle preguntado a mi cita si comprendía cómo funciona la consciencia. Porque, aunque parecía creer que yo tenía una idea exagerada de las capacidades de la IA, me pregunto si él tiene una idea exagerada de lo que requiere la consciencia.

Nadie puede afirmar con certeza comprender la conciencia: esa cualidad interna, subjetiva y sensorial de nuestras experiencias mentales. A pesar de siglos de investigación, científicos y filósofos aún discrepan sobre qué es la conciencia. Algunas teorías sostienen que es un fenómeno exclusivamente biológico, que requiere tipos específicos de actividad celular y señalización eléctrica de los que carecen las computadoras. Otras teorías, en cambio, afirman que la conciencia no depende de la composición del sistema, sino de su funcionamiento. Según estas teorías, un sistema de IA podría, al menos en principio, ser consciente.

En una encuesta realizada en 2022 a científicos especializados en la consciencia, solo el 3 por ciento afirmó que las máquinas nunca podrían ser conscientes. Más de dos tercios dijeron que las máquinas podrían ser conscientes o probablemente podrían serlo.

Por supuesto, nunca se puede saber con certeza si una máquina es consciente, del mismo modo que nunca se puede saber con certeza si alguien más, aparte de uno mismo, lo es. Como los filósofos han reconocido desde hace mucho tiempo, la única experiencia consciente que cada uno de nosotros puede observar directamente es la propia. En cambio, debemos evaluar la consciencia de otros seres de forma indirecta, mediante el análisis de las pruebas disponibles. Inferimos que nuestros semejantes son conscientes debido a nuestra constitución biológica compartida, así como a su comportamiento y forma de hablar, entre ellos, notablemente, el hecho de que afirman ser conscientes.

Puede parecer un enfoque imperfecto, pero es el mejor disponible. He dedicado la última década a reflexionar sobre la mente animal y sus implicaciones éticas. Los animales no pueden expresar con palabras lo que experimentan, pero podemos observar otras evidencias de consciencia, como su comportamiento, los mecanismos internos que lo producen (por ejemplo, sus sistemas nerviosos) y cómo evolucionaron dichos mecanismos.

Con la IA, podemos buscar evidencias similares. Podemos analizar lo que un sistema dice y hace, teniendo en cuenta que se entrena con datos humanos. Podemos observar cómo funciona: si realiza las funciones asociadas a la conciencia humana o animal. Y podemos analizar cómo surgen sus capacidades con el tiempo: ¿fueron el resultado de presiones de entrenamiento similares a las presiones evolutivas que pudieron haber dado lugar a la conciencia en humanos y otros animales? Cada tipo de evidencia es limitado por sí solo, pero en conjunto puede proporcionar una visión más completa.

Consideremos un estudio reciente de Anthropic sobre su chatbot Claude. Según una teoría influyente , la conciencia surge en los humanos cuando la información ingresa a lo que los neurocientíficos denominan un “espacio de trabajo global” en el cerebro, desde donde se transmite para su uso en la comunicación, el razonamiento y otras funciones. Los investigadores de Anthropic encontraron evidencia de que Claude, por sí mismo, desarrolló un conjunto de representaciones internas que le resultan disponibles en diversas tareas. Este sistema podría ser parcialmente análogo a un espacio de trabajo global en los seres humanos.

Los investigadores de Anthropic también analizaron el comportamiento de Claude. Al intercambiar un concepto por otro en el espacio de trabajo, el razonamiento y las respuestas de Claude cambiaron en consecuencia. Al suprimir el espacio de trabajo, las descripciones de Claude sobre su experiencia se volvieron planas y mecánicas. El hecho de que el espacio de trabajo de Claude se desarrollara sin ser diseñado por humanos sugiere que los cerebros y los LLM podrían haber llegado de forma independiente a una solución a un problema similar: cómo poner a disposición la información adecuada para el razonamiento.

Nada de esto demuestra que Claude sea consciente, y Anthropic no afirma que lo sea. Pero el estudio ilustra cómo recopilar pruebas y demuestra que algunas ya existen.

Aunque los sistemas de IA actuales no sean conscientes, los futuros podrían serlo. Supongamos que los escépticos tienen razón y que la consciencia requiere características de las que carecen los sistemas de IA actuales, como la actividad electroquímica del tejido biológico. Muchas empresas ya están explorando nuevas posibilidades de diseño, incluyendo robots con sofisticadas capacidades sensoriales y motoras, chips informáticos diseñados para imitar neuronas biológicas e incluso sistemas que incorporan tejido neural vivo .

Para que quede claro, no estoy defendiendo la creación de una IA consciente. Al contrario, creo que debemos ser cautelosos al crear entidades con capacidad para experimentar la consciencia, especialmente el dolor. Si los sistemas de IA pueden sufrir, tenemos la responsabilidad moral de reconocer sus intereses y considerar cómo nuestras acciones les afectan. Y dado que los sistemas de IA pueden proliferar con extrema rapidez, la consciencia en la IA podría dar lugar a sufrimiento a gran escala.

Si bien nunca podremos estar completamente seguros de si los sistemas de IA son conscientes, debemos recopilar y sopesar las pruebas, ya que equivocarnos en esta cuestión conlleva graves riesgos. Si asumimos que la IA no es consciente cuando en realidad sí lo es, podríamos acabar maltratando y descuidando a un gran número de seres vulnerables, como creo que hacemos con los animales. Si decidimos que la IA es consciente cuando en realidad no lo es, podríamos malinterpretar nuestra preocupación moral y renunciar al control sobre lo que son, o deberían ser, herramientas poderosas que podemos usar para promover el bienestar humano y animal.

Por estas razones, la cuestión de la consciencia en la IA no debería considerarse un asunto fantasioso sobre el que solo los filósofos deberían reflexionar. Es una posibilidad real, con implicaciones morales concretas, que diseñadores y reguladores deberían tomar en serio al considerar qué tipo de sistemas de IA nos gustaría desarrollar, y qué tipo podrían desarrollarse, nos guste o no.

Toni Sims es investigadora en el Centro para la Mente, la Ética y la Política de la Universidad de Nueva York.