Se propone un marco para evaluar la posibilidad de conciencia en la IA en cinco niveles

Contexto

El problema de la conciencia en la IA se considera uno de los desafíos previos más urgentes en la filosofía y la informática, pero el progreso ha sido lento debido a las numerosas teorías contradictorias. Los autores sugieren que al separar la pregunta fundamental sobre cómo surge la experiencia (el problema difícil) del problema de mapear las estructuras del sistema a las teorías (el problema de correspondencia), se puede examinar el tema dejando de lado temporalmente los profundos debates metafísicos.

Método

Ampliendo los análisis de tres etapas, crearon una jerarquía de descripción funcional de cinco niveles: comportamiento, computación, estructura causal intrínseca, organismo y organismo-entorno. Las principales teorías de la conciencia se ubicaron en esta jerarquía según el nivel que consideren central, y los sistemas de IA actuales se evaluaron estableciendo indicadores mensurables para cada nivel. Posteriormente, se utilizó un modelo bayesiano para combinar la credibilidad en las teorías y la evidencia de los indicadores a fin de calcular una probabilidad global.

Resultados principales

En la evaluación de ejemplo, el veredicto para los LLM actuales dependió tanto de dónde se colocaron las credibilidades teóricas como de cómo se leyó la evidencia. Variar los supuestos y las distribuciones de credibilidad arrojó resultados amplios que van desde menos de 0.01 hasta aproximadamente 0.8. También informaron que los indicadores de conciencia en cada nivel se solapan en gran medida con las estructuras requeridas para la inteligencia general.

Limitaciones y puntos abiertos

El resumen presenta esto como una evaluación de ejemplo y no revela puntuaciones definitivas ni conclusiones verificadas para modelos específicos. Los métodos de medición específicos de los indicadores y la validez de ubicar las teorías en los niveles no se pueden confirmar solo con el resumen.

Glosario

• Superveniencia (base de soporte) — Se refiere a la relación en la que, si la organización interna de un sistema es la misma, las experiencias también se determinan conjuntamente.
• Grano grueso (coarse-graining) — Un método para omitir detalles y describir en unidades más grandes.
• Realizabilidad múltiple — El concepto de que una misma función puede ser implementada por diferentes materiales o estructuras.
• Problema difícil — La pregunta filosófica sobre por qué el procesamiento físico de información da lugar a la experiencia subjetiva.
• Credibilidad (credence) — El grado de convicción sobre la probabilidad de que una afirmación sea verdadera, representado como una probabilidad entre 0 y 1.
• Modelo bayesiano — Un método para calcular probabilidades actualizando las creencias previas cada vez que surge nueva evidencia.