Đề xuất khung đánh giá khả năng có ý thức của AI thành 5 cấp độ

Bối cảnh

Vấn đề ý thức của AI được coi là một trong những nhiệm vụ cấp bách nhất trong triết học và khoa học máy tính, nhưng tiến độ vẫn chậm do có nhiều lý thuyết mâu thuẫn nhau. Các tác giả cho rằng bằng cách tách biệt câu hỏi cơ bản về cách trải nghiệm nảy sinh (vấn đề hóc búa) với vấn đề ánh xạ cấu trúc hệ thống vào các lý thuyết (vấn đề ánh xạ), chúng ta có thể xem xét vấn đề mà tạm gác lại các cuộc tranh luận siêu hình sâu sắc.

Phương pháp

Mở rộng từ phân tích ba giai đoạn, họ đã tạo ra hệ thống phân cấp mô tả chức năng gồm 5 cấp độ: hành vi, tính toán, cấu trúc nhân quả nội tại, sinh vật, và sinh vật-môi trường. Các lý thuyết ý thức chính được đặt vào hệ thống phân cấp này tùy thuộc vào cấp độ nào mà chúng coi là trọng tâm, và các hệ thống AI hiện tại được đánh giá bằng cách thiết lập các chỉ số có thể đo lường cho từng cấp độ. Sau đó, một mô hình Bayes đã kết hợp độ tin cậy vào các lý thuyết và bằng chứng từ các chỉ số để tính toán xác suất tổng thể.

Kết quả chính

Trong đánh giá ví dụ, phán đoán đối với LLM hiện tại phụ thuộc vào vị trí đặt độ tin cậy lý thuyết nhiều như cách đọc bằng chứng. Việc thay đổi các giả định và phân phối độ tin cậy cho ra kết quả rộng từ dưới 0,01 đến khoảng 0,8. Họ cũng báo cáo rằng các chỉ số ý thức ở mỗi cấp độ chồng chéo lớn với các cấu trúc cần thiết cho trí tuệ tổng quát.

Hạn chế & điểm cần xác minh

Bản tóm tắt trình bày điều này như một đánh giá ví dụ và không tiết lộ điểm số xác định hay kết luận đã được kiểm chứng cho các mô hình cụ thể. Các phương pháp đo lường cụ thể của các chỉ số và tính hợp lý của việc sắp xếp các lý thuyết vào các cấp độ không thể được xác nhận chỉ từ bản tóm tắt.

Giải thích thuật ngữ

• Tính siêu phán (cơ sở hỗ trợ) — Chỉ mối quan hệ mà nếu tổ chức bên trong của một hệ thống giống nhau thì các trải nghiệm cũng được xác định tương ứng.
• Gom nhóm thô (coarse-graining) — Phương pháp lược bớt chi tiết và mô tả bằng các đơn vị lớn hơn.
• Khả năng hiện thực hóa đa dạng — Khái niệm cho rằng cùng một chức năng có thể được thực hiện bởi các vật liệu hoặc cấu trúc khác nhau.
• Vấn đề hóc búa — Câu hỏi triết học về lý do tại sao quá trình xử lý thông tin vật lý lại tạo ra trải nghiệm chủ quan.
• Độ tin cậy (credence) — Mức độ tin tưởng về khả năng một khẳng định là đúng, được thể hiện bằng xác suất từ 0 đến 1.
• Mô hình Bayes — Phương pháp tính toán xác suất bằng cách cập nhật niềm tin ban đầu mỗi khi có bằng chứng mới xuất hiện.