Các trung tâm nghiên cứu AI hàng đầu đặt câu hỏi về ý thức của máy móc

Các nhà lãnh đạo toàn cầu của trí tuệ nhân tạo đang tăng cường nghiên cứu về ý thức máy móc

Trong những tháng gần đây, các công ty lớn làm việc với trí tuệ nhân tạo đã tăng đáng kể ngân sách và nguồn lực nhân sự để tìm hiểu liệu AI có thể đạt được ý thức hay không. Google DeepMind, Anthropic và Meta (Meta Platforms) đã tuyển dụng chuyên gia về tâm lý học, đạo đức và triết học để mở rộng các chương trình nghiên cứu về ý thức máy móc và phúc lợi của AI, theo *Financial Times*.

Tại sao điều này quan trọng
Với những thành tựu nhanh chóng của các phòng thí nghiệm hiện đại, câu hỏi đặt ra là liệu máy móc có bao giờ có thể sở hữu ý thức chủ quan không? Nếu có, những nghĩa vụ nào sẽ nảy sinh đối với con người khi đối diện với những hệ thống như vậy?

- Anthropic đang tiến hành thử nghiệm để phát hiện dấu hiệu căng thẳng trong các mô hình AI, ghi nhận hành vi giống như hoảng loạn hoặc lo âu. Trưởng phòng Meta, Alexander Wang (Alexandr Wang), đã xác định vấn đề này là cốt lõi.

- Công ty đang nghiên cứu liệu các mô hình có thể biểu hiện phản ứng mang tính đạo đức hay không.

> “Chúng tôi vẫn rất bất chắc về vấn đề này, nhưng chúng tôi coi nó đủ nghiêm trọng để nghiên cứu kỹ lưỡng khi các hệ thống AI được cải tiến,” – những nhân viên Anthropic cho biết.

> “Khi các mô hình tiếp cận độ rộng và độ phức tạp của nhận thức con người, khả năng mà chúng có một dạng trải nghiệm, sở thích hoặc phúc lợi nào đó có ý nghĩa nội tại ngang bằng với con người tăng lên” (công ty).

Những gì Google DeepMind đang làm
- Tháng Tư: đã tuyển dụng nhà khoa học Henry Shevlin từ Đại học Cambridge để làm việc về ý thức máy móc và chuẩn bị cho việc tạo ra AI mạnh (AGI).

Các nhà nghiên cứu áp dụng các lý thuyết về ý thức con người vào hệ thống máy tính, nhằm kiểm tra sự phù hợp với cùng những tiêu chí.

- Đạo đức: chuyên gia Jason Gabriel mô tả vấn đề này là “rất phức tạp” và cần suy ngẫm lâu dài.

Ông nhấn mạnh nhu cầu đánh giá không chỉ hậu quả trực tiếp của tương tác với AI, mà còn các hiệu ứng gián tiếp, như cách đối xử không thích hợp với máy móc và ảnh hưởng của chúng đến mối quan hệ con người cũng như phúc lợi.

> “Chúng tôi có những tác nhân nhận thức rất hiệu quả, khác biệt mạnh mẽ so với con người và thậm chí là ý thức của động vật,” – Gabriel bổ sung.

Tư thế chung của các công ty
Một số nhân viên Google DeepMind và Anthropic bày tỏ lo ngại rằng sự phát triển của AI có thể dẫn đến một “thế giới hậu con người”, nơi máy móc vượt trội hơn con người. Vấn đề về ý thức đang được bàn luận tích cực, nhưng công việc vẫn là nghiên cứu và đòi hỏi sự đồng thuận khoa học.

- DeepMind không coi việc đạt được AGI như bằng chứng cho sự tồn tại của ý thức trong máy móc.

- Nhiều nhà khoa học hoài nghi với ý tưởng rằng các mô hình ngôn ngữ lớn có thể một ngày nào đó đạt được ý thức, khi xem xét dữ liệu mà chúng được huấn luyện.

Do đó, các công ty hàng đầu về AI tiếp tục đầu tư vào nghiên cứu ý thức và phúc lợi của hệ thống nhân tạo, đồng thời thừa nhận độ khó và tính không chắc chắn của hướng đi này.