Google cảnh báo cuộc tranh luận về ý thức AI có thể trở thành chiến trường chính trị

Khi AI ngày càng trở nên gắn liền với cuộc sống hàng ngày, một xu hướng mới giấy từ Google DeepMind lập luận rằng một trong những thách thức khó khăn nhất của công nghệ có thể là chính trị hơn là kỹ thuật.

Trong nghiên cứu “Tâm trí nhân tạo, sự bất đồng của con người: Thách thức chính trị của ý thức AI”, các nhà nghiên cứu Adam Bales và Iason Gabriel xem xét cách xã hội có thể phản ứng nếu mọi người về cơ bản không đồng ý về việc liệu hệ thống AI có trải nghiệm có ý thức hay không.

Các nhà nghiên cứu viết: “Sự bất đồng trong tương lai về việc liệu có hệ thống AI nào có ý thức hay không có thể vừa sâu sắc vừa khó giải quyết”. “Ví dụ, một số người có thể phát triển mối liên kết cảm xúc với AI và kết quả là gán cho ý thức, trong khi những người khác có thể coi toàn bộ ý tưởng là vô lý.”

Thay vì hỏi liệu AI có ý thức hay không, bài viết khám phá hậu quả của sự bất đồng, cho rằng các cuộc tranh luận về tình trạng đạo đức của AI có thể gây ra xung đột chính trị và xã hội, đồng thời báo trước những tranh chấp rộng hơn về các công nghệ mới nổi và tác động của chúng đối với các thể chế và chuẩn mực của xã hội.

Các nhà nghiên cứu viết: “Thật không may, mặc dù có những ưu điểm tốt nhưng việc cân nhắc có thể diễn ra chậm và khó duy trì trong thực tế”. “Để hỗ trợ quá trình này, chúng tôi khám phá tầm quan trọng của ‘hy vọng dân chủ’ và sự tôn trọng lẫn nhau, như những yếu tố của cuộc đối thoại có thể hỗ trợ những kết quả tích cực.”

Cuộc tranh luận đã được tiến hành bên ngoài phòng thí nghiệm nghiên cứu AI. Theo một báo cáo tháng 4 năm 2024 học được xuất bản trên tạp chí Neuroscience of Consciousness, 67% người tham gia tin rằng ChatGPT có thể có ý thức ở một mức độ nào đó. Các nhà nghiên cứu vẫn còn đã chia ratuy nhiên, về việc liệu ý thức nhân tạo có khả thi hay không hay nó sẽ được nhận ra như thế nào nếu nó xuất hiện.

Bản thân các nhà phát triển AI cũng đang thúc đẩy cuộc tranh luận. Mùa hè năm ngoái, Giám đốc điều hành Microsoft AI và đồng sáng lập DeepMind Mustafa Suleyman cảnh báo rằng AI ngày càng giống con người có thể thúc đẩy các lời kêu gọi về quyền, phúc lợi và thậm chí cả quyền công dân của AI, bất kể công nghệ này có thực sự có ý thức hay không.

Vào tháng 5, thông điệp đầu tiên của Giáo hoàng Leo XIV tập trung vào trí tuệ nhân tạo, cảnh báo chống lại việc nhân cách hóa AI, cho rằng máy móc có thể mô phỏng sự đồng cảm và tạo ra ngôn ngữ thuyết phục nhưng thiếu kinh nghiệm sống cần thiết để hiểu thực sự.

“Cái gọi là trí tuệ nhân tạo không trải qua trải nghiệm, không sở hữu cơ thể, không cảm thấy vui hay đau, không trưởng thành qua các mối quan hệ và không biết từ bên trong tình yêu, công việc, tình bạn hay trách nhiệm có nghĩa là gì,” Đức Giáo Hoàng Leo nói. đã viết. “Họ cũng không có lương tâm đạo đức, vì họ không phán xét thiện và ác, không nắm bắt được ý nghĩa cơ bản của các tình huống hoặc chịu trách nhiệm về hậu quả”.

Tuy nhiên, trong khi các công ty thường tránh khẳng định mô hình của họ có ý thức, một số công ty ngày càng quan tâm đến các câu hỏi về danh tính và tư cách con người.

Vào tháng 2, Anthropic đã tặng mẫu Claude Opus 3 đã ngừng hoạt động của mình một chiếc blog công khai khám phá bản thân và sở thích của người mẫu. Vào tháng 5, nhà sinh vật học tiến hóa Richard Dawkins cho biết những cuộc trò chuyện kéo dài với Claude khiến anh không thể loại bỏ khả năng AI tiên tiến có thể có ý thức.

Đồng thời, các nhà nghiên cứu đang kiểm tra xem các chatbot ngày càng giống con người ảnh hưởng đến người dùng như thế nào, bao gồm cả “xoắn ốc khuếch đại“, gợi ý việc cá nhân hóa, phản ánh ngôn ngữ và sự đồng bộ của chatbot có thể củng cố niềm tin ảo tưởng ở những người dùng dễ bị tổn thương.

Bales và Gabriel thừa nhận rằng sự không chắc chắn về ý thức AI có thể không được giải quyết một cách thuyết phục, cho rằng nguy cơ đủ cao để xã hội phải tìm cách giải quyết sự bất đồng thông qua đối thoại và tranh luận, thay vì xung đột.

Họ viết: “Khả năng của ý thức AI thật đáng kinh ngạc và bối rối, đặc biệt là do chúng ta thiếu hiểu biết sâu sắc về bản chất của ý thức”. “Việc điều hướng khả năng này đại diện cho một nhiệm vụ xã hội khó khăn, xét đến mức độ nguy hiểm.”