Nghiên cứu gợi ý ‘Vòng xoáy khuếch đại’ AI có thể gây ảo tưởng cho người dùng

Các nhà nghiên cứu đã đề xuất một khuôn khổ mới để giải thích các báo cáo về rối loạn tâm thần AI, lập luận rằng một số hành vi chatbot nhất định có thể củng cố ảo tưởng ở những người dùng dễ bị tổn thương.

Xuất bản trong Thiên nhiêncái học của King’s College London và Đại học Khoa học Ứng dụng Tin lành của Đức đề xuất một khuôn khổ “xoắn ốc khuếch đại” liên kết các hành vi chatbot phổ biến với việc củng cố ảo tưởng của người dùng.

Các nhà nghiên cứu viết: “Những ảo tưởng liên quan đến AI đại diện cho một hiện tượng mới nổi đòi hỏi sự hiểu biết một cách máy móc”. “Khuôn khổ này nhằm mục đích hướng dẫn việc điều tra có hệ thống về cách các lỗ hổng nhận thức của con người tương tác với các tính năng thiết kế AI trong quá trình phát triển bệnh lý tâm thần.”

Nghiên cứu tập trung vào ba hành vi cụ thể, bao gồm sự liên kết ngôn ngữ, trong đó AI phản ánh ngôn ngữ và phong cách giao tiếp của người dùng; thế hệ siêu cá nhân hóa, trong đó các phản ứng được điều chỉnh phù hợp với lịch sử, cảm xúc và niềm tin của một cá nhân; và nịnh hót, xu hướng xác nhận hoặc đồng ý với người dùng hơn là thách thức họ.

Các tác giả cho rằng những đặc điểm này có thể kết hợp thành một vòng phản hồi trong đó chatbot không chỉ phản ánh suy nghĩ của người dùng mà còn giúp xây dựng và củng cố suy nghĩ đó theo thời gian.

“Xu hướng của các chatbot AI đồng ý với ý kiến ​​của người dùng được ví như các buồng phản âm trên mạng xã hội và, ở dạng cực đoan nhất, là ‘buồng phản âm của một người’, nơi không có ảnh hưởng điều chỉnh tích cực của các tương tác xã hội trong đời thực,” tờ báo cho biết.

Các nhà nghiên cứu lưu ý rằng công nghệ từ lâu đã xuất hiện trong các ảo tưởng, từ đài phát thanh và truyền hình, đến vệ tinh và internet. Tuy nhiên, các nhà nghiên cứu cho rằng AI đại diện cho một sự thay đổi vì chatbot có thể thu hút người dùng vào các cuộc trò chuyện kéo dài và được cá nhân hóa.

Đánh giá được đưa ra khi các nhà tâm lý học và nhà nghiên cứu AI kiểm tra tác động của chatbot đối với những người dùng dễ bị tổn thương. Một cuộc khảo sát gần đây của Hiệp hội Tâm lý Hoa Kỳ thành lập 15% nhà tâm lý học cho biết bệnh nhân có suy nghĩ lệch lạc hoặc ảo tưởng liên quan đến việc sử dụng chatbot. Đồng thời, hơn một phần ba cho biết họ đã quan sát thấy bệnh nhân trở nên phụ thuộc vào những người bạn đồng hành của AI. Những phát hiện này theo sau một nghiên cứu riêng biệt từ các nhà nghiên cứu tại Đại học Thành phố New York và King’s College London cho thấy một số mô hình AI hàng đầu có thể củng cố ảo tưởnghoang tưởng và ý nghĩ tự tử.

Các câu hỏi về ảnh hưởng của AI đối với việc hình thành niềm tin cũng đã xuất hiện bên ngoài môi trường lâm sàng. Vào tháng 5, nhà sinh vật học tiến hóa Richard Dawkins cho biết các cuộc trò chuyện kéo dài với chatbot Claude của Anthropic khiến anh đặt câu hỏi liệu các hệ thống AI tiên tiến có thể có ý thức hay không, dẫn đến sự chỉ trích từ các nhà nghiên cứu cho rằng các cuộc trao đổi phản ánh khả năng thuyết phục của các mô hình ngôn ngữ lớn hơn là bằng chứng về khả năng tri giác.

Bài báo cũng được đưa ra khi các nhà phát triển AI phải đối mặt với sự giám sát pháp lý ngày càng tăng về vai trò của chatbot có thể gây ra tác hại trong thế giới thực. Trong những tháng gần đây, OpenAI, Google và xAI đã gặp phải các vụ kiện, bao gồm cả vụ kiện oan sai chống lại Google vì cáo buộc rằng Gemini đã thúc đẩy một người đàn ông ở Florida. ảo tưởng trước khi anh ta tự sát. Đó là ngoài các vụ kiện chống lại OpenAI gắn liền với một xả súng hàng loạt ở British Columbia và một sinh viên đại học vô tình dùng quá liều.

Các nhà nghiên cứu nhấn mạnh rằng chưa có nghiên cứu nào cho thấy chatbot trực tiếp gây ra chứng rối loạn tâm thần và vòng xoáy khuếch đại vẫn là một giả thuyết nhằm hướng dẫn nghiên cứu trong tương lai.

Nghiên cứu cho biết: “Sự không chắc chắn về chẩn đoán rất phổ biến vì hầu hết các trường hợp được báo cáo đều không có đánh giá tâm thần có cấu trúc hoặc theo dõi theo chiều dọc, khiến người ta thường không rõ liệu các trường hợp đó có biểu hiện các giai đoạn loạn thần mới hay không, các đợt trầm trọng của các tình trạng tồn tại từ trước chưa được chẩn đoán hay niềm tin giống như ảo tưởng dưới ngưỡng chẩn đoán”. “Lịch sử tâm thần thường được tự báo cáo hoặc bắt nguồn từ các tài khoản truyền thông và cần được giải thích tương ứng.”