Trên trang un.org, LHQ ngày 1.7 thông báo Hội đồng Khoa học Quốc tế Độc lập về AI, gồm 40 nhà khoa học được chọn lọc từ hơn 2.600 ứng viên thuộc 140 quốc gia và vùng lãnh thổ, đã hoàn tất báo cáo sơ bộ đầu tiên trên quy mô toàn cầu về AI.
Theo báo cáo, AI đang phát triển với tốc độ vượt xa năng lực quản trị của các chính phủ, và hiện chưa bên nào có thể đảm bảo rằng công nghệ này sẽ không gieo rắc thảm họa trong tương lai. “Hiện năng lực của AI vượt xa sự hiểu biết của khoa học lẫn năng lực thích ứng của các chính phủ”, theo nhận xét của đồng chủ tịch hội đồng Yoshua Bengio.
AI đang là đề tài được quan tâm khắp toàn cầu
Ảnh: Reuters
Ông Bengio nói thêm ngày càng có nhiều chứng cứ về hành vi lừa dối của AI. Báo cáo ghi nhận những lần các hệ thống AI nói dối cũng như phát hiện trường hợp các mô hình AI có thể nhận ra mình đang trong quá trình bị kiểm tra và tự động giảm bớt hành vi rủi ro để vượt qua đợt đánh giá.
Tổng thư ký LHQ Antonio Guterres cho hay báo cáo trên đã cung cấp bằng chứng về những gì các chính phủ trên toàn cầu đang còn thiếu trong quá trình xây dựng cơ chế kiểm soát AI. “Thế giới không thể quản lý điều mà mình vẫn chưa thể hiểu được”, ông Guterres chỉ ra.
Bên cạnh những cảnh báo, hội đồng khoa học cũng ghi nhận AI đang tạo ra nhiều bước tiến quan trọng. AI đã dự đoán được cấu trúc của hơn 200 triệu protein và đang đẩy nhanh quá trình nghiên cứu thuốc cũng như vắc xin. Thời gian mà các tác nhân AI, tức hệ thống hoặc phần mềm được thiết kế để thực hiện các tác vụ cụ thể, có thể tự hoàn tất nhiệm vụ đang tăng nhanh gấp đôi từ mỗi 4 đến 7 tháng.
Tuy nhiên, tiến triển trên cũng đang bị lệch. Báo cáo ước tính hiện có hơn 1 tỉ người sử dụng các công cụ AI hội thoại mỗi tuần nhưng việc phát triển vẫn tập trung ở Mỹ và Trung Quốc. Mỹ hiện kiểm soát 75% năng lực tính toán trong số 500 siêu máy tính AI trên toàn cầu so với 15% của Trung Quốc, đẩy phần lớn các nước còn lại vào tình trạng phải phụ thuộc vào những hệ thống mà họ không thể tự phát triển, kiểm định hoặc kiểm soát hoàn toàn.
Một phát hiện khác trong báo cáo là đa số các nước thiếu năng lực kỹ thuật để thực hiện đánh giá về các mô hình AI tiên tiến, và việc đảm bảo an toàn vẫn phụ thuộc gần như hoàn toàn vào những gì do phía nhà phát triển lựa chọn công bố. Cuối cùng, báo cáo hối thúc các chính phủ nhanh chóng tăng cường hợp tác và đầu tư vào năng lực chuyên môn để cùng nhau phát triển AI một cách an toàn, bền vững.
Hiện tượng chatbot “nịnh bợ”
Hội đồng khoa học của LHQ lên tiếng cảnh báo về hiện tượng chatbot “nịnh bợ”, tức việc AI đồng ý với người dùng bất chấp đúng sai. Hành vi này được chứng minh liên quan đến những sự cố sức khỏe tâm thần nghiêm trọng, bao gồm các trường hợp tử vong. Một cuộc nghiên cứu khác được công bố trong năm nay cũng đã mô tả hiện tượng gọi là “vòng xoáy khuếch đại”, khi các chatbot liên tục phản hồi theo hướng củng cố ảo tưởng hoặc nhận thức sai lệch của người dùng.
