OpenAI đang nỗ lực gấp đôi để ngăn chặn AI 'vượt quá giới hạn'

Trong bài đăng mới, nhà đồng sáng lập OpenAI Ilya Sutskever và Giám đốc liên kết Jan Leike bày tỏ lo ngại rằng sự phát triển của trí tuệ nhân tạo có thể lấn át cả năng lực của con người. “Hiện tại chúng tôi chưa có giải pháp để kiểm soát hoặc giám sát siêu trí tuệ AI, chưa thể lường trước các hành vi của AI khi nó vượt quá giới hạn kiểm soát của chúng ta.”- họ chia sẻ.

Hai tác giả cũng nhận định siêu trí tuệ AI có thể sẽ là hệ thống thông minh hơn con người và sẽ xuất hiện trong thập kỷ này. Vậy nên chúng ta cần có những kỹ thuật cải tiến và những bước đột phá trong lĩnh vực “nghiên cứu liên kết” nhằm tập trung vào việc quản lý AI để tạo ra lợi ích cho con người.

Để giải quyết mối lo lắng này, OpenAI với sự hỗ trợ của Microsoft đang dành 20% công nghệ tính toán dự kiến sử dụng trong bốn năm tới. Ngoài ra, công ty cũng đang thành lập một nhóm mới hay còn được gọi là nhóm ‘Siêu liên kết” để nghiên cứu vấn đề này.

Mục tiêu của nhóm là tạo ra sản phẩm nghiên cứu AI "cấp độ con người", sau đó mở rộng nó thông qua năng lực tính toán. Điều này có nghĩa họ sẽ đào tạo các hệ thống AI sử dụng phản hồi của con người, huấn luyện AI hỗ trợ đánh giá con người và cuối cùng là đào tạo hệ thống AI để thật sự có thể tự căn chỉnh nghiên cứu.

Ông Sam Altman, Giám đốc điều hành của OpenAI và ông Ilya Sutskever, đồng sáng lập và Nhà khoa học trưởng của OpenAI trong buổi nói chuyện tại Đại học Tel Aviv ở Tel Aviv, Israel. Nguồn: Internet

Một người ủng hộ AI an toàn, Ông Connor Leahy cho rằng kế hoạch này về cơ bản là thiếu sót vì AI ở “cấp độ con người” bước đầu sẽ phải hoạt động điên cuồng và bị tàn phá trước khi nó có thể thật sự giải quyết vấn đề.

"Cần phải giải quyết vấn đề liên kết trước khi xây dựng trí thông minh cấp độ con người, nếu không, theo mặc định sẽ không kiểm soát được AI. Cá nhân tôi không nghĩ rằng đây là một kế hoạch đặc biệt tốt hay an toàn.", ông nói thêm trong một cuộc phỏng vấn.

Những mối nguy hiểm tiềm tàng của AI luôn là mối quan tâm hàng đầu của cả các nhà nghiên cứu AI và công chúng nói chung. Vào tháng 4, một nhóm các nhà lãnh đạo và chuyên gia trong ngành AI đã ký một bức thư ngỏ kêu gọi tạm dừng sáu tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 của OpenAI, viện dẫn những rủi ro tiềm ẩn cho xã hội. Một cuộc thăm dò hồi tháng 5 của Báo Reuters/Ipsos cho thấy hơn 2/3 người Mỹ lo ngại về những tác động tiêu cực có thể có của AI và 61% tin rằng nó có thể đe dọa nền văn minh nhân loại.

(Báo cáo của Anna Tong ở San Francisco; chỉnh sửa bởi Kenneth Li và Rosalba O'Brien)