Sự trỗi dậy của AI gây nhiễu loạn thông tin trên nền tảng truyền thông xã hội

Tháng 6/2023, một video được đăng lên Twitter bởi chiến dịch tranh cử tổng thống của Thống đốc Florida Ron DeSantis đã sử dụng những hình ảnh dường như được tạo ra bởi trí tuệ nhân tạo cho thấy cựu Tổng thống Donald Trump đang ôm Tiến sĩ Anthony Fauci. Những hình ảnh, dường như được thiết kế để chỉ trích Trump vì đã không sa thải chuyên gia về bệnh truyền nhiễm hàng đầu của quốc gia, rất khó phát hiện.

Khi những hình ảnh bắt đầu lan truyền, các tổ chức kiểm tra thực tế và những người dùng tinh mắt đã nhanh chóng đánh dấu chúng là giả mạo. Nhưng Twitter, đã cắt giảm nhiều nhân viên của mình trong những tháng gần đây dưới quyền sở hữu mới, đã không xóa video.

Các chuyên gia nghiên cứu cho biết, đây mới chỉ là bước khởi đầu của các sản phẩm do AI tạo ra trước cuộc bầu cử Tổng thống Hoa Kỳ vào năm 2024 để có thể gây nhầm lẫn hoặc đánh lừa cử tri. 

Jevin West, giáo sư tại Đại học Washington và là người đồng sáng lập Trung tâm thông tin công cộng cho biết: “Các chiến dịch đang bắt đầu tăng tốc, các cuộc bầu cử đang diễn ra nhanh chóng và công nghệ đang được cải thiện, chúng tôi đã thấy những tác động mà AI gây ra.”

Các chuyên gia cho biết, các công ty truyền thông xã hội chịu trách nhiệm quan trọng trong việc giải quyết những rủi ro như vậy, vì các nền tảng là nơi hàng tỷ người truy cập thông tin và là nơi những kẻ xấu thường đến để truyền bá những tuyên bố sai sự thật.

Các quan chức hiện tại và trước đây của Hoa Kỳ cũng đã đưa ra cảnh báo rằng quyết định của thẩm phán liên bang hồi đầu tháng này nhằm hạn chế cách thức một số cơ quan Hoa Kỳ liên lạc với các công ty truyền thông xã hội có thể có “tác động lớn” đối với cách chính phủ liên bang và các bang giải quyết thông tin sai lệch liên quan đến bầu cử.

Trong khi đó, AI đang phát triển với tốc độ chóng mặt bất chấp những lời kêu gọi từ những người trong ngành, các nhà lập pháp và cơ quan quản lý của Hoa Kỳ vẫn chưa thực hiện các biện pháp bảo vệ thực sự cho các công nghệ AI.

Nội dung gây hiểu lầm, đặc biệt là liên quan đến bầu cử, không có gì mới. Nhưng với sự trợ giúp của trí tuệ nhân tạo, giờ đây bất kỳ ai cũng có thể tạo ra số lượng lớn nội dung giả mạo một cách nhanh chóng, dễ dàng và không tốn kém.

Và với sự cải tiến nhanh chóng của công nghệ AI trong năm qua, hình ảnh, văn bản, âm thanh và video giả mạo có thể sẽ càng khó phát hiện hơn vào thời điểm cuộc bầu cử Hoa Kỳ diễn ra vào năm tới.

Bảo vệ chống lại thông tin sai lệch do AI tạo ra

Trước năm 2024, nhiều nền tảng đã nói rằng họ sẽ triển khai các kế hoạch để bảo vệ tính toàn vẹn của cuộc bầu cử, bao gồm cả mối đe dọa từ nội dung do AI tạo ra.

Đầu năm nay, TikTok đã đưa ra một chính sách quy định rằng phương tiện “tổng hợp” hoặc bị thao túng do AI tạo ra phải được dán nhãn rõ ràng, bên cạnh chính sách liêm chính công dân nghiêm cấm thông tin sai lệch về quy trình bầu cử và chính sách thông tin sai lệch chung cấm các tuyên bố sai lệch hoặc gây hiểu lầm có thể gây ra “tác hại đáng kể” cho cá nhân hoặc xã hội.

Youtube cũng đã có các chính sách chống lại nội dung có thể đánh lừa người dùng về cách thức và thời điểm bỏ phiếu, những tuyên bố sai sự thật có thể ngăn cản việc bỏ phiếu và nội dung “khuyến khích người khác can thiệp vào các quy trình dân chủ”.

TikTok và Meta cũng đã tham gia một nhóm các đối tác trong ngành công nghệ được điều phối bởi Đối tác phi lợi nhuận về AI chuyên phát triển một khuôn khổ cho việc sử dụng có trách nhiệm phương tiện tổng hợp.

Tuy nhiên, các chuyên gia AI cho biết họ lo lắng rằng hệ thống phát hiện nội dung do máy tính tạo ra của nền tảng có thể gặp khó khăn trong việc theo kịp những tiến bộ của công nghệ. Ngay cả một số công ty đang phát triển các công cụ AI thế hệ mới cũng phải vật lộn để xây dựng các dịch vụ có thể phát hiện chính xác khi nào có thứ gì đó do AI tạo ra.