Discord ra chính sách cấm lạm dụng tình dục trẻ em bằng AI trên nền tảng

John Redgrave, phó chủ tịch phụ trách an ninh của Discord, cho biết Discord đang mở rộng các chính sách của mình để giải quyết vấn đề trí tuệ nhân tạo có thể tạo ra nội dung giả mạo và tình dục hóa trẻ em, cụ thể là cấm AI mô tả lạm dụng tình dục trẻ em và thậm chí là tình dục hóa trẻ em trong các cuộc trò chuyện bằng văn bản. Tờ Washington Post đã báo cáo vào tháng trước rằng hình ảnh tình dục trẻ em do AI tạo ra đã lan tràn trên internet trong những tháng gần đây.John Redgrave, phó chủ tịch phụ trách an ninh của Discord, cho biết Discord đang mở rộng các chính sách của mình để giải quyết vấn đề trí tuệ nhân tạo có thể tạo ra nội dung giả mạo và tình dục hóa trẻ em, cụ thể là cấm AI mô tả lạm dụng tình dục trẻ em và thậm chí là tình dục hóa trẻ em trong các cuộc trò chuyện bằng văn bản. Tờ Washington Post đã báo cáo vào tháng trước rằng hình ảnh tình dục trẻ em do AI tạo ra đã lan tràn trên internet trong những tháng gần đây.

Discord đã từng là một trung tâm dành cho các cộng đồng dành cho việc tạo ra các hình ảnh AI tổng quát và nó đã tổ chức một số tích hợp cho phép người dùng tạo chúng. Hình ảnh theo chủ đề tình dục thường xuyên được tạo trên các máy chủ đó.

Người phát ngôn của Discord cho biết các bản cập nhật chính sách đã được thực hiện từ quý cuối cùng của năm 2021, một phần trong nỗ lực bao gồm việc tham khảo ý kiến ​​của các chuyên gia về an toàn trẻ em và không liên quan đến bất kỳ báo cáo nào gần đây.

Công ty cho biết trong một bài đăng trên blog thông báo về những thay đổi mà chính sách cập nhật về tài liệu lạm dụng tình dục trẻ em sẽ bao gồm “bất kỳ nội dung văn bản hoặc phương tiện nào khiêu dâm trẻ em, bao gồm cả tài liệu lạm dụng tình dục trẻ em được vẽ, ảnh chân thực và do AI tạo ra. Mục tiêu của bản cập nhật này là để đảm bảo rằng việc tình dục hóa trẻ em trong bất kỳ bối cảnh nào không bị những kẻ xấu bình thường hóa.”

Redgrave cũng cho biết công ty đang thực hiện các thay đổi và làm rõ chính sách để cấm rõ ràng việc hẹn hò với thanh thiếu niên, điều mà các chuyên gia trước đây đã nói với NBC News đã tạo ra cơ hội đáng kể cho những người lớn muốn lợi dụng hoặc dụ dỗ trẻ em.

Discord đã viết trong bài đăng trên blog của mình: “Trong bối cảnh này, chúng tôi cũng tin rằng hẹn hò trực tuyến có thể dẫn đến nguy hiểm cho bản thân. Theo chính sách này, các máy chủ hẹn hò dành cho thanh thiếu niên bị cấm trên nền tảng và chúng tôi sẽ có hành động chống lại những người dùng đang tham gia vào hành vi này.”

Redgrave cho biết trong một bài thuyết trình tại TrustCon, một hội nghị dành cho các chuyên gia về bảo đảm an ninh được tổ chức tại San Francisco, rằng công ty coi những mối quan hệ trực tuyến như vậy là một rủi ro lớn đối với những người trẻ tuổi.

Ông nói: “Chúng tôi sẽ không cho phép hẹn hò với thanh thiếu niên trên nền tảng của mình nữa vì chúng tôi nhận ra rằng đó là một vật trung gian gây hại đáng kể cho những kẻ săn mồi săn lùng thanh thiếu niên”.

Các nguyên tắc của Discord đã nói rằng công ty sẽ "xóa các không gian khuyến khích hoặc tạo điều kiện hẹn hò giữa thanh thiếu niên." Tháng trước, một cuộc điều tra của NBC News đã phát hiện hàng trăm máy chủ Discord dường như quảng cáo tài liệu lạm dụng trẻ em và một số máy chủ tự quảng cáo là máy chủ dành cho thanh thiếu niên hoặc trẻ em hẹn hò để gạ gẫm hình ảnh khỏa thân từ trẻ vị thành niên. Ngoài ra, NBC News đã xác định được 35 trường hợp trong sáu năm qua, trong đó người lớn bị truy tố về tội bắt cóc, dụ dỗ hoặc tấn công tình dục được cho là có liên quan đến giao tiếp trên Discord.

NBC News đã xác định thêm 165 trường hợp, bao gồm 4 đường dây tội phạm bị cáo buộc, trong đó người lớn bị truy tố vì bị cáo buộc truyền hoặc nhận tài liệu lạm dụng tình dục trẻ em qua Discord hoặc bị cáo buộc sử dụng nó để tống tiền trẻ em gửi hình ảnh khiêu dâm của chính họ, còn được gọi là tống tiền tình dục. 

Là một phần trong các bản cập nhật chính sách của mình, Discord đã công bố ra mắt nhiều công cụ hơn để phụ huynh kiểm soát. Trong công cụ Trung tâm gia đình mới, cha mẹ và trẻ em có thể chọn tham gia để cha mẹ nhận thông tin cập nhật về các hoạt động của con mình trên nền tảng này.