LinkedIn tiết lộ AI Image Hunter phát hiện hồ sơ giả

LinkedIn đã phát triển một công cụ phát hiện hình ảnh AI mới được tuyên bố là có thể bắt được 99,6% hình ảnh hồ sơ giả, với tỷ lệ dương tính giả là 1%.

Hồ sơ LinkedIn giả?

Có nhiều lý do tại sao mọi người tạo hồ sơ LinkedIn giả.

Đối với một số thành viên của cộng đồng tiếp thị tìm kiếm liên kết, lý do để thiết lập một hồ sơ giả là chúng có khả năng tăng độ uy tín của trang web đối với Google khi tác giả bài viết trên trang web đó có liên kết với hồ sơ LinkedIn.

Ý tưởng này bắt nguồn từ khuyến khích của Google rằng nội dung nên có những gì được gọi là EEAT, Kinh nghiệm (Experience), Chuyên môn (Expertise), Tính có thẩm quyền (Authoritativeness) và Độ tin cậy (Trustworthiness).

Đối với những người khác, lý do để tạo ra một tài khoản LinkedIn giả là tạo ra một trang web đáng tin cậy hơn cho khách truy cập vào trang web của họ.

Điều này chỉ giải thích lý do chứ hoàn toàn không khuyến khích những hành động này.

Sự ra đời của khả năng tạo ảnh hồ sơ bằng AI vô tình trở thành cơ hội cho những hồ sơ giả được thiết lập dễ dàng hơn, điều này làm trầm trọng thêm một vấn đề vốn đã rất lớn theo cấp số nhân.

Các báo cáo về Hồ sơ LinkedIn giả được công bố vào năm 2022 lưu ý rằng LinkedIn đã phát hiện và xóa 21 triệu tài khoản giả trong nửa đầu năm 2022.

Theo LinkedIn:

“Chúng tôi không ngừng làm việc để cải thiện và nâng cao hiệu quả của các biện pháp phòng vệ chống lạm dụng nhằm bảo vệ trải nghiệm của các thành viên và khách hàng của chúng tôi. Và như một phần trong công việc đang diễn ra của chúng tôi, chúng tôi đã hợp tác với giới học thuật để đi trước một bước trong các loại lạm dụng mới liên quan đến các tài khoản giả mạo đang tận dụng các công nghệ phát triển nhanh chóng như trí tuệ nhân tạo AI.”

Tài khoản giả khó phát hiện

LinkedIn liên tục cập nhật hệ thống của họ để phát hiện nhiều loại hoạt động không mong muốn như hồ sơ giả mạo, chiếm đoạt tài khoản và vi phạm chính sách nội dung.

Việc giới thiệu hình ảnh do AI tạo ra đã khiến việc phát hiện hình ảnh giả gần như không thể xảy ra nếu bạn không biết phải tìm gì.

LinkedIn xác định "đồ tạo tác" là đặc điểm nổi bật của hình ảnh hồ sơ AI giả mạo.

Hầu hết mọi người không biết cách phát hiện hình ảnh AI nên mọi người rất dễ nhầm tài khoản giả với tài khoản thật.

LinkedIn đã chia sẻ:

“Với sự gia tăng của phương tiện tổng hợp do AI tạo ra và phương tiện được tạo từ văn bản thành hình ảnh, các hồ sơ giả ngày càng trở nên tinh vi hơn.

Và chúng tôi nhận thấy rằng hầu hết các thành viên thường không thể phân biệt bằng mắt thường khuôn mặt thật với khuôn mặt nhân tạo…”

Cách LinkedIn nắm bắt nội dung do AI tạo

Một đặc điểm của các hình ảnh được tạo ra một cách giả tạo là tất cả chúng đều có chung các mẫu giống nhau, cái mà LinkedIn gọi là sự khác biệt về cấu trúc.

Hình ảnh thực không có sự đồng điệu về các thành phần cấu trúc. LinkedIn đã chia sẻ một ví dụ về tổng hợp 400 hình ảnh nhân tạo và 400 hình ảnh thực. Tổng hợp các hình ảnh giả cho thấy các khu vực xung quanh mắt và mũi có xu hướng rất giống nhau. Tổng hợp của các hình ảnh thực không có điểm chung nào với bất kỳ hình ảnh nào khác.

Kết quả nghiên cứu ấn tượng của Linkedln

LinkedIn chia sẻ:
“Tỷ lệ tích cực thực sự (TPR) là tỷ lệ phần trăm ảnh tổng hợp được phân loại chính xác là ảnh tổng hợp. Tỷ lệ dương tính giả (FPR) là tỷ lệ phần trăm ảnh thật được phân loại không chính xác là ảnh tổng hợp.

Phương pháp tiếp cận của chúng tôi có thể phát hiện 99,6% (TPR) khuôn mặt StyleGAN, StyleGAN2 và StyleGAN3 tổng hợp, trong khi chỉ phân loại sai 1% (FPR) ảnh hồ sơ LinkedIn thực là khuôn mặt tổng hợp.

Đối với kết quả điểm chuẩn trong tài liệu nghiên cứu của mình, chúng tôi đã chọn mục tiêu 1% FPR, vì đối với các ứng dụng trong thế giới thực trên mạng chuyên nghiệp lớn điều quan trọng đối với các mô hình phát hiện hình ảnh do AI tạo ra là nắm bắt hầu hết các hình ảnh tổng hợp, trong khi chỉ hiếm khi phân loại một hình ảnh thực là tổng hợp.”

Trình phát hiện AI của LinkedIn hiệu quả như thế nào trong thế giới thực?

Nhà tiếp thị liên kết có hồ sơ LinkedIn giả mạo đã chia sẻ rằng LinkedIn có thể bắt được 100% hồ sơ LinkedIn giả mạo của họ.

Họ đã chia sẻ kinh nghiệm của họ với tôi:

“Là một nhà tiếp thị liên kết, việc có hồ sơ LinkedIn cho nhân vật giả mạo của tôi là một cách tuyệt vời để tạo uy tín cho các tác giả của tôi.

Nó đặc biệt hữu ích cho việc xây dựng liên kết HARO, vì các phóng viên có xu hướng liên kết thường xuyên hơn với các trang web của những người có hồ sơ LinkedIn.

Trong vài tháng qua, 90% hồ sơ của tôi đã bị LinkedIn đình chỉ.

Thật không may, bây giờ tôi phải tìm một phương pháp khác để tăng độ tin cậy cho các tác giả của mình và làm cho họ có vẻ hợp pháp.”

LinkedIn tiếp tục cải thiện khả năng phát hiện các hồ sơ giả mạo của họ. Khả năng tạo một hồ sơ giả thậm chí còn khó hơn.