Meta gắn nhãn nội dung do AI tạo ra nhằm ngăn chặn thông tin sai lệch trước thềm bầu cử Tổng thống Mỹ

Facebook và Instagram gắn nhãn nội dung do trí tuệ nhân tạo tạo ra

Meta, chủ sở hữu của Facebook và Instagram, đã công bố những thay đổi lớn trong chính sách của mình đối với nội dung được tạo ra và thay đổi bằng công nghệ trí tuệ nhân tạo.

Theo đó, từ tháng 5 tới, các video, hình ảnh và âm thanh do trí tuệ nhân tạo tạo ra đăng trên Facebook và Instagram sẽ được gắn nhãn "Made with AI".

Bà Monika Bickert - Phó chủ tịch phụ trách chính sách nội dung của Meta cho biết thêm, không chỉ giải quyết một phần hẹp các video đã được chỉnh sửa, Meta cũng sẽ áp dụng các nhãn “High-risk” (rủi ro cao) cho các nội dung được thay đổi kỹ thuật số có "nguy cơ đặc biệt cao trong việc đánh lừa công chúng về một vấn đề quan trọng", bất kể nội dung đó có được tạo bằng trí tuệ nhân tạo hay các công cụ khác. 

Meta cho biết, các khuyến nghị của họ được đưa ra thông qua quá trình tham vấn với các tổ chức xã hội dân sự, các học giả, các tổ chức liên chính phủ và các chuyên gia khác. Đồng thời tiến hành nghiên cứu dư luận với hơn 23.000 người từ 13 quốc gia. Phần lớn những người tham gia (82%) ủng hộ nhãn cảnh báo cho nội dung sai lệch do trí tuệ nhân tạo tạo ra.

Quy định mới này sẽ thay đổi cách Meta xử lý các nội dung bị "thao túng", chuyển từ việc tập trung vào xóa một nhóm bài đăng hạn chế sang duy trì nội dung trong khi cung cấp cho người xem thông tin về cách nó được tạo ra.

Việc này cung cấp cho người dùng nhiều thông tin hơn về nội dung, giúp họ đánh giá tốt hơn và có bối cảnh nếu họ nhìn thấy nội dung tương tự ở những nơi khác

Người phát ngôn của công ty cho biết quy định gắn nhãn sẽ áp dụng cho nội dung được đăng trên Facebook, Instagram và Threads. Các dịch vụ khác, bao gồm tai nghe thực tế ảo WhatsApp và Quest, sẽ được quản lý bởi các quy tắc riêng.

Nỗ lực xác định nội dung sai lệch do trí tuệ nhân tạo tạo ra và giải quyết rủi ro tiềm ẩn của chúng

Đây là một trong những nỗ lực của ông lớn công nghệ Meta nhằm giải quyết vấn đề ngày càng đáng lo ngại về sự lan rộng của nội dung do trí tuệ nhân tạo tạo ra và những rủi ro tiềm ẩn đối với công chúng. 

Những thay đổi này được thực hiện trong bối cảnh các nhà nghiên cứu công nghệ cảnh báo nhiều nội dung trên mạng xã hội có thể bị biến đổi bởi các công nghệ trí tuệ nhân tạo tạo sinh trước thềm cuộc bầu cử tổng thống Mỹ sẽ diễn ra vào tháng 11 tới.

Đầu năm nay, một nhà tư vấn chính trị đã thực hiện các cuộc gọi tự động quy mô lớn bằng giọng nói được tạo bởi AI, mô phỏng giọng của Tổng thống Joe Biden, kêu gọi mọi người ở tiểu bang New Hampshire (Mỹ) không đi bỏ phiếu trong cuộc bầu cử sơ bộ. 

Trước đây, Meta đã công bố kế hoạch phát hiện và đánh dấu các hình ảnh được tạo bằng công cụ trí tuệ nhân tạo tạo sinh của các công ty khác bằng cách sử dụng các điểm đánh dấu vô hình được tích hợp trong tệp nhưng chưa công bố thời điểm thực hiện kế hoạch này.

Bên cạnh Meta, Google, thông qua YouTube, cũng bắt đầu yêu cầu người sáng tạo phải tiết lộ video được chỉnh sửa bằng trí tuệ nhân tạo từ tháng trước, như công bố hình ảnh chân dung người hoặc cảnh quay "trung thực" hoặc cảnh quay được chỉnh sửa của các sự kiện hoặc địa điểm thực tế.

Nền tảng video âm nhạc và mạng xã hội TikTok cũng nỗ lực xác định nội dung được hỗ trợ bởi trí tuệ nhân tạo. Năm ngoái, TikTok cho biết sẽ ra mắt một công cụ giúp người sáng tạo dán nhãn cho nội dung được chỉnh sửa, đồng thời cấm deepfake - công nghệ tạo ra video, hình ảnh hoặc âm thanh được hỗ trợ bởi trí tuệ nhân tạo nhằm đánh lừa người xem về các sự kiện hoặc nhân vật thực tế.