Google đối mặt thách thức phát hiện nội dung deepfake

Google đã cập nhật thuật toán tìm kiếm của mình để giúp chống lại hình ảnh deepfake rõ ràng. Google cũng mở rộng tính năng About This Image sang Circle to Search và Google Lens.

Nhiều người hiện nay đang lợi dụng công nghệ AI để tạo ra các hình ảnh deepfake mang tính khiêu dâm và phát tán chúng trên internet. Để đối phó với tình trạng này, Google đã đưa ra chính sách cho phép người dùng yêu cầu xóa bỏ các hình ảnh khiêu dâm giả mạo không có sự đồng thuận khỏi kết quả tìm kiếm. Tuy nhiên, nhằm tăng cường hiệu quả của quá trình này, Google đang tiến hành cập nhật thuật toán tìm kiếm của mình.

Theo cập nhật mới, khi người dùng yêu cầu xóa các nội dung giả mạo rõ ràng, Google sẽ không chỉ thực hiện yêu cầu mà còn tìm kiếm các kết quả tương tự liên quan trong các tìm kiếm khác. Điều này có nghĩa là Google sẽ chủ động tìm kiếm các bản sao của hình ảnh rõ ràng mà người dùng muốn xóa.

Bên cạnh việc giúp người dùng dễ dàng yêu cầu xóa bỏ các nội dung giả mạo, Google cũng đang cải tiến hệ thống xếp hạng cho các kết quả tìm kiếm liên quan. Chẳng hạn, nếu truy vấn tìm kiếm liên quan đến nội dung giả mạo và bao gồm tên của một người, người dùng sẽ thấy các nội dung không rõ ràng liên quan đến cá nhân đó xuất hiện trong các kết quả trang đầu, bao gồm các bài viết hoặc báo cáo về tác động của nội dung deepfake đối với xã hội. 

Hơn nữa, nếu Google phát hiện rằng nhiều trang đã bị xóa khỏi một trang web do vi phạm chính sách tìm kiếm, họ sẽ hạ thứ hạng của trang web đó, ngay cả khi không liên quan đến nội dung khiêu dâm.

Một trong những thách thức lớn nhất mà các công cụ tìm kiếm gặp phải trong việc loại bỏ nội dung deepfake là phân biệt chúng với nội dung thật, và Google cũng không phải là ngoại lệ. 

Công ty đang gặp khó khăn trong việc phân biệt giữa các hình ảnh thực sự của diễn viên trong các bộ phim và những cảnh quay giả mạo. Google đang nỗ lực không ngừng để cải thiện khả năng phân loại hai loại nội dung này.

Tính năng About This Image của Google đang mở rộng sang Circle để tìm kiếm và Google Lens  

Để giúp người dùng tìm kiếm thông tin chính xác hơn, Google đã ra mắt tính năng "About This Image" vào năm ngoái. Tính năng này cho phép người dùng khám phá câu chuyện đứng sau mỗi bức ảnh, tìm hiểu về nơi hình ảnh được sử dụng trực tuyến và xem các đánh giá từ trang web kiểm tra thực tế. Nhờ vậy, người dùng có thể xác minh tính xác thực của các thông tin liên quan đến hình ảnh.

"Bên cạnh đó, tính năng "About This Image" còn cung cấp siêu dữ liệu, giúp người dùng nắm rõ hơn về những người tạo ra hình ảnh cùng nguồn gốc của chúng. Đặc biệt, tính năng này có khả năng phát hiện hình ảnh được tạo ra bởi trí tuệ nhân tạo (AI), nhưng chỉ với những hình ảnh đã nhúng hình mờ Google DeepMind SynthID. Điều này hỗ trợ đáng kể trong việc nhận diện các hình ảnh deepfake rõ ràng.

Hiện nay, Google đang mở rộng tính năng này sang các dịch vụ Circle to Search và Google Lens. Để sử dụng tính năng với Circle to Search, người dùng chỉ cần nhấn nút trang chủ hoặc thanh điều hướng trên điện thoại Android của mình, sau đó khoanh tròn hình ảnh mà họ muốn tìm hiểu. Google sẽ cung cấp các kết quả tìm kiếm liên quan, và thông tin về hình ảnh sẽ hiển thị khi người dùng chạm vào tab "About This Image".

Nếu điện thoại của bạn không hỗ trợ Circle to Search, bạn vẫn có thể truy cập tính năng này qua Google Lens. Chỉ cần chụp ảnh màn hình của hình ảnh, mở ứng dụng Google, nhấn biểu tượng Lens, chọn hình ảnh từ thư viện và vuốt lên để xem kết quả, sau đó chạm vào tab "About This Image".

Tính năng "About This Image" hiện đã có sẵn bằng 40 ngôn ngữ khác nhau. Tuy nhiên, tính năng này với Circle to Search chỉ khả dụng trên một số thiết bị Android, bao gồm các điện thoại thông minh Samsung và Google Pixel mới nhất.

Sự phát triển của công nghệ đã mang lại nhiều cơ hội nhưng cũng đồng thời tạo ra không ít thách thức, đặc biệt là trong việc phân biệt thông tin thật và giả. Qua việc triển khai tính năng "About This Image" cùng với các công cụ hỗ trợ như Circle to Search và Google Lens, Google không chỉ giúp người dùng dễ dàng kiểm tra nguồn gốc và bối cảnh của hình ảnh mà còn nâng cao nhận thức về tính xác thực của thông tin trong môi trường mạng. 

Sự nỗ lực này thể hiện cam kết của Google trong việc góp phần xây dựng một không gian mạng an toàn, minh bạch và đáng tin cậy, góp phần bảo vệ người dùng khỏi những tác động tiêu cực của nội dung giả mạo.