Tài khoản giả ngày càng khó nhận biết khi AI có thể tạo cả “danh tính”

AI đang giúp dựng cả một "danh tính" trên mạng xã hội

Tài khoản giả trên mạng xã hội không phải hiện tượng mới. Trước đây, các đối tượng thường sử dụng ảnh của người khác, sao chép tên và thông tin cá nhân để tạo hồ sơ giả. Những dấu hiệu như ảnh đại diện xuất hiện ở nhiều tài khoản, lịch sử hoạt động ngắn hoặc thông tin cá nhân sơ sài đôi khi có thể giúp người dùng nhận diện.

Trí tuệ nhân tạo đang làm thay đổi cách thức này.

Trong cảnh báo công bố tháng 12/2024, Cục Điều tra Liên bang Mỹ (FBI) cho biết các đối tượng lừa đảo sử dụng trí tuệ nhân tạo tạo sinh để tạo hàng loạt hồ sơ mạng xã hội giả, hình ảnh đại diện có vẻ chân thực và các nội dung trao đổi nhằm tăng độ thuyết phục. Công nghệ này cũng được sử dụng để tạo văn bản phục vụ các hình thức lừa đảo tình cảm, đầu tư và chiếm đoạt tài chính.

Đến tháng 7/2026, FBI tiếp tục cảnh báo về các tài khoản và trang mạng xã hội giả mạo nhân viên của Trung tâm Khiếu nại Tội phạm Internet. Trong một số trường hợp, đối tượng sử dụng video tạo bằng trí tuệ nhân tạo để giả mạo quan chức FBI, đồng thời dẫn người dùng tới các website giả mạo nhằm thu thập thông tin. FBI nhận định nội dung do AI tạo ra đã phát triển đến mức thường khó nhận biết bằng mắt thường.

Tại Việt Nam, Bộ Công an cũng cảnh báo các đối tượng lừa đảo đang lợi dụng trí tuệ nhân tạo, công nghệ Deepfake và DeepVoice để tạo hình ảnh, video, giọng nói giả mạo người thân, bạn bè hoặc lãnh đạo cơ quan, từ đó tạo dựng lòng tin và yêu cầu nạn nhân chuyển tiền. Một số trường hợp còn thu thập mẫu giọng nói để phục vụ việc giả mạo về sau.

Như vậy, vấn đề không còn đơn thuần là một tài khoản có "ảnh thật hay ảnh giả". Một hồ sơ có thể được xây dựng đồng thời bằng khuôn mặt không có thật, tên gọi, tiểu sử, hình ảnh, bài đăng, giọng nói và các cuộc trò chuyện được tạo ra để duy trì một hình tượng nhất quán.

Khi ảnh, giọng nói và video đều có thể được AI tạo ra

Ảnh đại diện thường là dấu hiệu đầu tiên người dùng nhìn thấy khi tiếp xúc với một tài khoản. Với những tài khoản sử dụng ảnh lấy từ người khác, công cụ tìm kiếm hình ảnh ngược có thể giúp phát hiện nguồn ảnh.

Nhưng cách kiểm tra này có giới hạn khi khuôn mặt trong ảnh được tạo hoàn toàn bằng AI và không tồn tại ở bất kỳ nguồn nào khác.

FBI lưu ý rằng tội phạm có thể sử dụng AI để tạo hình ảnh đại diện cho hồ sơ mạng xã hội, đồng thời tạo văn bản và các cuộc trò chuyện với tốc độ lớn. 

Báo cáo thường niên của Trung tâm Khiếu nại Tội phạm Internet cũng nhận định nội dung tổng hợp bằng AI ngày càng khó phát hiện và dễ tạo hơn, trong khi công nghệ cho phép tạo các hồ sơ mạng xã hội và những cuộc trò chuyện được cá nhân hóa với số lượng lớn.

Một trường hợp được Maldita.es ghi nhận cho thấy vấn đề không chỉ nằm ở những tài khoản lừa đảo trực tiếp. Trong một cuộc điều tra công bố tháng 7/2026, tổ chức kiểm chứng thông tin này theo dõi 25 tài khoản Instagram tự giới thiệu là bác sĩ nhưng thực chất sử dụng nhân vật được tạo bằng AI. 

Các tài khoản có tổng cộng hơn 3,6 triệu người theo dõi và những video liên quan đạt hơn 397 triệu lượt xem. 64% số tài khoản trong mẫu quảng bá hoặc bán các sản phẩm được giới thiệu có lợi ích sức khỏe nhưng không có giấy phép y tế phù hợp. Đáng chú ý, 3 tài khoản có hơn 800.000 người theo dõi còn có dấu xác minh màu xanh của Meta.

Một nghiên cứu khác của Maldita.es công bố tháng 9/2026 xác định 232 tài khoản và trang Facebook đăng nội dung về sức khỏe bằng AI. Các tài khoản này có tổng cộng hơn 81,5 triệu người theo dõi; 36,2% đăng video sử dụng nhân vật do AI tạo ra và đóng vai bác sĩ. Nhóm nghiên cứu lưu ý đây không phải toàn bộ số tài khoản thuộc dạng này, nhưng mẫu thu thập cho thấy một hiện tượng rộng hơn trên nền tảng.

Những trường hợp trên cho thấy một tài khoản có thể tạo cảm giác "thật" không chỉ nhờ một bức ảnh đẹp. Sự kết hợp giữa hình ảnh, lời giới thiệu, bài đăng, lượt tương tác và các cuộc trò chuyện có thể tạo ra một câu chuyện về một con người mà thực tế không tồn tại.

Vì thế, một bức ảnh hoặc một đoạn video trông tự nhiên không còn đủ để xác nhận danh tính. Ngay cả giọng nói cũng không phải bằng chứng tuyệt đối khi công nghệ nhân bản giọng nói đã có thể tạo ra âm thanh rất giống người thật. FBI khuyến cáo người dùng cần xác minh thông tin thông qua các nguồn độc lập khi nghi ngờ nội dung hoặc danh tính trực tuyến.

Các nền tảng cũng phải thay đổi cách nhận diện tài khoản AI

Sự xuất hiện ngày càng nhiều của các tài khoản sử dụng nhân vật do AI tạo ra đang đặt ra yêu cầu mới đối với các nền tảng mạng xã hội. Vấn đề không còn dừng ở việc xác định một hình ảnh có được tạo bằng AI hay không, mà mở rộng sang việc xác định danh tính đứng sau tài khoản: đó là người thật, tài khoản giả mạo một cá nhân có thật hay một nhân vật hoàn toàn do AI tạo ra.

Instagram gần đây đổi cách gắn nhãn từ “AI creator” sang “AI-generated profile” đối với những hồ sơ có nhân vật được tạo bằng AI, nhằm làm rõ hơn với người dùng rằng họ đang tương tác với một nhân vật nhân tạo. Nền tảng cũng cho biết các tài khoản không gắn nhãn theo yêu cầu có thể bị hạn chế khả năng tiếp cận nội dung.

Meta cũng đang sử dụng AI để phân tích nhiều tín hiệu cùng lúc, gồm văn bản, hình ảnh và bối cảnh, nhằm phát hiện các hình thức giả mạo người nổi tiếng, nhân vật công chúng và thương hiệu. Đây là cách tiếp cận khác với việc chỉ tìm kiếm một hình ảnh hoặc một dấu hiệu riêng lẻ.

Facebook thậm chí đã giới thiệu Facebook Verified, một dấu xác minh miễn phí dựa trên quy trình xác thực bằng video selfie nhằm xác nhận có một người thật đứng sau hồ sơ. Tuy nhiên, chính Meta lưu ý dấu xác minh này không đồng nghĩa với việc nền tảng bảo đảm người dùng đó đáng tin cậy hay chứng thực cho mọi nội dung của họ.

Với người dùng, việc nhận diện tài khoản giả không thể chỉ dựa vào một dấu hiệu riêng lẻ mà cần đối chiếu nhiều thông tin. Lịch sử hoạt động, thời điểm tạo tài khoản, nội dung đăng tải, các mối quan hệ và cách tương tác có thể cung cấp thêm căn cứ để đánh giá. Tuy nhiên, đây chỉ là những tín hiệu tham khảo và không yếu tố nào có thể tự mình xác thực danh tính của một tài khoản.

Đặc biệt, khi tài khoản đề nghị chuyển tiền, cung cấp thông tin cá nhân, mã xác thực hoặc thực hiện một giao dịch quan trọng, cách an toàn hơn là xác minh qua một kênh khác đã được biết trước. Nếu một người quen bất ngờ liên hệ bằng tài khoản hoặc số điện thoại mới, có thể chủ động gọi lại số điện thoại cũ hoặc sử dụng một phương thức liên lạc đã xác nhận để kiểm tra.

Khi AI có thể tạo ra ngày càng nhiều thành phần của một hồ sơ trực tuyến, việc xác minh danh tính không thể chỉ dựa vào khuôn mặt, giọng nói hay cách viết. Với những tương tác có thể dẫn đến mất tiền hoặc lộ thông tin cá nhân, kiểm chứng từ một nguồn độc lập vẫn là bước quan trọng nhất trước khi tin tưởng và hành động.

Link nội dung: https://congdankhuyenhoc.vn/tai-khoan-gia-ngay-cang-kho-nhan-biet-khi-ai-co-the-tao-ca-danh-tinh-179260925155013543.htm