Khi sự đồng cảm bị biến thành món hàng

Câu chuyện bắt đầu từ những video đầy xúc động trên TikTok. Ví dụ điển hình là một tài khoản xã hội có tên là  Aliyah - cô ấy có dáng vẻ của một phụ nữ da đen, xuất hiện trong trang phục miền Tây nước Mỹ, vừa khóc vừa cầu xin người xem ủng hộ công việc kinh doanh khóa thắt lưng thủ công đang bên bờ vực phá sản. 

Cô đánh vào tâm lý người xem bằng những dòng chữ đầy sức nặng: "Ngay cả khi là một phụ nữ da đen, tôi vẫn tin tưởng hơn rằng phụ nữ da trắng sẽ xem video này trong 13 giây để cứu vãn công việc kinh doanh của tôi".

Tuy nhiên, sự thật là Aliyah không có thật. Cô chỉ là một trong hàng trăm hình đại diện do AI tạo ra để thực hiện hình thức bán hàng dropshipping. 

Những chiếc khóa thắt lưng được quảng cáo là "thủ công" thực chất là hàng sản xuất hàng loạt trên trang thời trang nhanh Shein với giá chỉ bằng một phần tư giá bán của Aliyah.

Chiêu trò "mặt đen kỹ thuật số" và lợi dụng lòng trắc ẩn

Các chuyên gia gọi đây là "chiêu trò lợi dụng lòng trắc ẩn" (compassion baiting). Những kẻ lừa đảo tạo dựng hình ảnh các doanh nghiệp nhỏ do những nhóm yếu thế làm chủ (như người da đen, người gốc Tây Ban Nha) đang gặp khó khăn để khơi dậy sự đoàn kết chủng tộc hoặc giai cấp.

Nghiêm trọng hơn, xu hướng này được xem là một dạng "mặt đen kỹ thuật số" (digital blackface). Theo nhà nghiên cứu Cienna Davis, đây là hiện tượng những người không phải da đen sử dụng công nghệ AI để bắt chước các biểu hiện văn hóa và "hình ảnh quen thuộc về cuộc đấu tranh của người da đen" nhằm mục đích kinh tế. Việc này không chỉ là lừa đảo tài chính mà còn là sự chiếm đoạt và biếm họa bản sắc chủng tộc để phục vụ lợi nhuận.

Công nghệ đằng sau những "nước mắt robot"

Quy mô của những trò lừa đảo này là rất lớn, với ước tính khoảng 100 tài khoản mới xuất hiện mỗi ngày. Kẻ xấu sử dụng các công cụ như ChatGPT để sao chép kịch bản từ những người có tầm ảnh hưởng thực, sau đó dùng các ứng dụng AI như Kling 2.0 hoặc Midjourney để thay thế người thật bằng các nhân vật ảo.

Dù công nghệ ngày càng tinh vi, người dùng vẫn có thể nhận diện các video này qua một số dấu hiệu bất thường:

- Lỗi đồ họa: Bàn tay cầm sản phẩm có màu da không khớp với khuôn mặt (ví dụ bàn tay màu trắng của nhân vật da đen).

- Sự phi lý vật lý: Nước mắt biến mất ngay khi vừa lau, hoặc nhân vật thực hiện các thao tác khâu vá ở những vị trí không cần thiết.

- Âm thanh: Giọng nói nghe như robot, thiếu cảm xúc và không khớp với biểu cảm gương mặt,.

 - Thời lượng: Các video thường không dài quá 15 giây do hạn chế của các công cụ AI hiện nay.

Thuật toán và sự tiếp tay vô hình

Tại sao những video giả mạo này lại đạt được hàng triệu lượt xem? Câu trả lời nằm ở thuật toán của các nền tảng mạng xã hội. Thuật toán thường ưu tiên hiển thị nội dung dựa trên nhân khẩu học và sở thích suy luận được của người dùng. Một phụ nữ da đen thường sẽ thấy các nhân vật AI da đen trên nguồn cấp dữ liệu của mình, tạo ra một cảm giác tin tưởng giả tạo.

Bên cạnh đó, thói quen "cuộn chuột vô thức" của người dùng khiến họ thường tương tác (thả tim, bình luận) trước khi kịp nhận ra video đó là sản phẩm của AI. Chính sự tương tác từ những người có lòng tốt muốn giúp đỡ lại vô tình đẩy video lên xu hướng, giúp kẻ lừa đảo tiếp cận thêm nhiều nạn nhân mới.

Lời cảnh báo về trách nhiệm của nền tảng

Hiện tại, các nền tảng như TikTok, Instagram và Facebook vẫn đang bị chỉ trích vì thiếu các cơ chế kiểm duyệt và gắn nhãn nội dung AI rõ ràng. Các chuyên gia cảnh báo rằng nếu không có sự can thiệp từ chính các nền tảng để minh bạch hóa tài khoản và gắn nhãn tự động, những kẻ lừa đảo sẽ tiếp tục lợi dụng lòng tốt của con người để trục lợi,.

Người tiêu dùng được khuyến cáo cần nâng cao khả năng phân định truyền thông, dành thêm vài giây để quan sát kỹ nội dung trước khi quyết định đầu tư cảm xúc hoặc tiền bạc vào một "doanh nghiệp nhỏ" trên mạng xã hội,.