Ở thời đại số, chúng ta - những người trưởng thành, thường bắt đầu ngày mới bằng một nghi thức gần như mang tính bản năng: Tương tác với hệ sinh thái thông minh như đồng hồ đeo tay và chiếc điện thoại. 

Chúng ta liếc nhìn vào đồng hồ để kiểm tra chỉ số giấc ngủ, đo lường biến thiên nhịp tim hay đếm số bước chân tích lũy trong bài tập buổi sáng. 

Chúng ta mở ứng dụng thời tiết trên điện thoại để quyết định mặc gì trước khi đi ra ngoài.

Tất cả diễn ra hết sức tự nhiên. Tuyệt đối, không có sự cưỡng bức vật lý nào ở đây. 

Với giao diện tối giản dành cho người dùng, tiện ích từ công nghệ số khiến ta quên mất mình đang vận hành cuộc sống dựa trên gợi ý của phân tích dự đoán từ dữ liệu.

Ban đầu, công nghệ được quảng bá tới công chúng như một công cụ tối ưu hóa cuộc sống, giúp cuộc sống trở nên dễ dàng hơn. Nhưng sau một thời gian, nó bắt đầu thiết lập các tiêu chuẩn về việc thế nào là một trạng thái "chuẩn mực". 

Ranh giới cuối cùng dần bị xóa nhòa: Chúng ta đang sử dụng thuật toán hay chính chúng ta là tập dữ liệu đầu vào để thuật toán huấn luyện và tái cấu trúc?

Khi trí tuệ con người bị "uỷ thác" cho dữ liệu đám mây 

Tất cả những hành vi kể trên được giới chuyên gia gọi là Ủy thác nhận thức hay cụ thể hơn trong bối cảnh con người giao phó hành vi dựa trên thống kê dữ liệu được coi như bộ nhớ đệm xã hội. Chúng ta đang chuyển giao quyền phán đoán, ký ức và các chức năng điều hành cho hệ thống kỹ thuật số.

Máy móc giờ đây không chỉ lưu trữ dữ liệu thô; chúng nắm giữ quyền giải thích thuật toán về sự tồn tại của chúng ta. Khi một cá nhân không còn tin vào cảm giác cơ thể mà phải chờ đợi dữ liệu từ bản sao số (twin digital) trên ứng dụng sức khỏe để xác nhận trạng thái sinh học của mình, đó là lúc quyền tự chủ đã bị lung lay. Sự giám sát toàn diện, từng gây bất an, giờ được tái định nghĩa thành dịch vụ cá nhân hóa cao cấp.

"Chủ nghĩa thực dân dữ liệu" và sự trích xuất thặng dư hành vi

Dưới góc độ kinh tế chính trị số, chúng ta đang sống trong kỷ nguyên của Chủ nghĩa thực dân dữ liệu (Data Colonialism). Mọi tương tác, cảm xúc và thói quen của con người được nhìn nhận như một loại tài nguyên thô.

Trong mô hình chủ nghĩa tư bản giám sát, không gian nội tâm của con người bị xâm chiếm để trích xuất thặng dư hành vi. Mọi cú nhấp, thời gian dừng hay dao động nhịp tim đều được đưa vào các mô hình học máy để dự đoán và định hướng hành vi tương lai. 

Hệ quả nguy hiểm nhất là sự xói mòn khả năng tự quyết: Ta dần học cách hành xử sao cho "tối ưu hóa" với thuật toán, thay vì hành xử theo ý chí tự do.

Cổng kiểm soát thuật toán và những "nhà tù" tư tưởng

Công nghệ cá nhân hóa mang đến lời hứa về một trải nghiệm mượt mà nhưng đồng thời thiết lập nên những cổng kiểm soát thuật toán.

Mỗi cá nhân bị giam giữ trong một "bong bóng bộ lọc" - một vòng lặp kín được tạo ra bởi trí tuệ nhân tạo. Thuật toán ưu tiên sự tương tác hơn là sự thật, đẩy người dùng vào những "phòng phản chiếu" - nơi các định kiến cá nhân liên tục được củng cố. 

Tính thiếu minh bạch của các thuật toán Black-box (Hộp đen) mở đường cho việc thao túng tâm lý trên diện rộng thông qua quảng cáo siêu nhắm chọn, khiến nhận thức xã hội bị phân mảnh và cực đoan hóa.

Khi bạn liên tục thấy nội dung tương đồng trên mạng xã hội, đó là do thuật toán ưu tiên, nó "đóng khung" bạn trong những nội dung lặp lại sở thích, tạo cảm giác thấu hiểu nhưng hạn chế thế giới quan và sự đa dạng xã hội.

Định tính hóa con người qua hệ thống tín dụng xã hội và hiệu ứng ngăn chặn hành vi

Việc chấm điểm hành vi không còn là ẩn dụ của tương lai mà đã hiện hữu thông qua các hệ thống tín dụng xã hội hoặc các chỉ số đánh giá tín nhiệm số. Khi mọi hành động đời thường bị lượng hóa thành điểm số, con người sẽ rơi vào hiệu ứng ngăn chặn.

Để duy trì một "hồ sơ số" sạch, chúng ta tự kiểm duyệt, tự điều chỉnh hành vi theo hướng rập khuôn và tuân thủ các chuẩn mực máy móc. Sự phức tạp, mâu thuẫn và khả năng đột phá của nhân cách con người bị giản lược thành một con số vô hồn. Phẩm giá con người bị mài mòn không phải bằng bạo lực, mà bằng áp lực phải trở nên "tối ưu" trong mắt hệ thống.

Giải pháp Nhân văn số: Đặt con người vào trung tâm hệ sinh thái

Thuật toán, với bản chất là những "hộp đen" phức tạp, thường đưa ra quyết định mà ngay cả người tạo ra chúng cũng không hiểu hết.... Nếu chúng ta tiếp tục chấp nhận để máy móc "uốn nắn" tư duy mà không có cơ chế giám sát, chúng ta đang tiến tới một trật tự xã hội nơi sự tự do bị đánh đổi lấy sự hiệu quả máy móc

Sự thao túng tinh vi nhất là sự thao túng mang lại cảm giác thoải mái. Giải pháp không nằm ở việc cực đoan từ chối kỹ thuật số, mà nằm ở việc thúc đẩy Chủ nghĩa nhân văn số (Digital Humanism). Đây là yêu cầu cấp thiết về việc tái thiết kế công nghệ xoay quanh phẩm giá và quyền tự quyết của con người.

Công nghệ chỉ thực sự được coi là tiến bộ nếu nó mở rộng biên độ tự do của nhân loại. Nếu chúng ta để mặc cho thuật toán uốn nắn tư duy, chúng ta sẽ tiến tới một trật tự xã hội nơi sự tiện lợi trở thành xiềng xích, và tự do bị đánh đổi bằng sự ngoan ngoãn mang tên "tối ưu hóa".

Đừng để trí tuệ nhân tạo trở thành "người cầm lái" duy nhất cho tư duy của bạn. Vì cuối cùng, di sản lớn nhất của nhân loại không phải là những cỗ máy hoàn hảo, mà là năng lực để vẫn giữ được "tính người" giữa một thế giới đang dần bị tối ưu hóa đến vô hồn.