Sự trỗi dậy của việc đánh cắp danh tính kỹ thuật số: Cách AI 'tái tạo' đang cướp đi danh tính của người sáng tạo

Ảo tưởng về tính xác thực

Hãy tưởng tượng bạn đang lướt qua trang mạng xã hội của mình và thấy một video về chính mình. Bối cảnh quen thuộc—chiếc xe của bạn. Giọng nói không thể nhầm lẫn là của bạn, với ngữ điệu và sự ấm áp đặc trưng của bạn. Cử chỉ tay, trang phục, và thậm chí cả cách bạn nghiêng người về phía máy quay đều được sao chép hoàn hảo. Tuy nhiên, có một điểm khác biệt đáng kinh ngạc: khuôn mặt đang nhìn lại bạn không phải là của bạn. Đây là thực tế đáng lo ngại của 'thay đổi diện mạo', một hình thức đánh cắp danh tính tinh vi do trí tuệ nhân tạo điều khiển hiện đang lan rộng trong nền kinh tế của người sáng tạo nội dung.

Bên trong cơn ác mộng 'Thay đổi diện mạo'

Paige Davis, một người sáng tạo nội dung, phát hiện ra mình đã trở thành nạn nhân của hiện tượng kỹ thuật số này khi bạn bè và người theo dõi bắt đầu gửi cho cô những đoạn clip về một phiên bản tổng hợp của chính mình. Trong những video này, toàn bộ sự hiện diện vật lý của cô ấy—cơ thể, giọng nói và môi trường xung quanh—đã bị chiếm đoạt, trong khi khuôn mặt của cô ấy đã được thay thế bằng một nhân vật do AI tạo ra.

"Tôi đã nhấp vào video và nghĩ, 'Cái quái gì thế này?'" Davis nhớ lại. "Tôi chưa bao giờ thấy AI nào chính xác đến vậy, và nó còn gây sốc hơn rất nhiều khi đó lại là chính mình. Đó là trang phục của tôi, giọng nói của tôi, dây an toàn của tôi. Theo đúng nghĩa đen, tất cả những gì nó làm chỉ là thay đổi khuôn mặt."

Cơ chế của việc đánh cắp danh tính kỹ thuật số

Quá trình thay đổi diện mạo được thúc đẩy bởi một thị trường đen tối và sinh lợi. Logic kinh tế rất đơn giản: xây dựng lòng tin và sức hút thực sự với khán giả mất nhiều năm, nhưng sao chép lòng tin đó chỉ mất vài giây. Bằng cách đánh cắp "linh hồn" của video của một người sáng tạo thành công và chỉ đơn giản là thay đổi khuôn mặt, những kẻ xấu có thể bỏ qua phần khó nhất của việc tạo nội dung—thiết lập tính xác thực.

Điều này được thực hiện bằng cách sử dụng các công cụ AI tiên tiến như SyncLabs và Wav2Lip. Các chương trình này có thể lấy âm thanh bị đánh cắp và ghép nó vào video mục tiêu, tự động đồng bộ hóa chuyển động miệng từng khung hình để tạo ra một màn trình diễn liền mạch, mặc dù gian lận. Mục tiêu thường là về tài chính, từ việc thu hút lưu lượng truy cập đến các hồ sơ giả mạo đến việc đảm bảo các khoản thanh toán liên kết gian lận.

Sự thất bại của việc kiểm duyệt nền tảng

Có lẽ đáng báo động hơn cả chính hành vi đánh cắp là sự bất lực—hoặc không muốn—của các nền tảng truyền thông xã hội trong việc bảo vệ người dùng của họ. Khi Davis tập hợp hàng ngàn người theo dõi để báo cáo nội dung bị đánh cắp, cô ấy đã gặp phải một bức tường từ chối tự động. Trong 48 giờ, mọi báo cáo đều nhận được cùng một phản hồi robot: nội dung do AI tạo ra không vi phạm các tiêu chuẩn cộng đồng.

Video đã bị xóa trong một thời gian ngắn, nhưng lại xuất hiện hai ngày sau đó. Chỉ sau một quá trình khiếu nại Sở hữu Trí tuệ thủ công đầy gian khổ—yêu cầu giấy tờ tùy thân của chính phủ và ngôn ngữ pháp lý chính thức—nội dung mới bị xóa bỏ. Điều này làm nổi bật một lỗ hổng mang tính hệ thống: trong khi những người sáng tạo nổi tiếng có thể có nguồn lực để chống trả, người dùng bình thường lại hoàn toàn dễ bị tổn thương.

Mối đe dọa rộng hơn đối với người dùng bình thường

Mặc dù những người có tầm ảnh hưởng là mục tiêu dễ thấy nhất, nhưng nguy hiểm lan rộng đến tất cả mọi người có dấu vết kỹ thuật số. Văn hóa 'tự nguyện tham gia' của các tập đoàn công nghệ lớn, điển hình là việc Meta triển khai các công cụ AI sử dụng ảnh người dùng theo mặc định, coi danh tính cá nhân như nguyên liệu thô cho các thử nghiệm của doanh nghiệp.

Hậu quả rất sâu rộng. Khi việc đánh cắp danh tính chỉ cần vài cú nhấp chuột, nó vượt ra ngoài phạm vi 'sáng tạo nội dung' và bước vào lãnh địa của mối nguy hiểm thực sự. Khả năng giả mạo giọng nói và hình thể của người khác một cách thuyết phục có thể gây ra hậu quả nghiêm trọng đối với danh tiếng nghề nghiệp và cuộc sống cá nhân của một người.

Cuộc chiến vì trách nhiệm giải trình kỹ thuật số

Trong khi các công ty AI như xAI đang đấu tranh để bãi bỏ lệnh cấm của các tiểu bang đối với deepfake trái phép—lập luận rằng trách nhiệm pháp lý vi phạm quyền tự do ngôn luận—gánh nặng bào chữa vẫn hoàn toàn thuộc về nạn nhân. Chiến lược của ngành công nghiệp này rất rõ ràng: cung cấp các công cụ để đánh cắp, sau đó tuyên bố miễn trừ khỏi hậu quả.

Tuy nhiên, đang có một phong trào ngày càng lớn mạnh hướng tới sự hiểu biết và trách nhiệm giải trình kỹ thuật số. Bằng cách vạch trần những "kẻ giả mạo kỹ thuật số" và yêu cầu sự bảo vệ tốt hơn từ các nền tảng như TikTok và Instagram, người sáng tạo và người dùng đang đấu tranh để lấy lại hình ảnh của chính họ. Trong thời đại mà mã lập trình có thể làm giả khuôn mặt, thứ duy nhất còn lại có giá trị là sự thật.