Nhân vật số nhạy cảm vì nó dùng chính những thứ con người dựa vào để nhận ra nhau và tin nhau: gương mặt, giọng nói, cách nói chuyện. Một bảng tính làm sai thì người ta sửa số; một gương mặt quen nói điều sai thì người ta tin, chia sẻ, và người có gương mặt đó phải gánh hậu quả.
Vì vậy cùng một công cụ có thể giúp giáo viên làm bài giảng nhanh gấp mấy lần, cũng có thể bị dùng để giả mạo, làm nhục hay lừa tiền. Phần lớn tranh cãi quanh nhân vật số không nằm ở công nghệ mà ở tám câu hỏi lặp đi lặp lại. Bài này đi qua từng câu, đặt chúng cạnh nhau để bạn thấy bức tranh chung, rồi rút ra ba nguyên tắc đủ để người làm nội dung, giáo viên hay chủ cửa hàng tự kiểm trước khi dùng.
Nhạy cảm vì chạm vào danh tính
Hầu hết công nghệ làm việc với dữ liệu về con người: số điện thoại, lịch sử mua hàng, bảng điểm. Nhân vật số thì khác: nó không chỉ dùng dữ liệu về một người mà tái tạo chính sự hiện diện của người đó. Khi bạn nghe giọng mẹ qua điện thoại, bạn không kiểm tra gì cả, bạn tin ngay. Khi thấy mặt sếp trong một cuộc gọi video, bạn làm theo. Những phản xạ tin tưởng đó được hình thành qua cả đời người, và nhân vật số có khả năng kích hoạt chúng.
Một điểm nữa: hình ảnh và giọng nói của mỗi người gắn với danh dự, uy tín, quan hệ xã hội của họ. Một đoạn video giả có thể lan đi nhanh hơn mọi lời đính chính. Pháp luật Việt Nam, như nhiều nước, coi quyền đối với hình ảnh là quyền nhân thân của cá nhân, và quy định về bảo vệ dữ liệu cá nhân xếp dữ liệu sinh trắc học vào nhóm cần bảo vệ chặt. Những quy định này phản ánh đúng mức độ nhạy cảm đó.
Thêm vào đó, công cụ đã rẻ và dễ dùng hơn nhiều. Trước đây, làm một gương mặt số thuyết phục cần một xưởng phim; nay một người có máy tính có thể làm trong vài giờ. Khi rào cản kỹ thuật thấp đi, rào cản đạo đức và pháp lý phải gánh nhiều hơn. Đó là lý do chủ đề này được bàn nhiều, và lý do mọi hướng dẫn trên trang đều bắt đầu bằng câu hỏi đồng ý.
Tám câu hỏi lặp đi lặp lại
Đồng ý: người có gương mặt, giọng nói đã cho phép chưa? Đây là câu hỏi đầu tiên và quan trọng nhất. Đồng ý cần rõ phạm vi, có thời hạn và có cách rút lại; một cái gật đầu trong bữa tiệc không phải là đồng ý cho mọi video về sau.
Lòng tin: người xem có biết mình đang xem nhân vật số không? Khi người xem tưởng nhầm là người thật, mọi lời nhân vật nói đều mang thêm sức nặng mà nó không xứng có. Gắn nhãn là cách đơn giản nhất để giữ lòng tin.
Lạm dụng: công cụ có bị dùng để giả mạo không? Giả giọng người thân để vay tiền, giả mặt lãnh đạo để ra lệnh chuyển khoản là những hình thức lừa đảo có thật. Cách nhận biết và phòng tránh có trên AI Bảo Mật; ở đây chỉ cần nhớ rằng mẫu hình và mẫu giọng của bạn cần được giữ như giấy tờ tuỳ thân.
Phẩm giá: nội dung có làm nhục ai không? Ghép mặt người khác vào nội dung gợi dục, bạo lực hay chế giễu gây tổn thương nghiêm trọng cho nạn nhân, dù ai cũng biết là giả. Đây là ranh giới không có ngoại lệ.
Trẻ em: trẻ có phân biệt được không và hình ảnh của trẻ có được bảo vệ không? Trẻ nhỏ khó phân biệt nhân vật số với người thật, dễ gắn bó với nhân vật trò chuyện. Hình ảnh của trẻ không bao giờ nên được dùng làm mẫu cho nhân vật số ngoài phạm vi gia đình, và tuyệt đối không bị ghép vào bất kỳ nội dung không phù hợp nào.
Người đã mất: ai có quyền quyết định? Tái hiện người thân đã mất có thể an ủi, cũng có thể làm đau. Gia đình phải đồng ý, mong muốn của người đã mất nếu từng nói ra cần được tôn trọng, và nhân vật không nên nói điều người đó chưa từng nói.
Việc làm: người lồng tiếng, người dẫn chương trình có bị thay thế không? Đây là câu hỏi thật với những nghề dùng giọng và gương mặt để kiếm sống. Ít nhất, khi dùng hình hay giọng của họ làm mẫu, họ phải được hỏi, được trả công và biết mẫu của mình được dùng vào đâu.
Chuẩn so sánh: hình ảnh hoàn hảo có làm người xem tự ti không? Người ảo với làn da không tì vết, đời sống không mệt mỏi dễ trở thành chuẩn so sánh không công bằng, nhất là với thiếu niên.
Cùng một kỹ thuật, cách dùng chấp nhận được và không
Bảng dưới đặt cạnh nhau vài cặp cách dùng để thấy rằng công cụ giống nhau, cái khác nằm ở đồng ý, mục đích và sự minh bạch. Ranh giới chi tiết của từng trường hợp được bàn ở danh mục đạo đức deepfake.
| Kỹ thuật | Cách dùng chấp nhận được | Cách dùng không chấp nhận được |
|---|---|---|
| Nhân bản giọng | Giáo viên nhân bản giọng của chính mình để đọc bài giảng, có ghi chú cho học sinh | Lấy giọng một người từ video công khai để tạo tin nhắn thoại giả |
| Tạo gương mặt từ video mẫu | Doanh nghiệp làm người dẫn video đào tạo từ người mẫu đã ký thoả thuận | Dựng gương mặt của đồng nghiệp cũ để làm video chế giễu |
| Nhân vật trò chuyện | Linh vật cửa hàng trả lời câu hỏi về giờ mở cửa, có ghi rõ là trợ lý tự động | Tài khoản giả xưng là người thật để kết bạn, xin thông tin riêng |
| Người ảo trên mạng | Nhân vật hư cấu ghi rõ là ảo trong tiểu sử, quảng cáo được đánh dấu | Hàng loạt tài khoản ảo giả làm khách hàng thật để khen sản phẩm |
| Tái hiện người đã mất | Gia đình đồng ý dựng lại giọng ông kể chuyện cũ đã ghi âm, chỉ xem trong nhà | Dùng hình người đã mất để quảng cáo khi gia đình không biết |
Nhìn cột bên phải, có thể thấy điểm chung: không có đồng ý, không có minh bạch, hoặc mục đích là đánh lừa hay gây hại. Thiếu một trong ba là đủ để một cách dùng trở thành sai.
Vì sao mỗi người phản ứng một khác
Cùng một video người dẫn ảo, người này thấy tiện, người kia thấy giả dối. Phản ứng khác nhau một phần vì kinh nghiệm: ai đã từng bị lừa bằng giọng giả, hoặc có người thân bị lừa, sẽ dè chừng hơn. Một phần vì nghề nghiệp: người lồng tiếng, người dẫn chương trình nhìn thấy nguy cơ cho sinh kế của mình. Một phần vì tuổi tác và mức quen thuộc với trò chơi điện tử, hoạt hình ba chiều.
Văn hoá cũng đóng góp. Ở Việt Nam, chuyện giỗ chạp, tưởng nhớ người đã mất mang ý nghĩa sâu sắc với nhiều gia đình, nên việc tái hiện hình ảnh người đã khuất cần được làm với sự tôn trọng đặc biệt. Mối quan hệ thầy trò, quan hệ với người lớn tuổi cũng khiến việc dùng hình ảnh của thầy cô, ông bà làm nhân vật số cần cân nhắc kỹ hơn so với nhiều nơi khác.
Với người làm nội dung, điều rút ra là đừng cho rằng người xem sẽ phản ứng giống mình. Nói rõ mình đang dùng nhân vật số, giải thích vì sao, và sẵn sàng nghe phản hồi là cách tôn trọng sự khác biệt đó.
Ba nguyên tắc đủ dùng cho người làm
Không cần thuộc lòng mọi tình huống. Ba nguyên tắc dưới đây, áp dụng đều đặn, giải quyết được phần lớn các câu hỏi khó.
- Có đồng ý thật sự: chỉ dùng hình, giọng của chính mình, của nhân vật hư cấu không giống ai, hoặc của người đã đồng ý bằng văn bản với phạm vi, thời hạn, cách rút lại rõ ràng. Với trẻ em, không dùng hình của trẻ làm mẫu ngoài phạm vi gia đình.
- Minh bạch với người xem: ghi rõ nội dung có nhân vật do AI tạo, ở đầu video, trong phần mô tả, trong tiểu sử tài khoản. Không giới thiệu nhân vật như một chuyên gia hay khách hàng có thật.
- Có người chịu trách nhiệm: mỗi nhân vật có một người hoặc đơn vị đứng tên, có người duyệt nội dung, có nơi nhận phản ánh và xử lý khi sai.
Ba nguyên tắc này là khung chung cho mọi danh mục của AI Hiện Thân. Nếu một ý tưởng không vượt qua được nguyên tắc nào, đó là tín hiệu nên dừng lại, hỏi thêm người có kinh nghiệm hoặc luật sư, hoặc đổi sang cách làm khác.
Khi bạn thấy một nhân vật số khiến mình không thoải mái
Là người xem, bạn cũng có vai trò. Nếu gặp nội dung nhân vật số có vẻ sai, đây là trình tự gọn để phản ứng mà không vội kết luận.
- Dừng lại, không chia sẻ ngay. Nội dung gây sốc thường được làm ra để người ta chia sẻ trước khi nghĩ.
- Tìm nhãn hoặc thông tin nguồn gốc: tài khoản đăng là ai, có ghi nội dung do AI tạo không.
- Nếu nhân vật giả một người bạn biết, liên hệ người đó qua kênh quen thuộc để báo và xác minh.
- Nếu nội dung xúc phạm, giả mạo hay liên quan đến trẻ em, dùng chức năng báo cáo của nền tảng.
- Nếu bị yêu cầu chuyển tiền hay cung cấp thông tin, dừng hẳn và xác minh bằng cách gọi lại số đã lưu.
- Nói chuyện với người thân, nhất là trẻ và người lớn tuổi, về chuyện bạn vừa gặp để mọi người cùng cảnh giác.
Nếu chính hình ảnh của bạn bị dùng trái phép, danh mục gắn nhãn và nhận biết của trang có hướng dẫn các bước báo cáo và lưu bằng chứng.
Câu hỏi thường gặp
Vì sao nhân vật số lại gây tranh cãi nhiều như vậy?
Vì nó tái tạo gương mặt và giọng nói, những thứ con người dùng để nhận ra và tin nhau. Khi bị dùng sai, hậu quả rơi thẳng vào danh dự và tài sản của người thật. Công cụ ngày càng dễ dùng nên rủi ro lạm dụng cũng tăng.
Dùng nhân vật số có phải là gian dối không?
Không, nếu có đồng ý của người được dùng hình hoặc giọng, người xem được báo rõ, và có người chịu trách nhiệm. Gian dối là khi nhân vật được giới thiệu như người thật, hoặc dùng hình người khác khi họ không cho phép.
Có nên dùng hình ảnh con mình để tạo nhân vật số không?
Nên hết sức hạn chế. Nếu chỉ để chơi trong gia đình, hãy chọn công cụ có điều khoản rõ ràng về lưu và xoá ảnh. Không đăng nhân vật số dựa trên hình của trẻ lên mạng công khai, vì hình ảnh có thể bị lấy và dùng sai.
Tái hiện hình ảnh người thân đã mất có nên làm không?
Đây là quyết định của gia đình. Cần sự đồng ý của những người thân gần nhất, tôn trọng mong muốn của người đã mất, và tránh để nhân vật nói những điều người đó chưa từng nói. Nên giữ trong phạm vi gia đình thay vì đăng công khai.
Nhân vật số có làm mất việc người lồng tiếng, người dẫn không?
Một số việc lặp lại đang chuyển sang nhân vật số, nhưng những nội dung cần cảm xúc, sự tin cậy cá nhân vẫn cần người thật. Khi dùng giọng hay hình của người làm nghề làm mẫu, họ cần được hỏi, được trả công và biết mẫu được dùng vào đâu.
Thấy video giả mạo một người quen thì nên làm gì?
Đừng chia sẻ. Liên hệ người đó qua kênh quen thuộc để báo, giúp họ lưu bằng chứng, và dùng chức năng báo cáo của nền tảng. Nếu video kèm yêu cầu chuyển tiền, cảnh báo người thân và bạn bè chung ngay.