Những bản sao này mặc dù xuất hiện với vẻ ngoài giống như influencer nhưng công chúng có thể dễ dàng phát hiện đây chỉ là robot. Vậy điều này đang mang lại lợi ích gì cho cả doanh nghiệp? Những influencer thực sự không cần xuất hiện trong buổi phát sóng trực tiếp, chính vì vậy những buổi phát trực tiếp có thể kéo dài đến tận đêm khuya do không bị ảnh hưởng bởi sức khỏe của người nổi tiếng.
DEEPFAKE LÀ GÌ?
Với sự phát triển của trí tuệ nhân tạo (AI) và sự tiến bộ trong lĩnh vực học sâu, công nghệ deepfake đã ra đời. Deepfake được hiểu là công nghệ biến hình thay thế khuôn mặt của người này bằng khuôn mặt khác. Công nghệ này cũng đã làm phát sinh một số vấn đề an ninh xã hội như thao túng video và tin tức giả mạo.
Deepfakes được tạo ra bằng cách sử dụng kết hợp các kỹ thuật trong đó máy tính xử lý và tích hợp hình ảnh khuôn mặt từ nhiều góc độ khác nhau vào một hình ảnh cuối cùng. Kết quả tạo ra một chân dung AI như một người thật với những cử chỉ biểu cảm liền mạch, siêu thực.
DÙNG ĐÚNG CÁCH, DEEPFAKE LÀ MỘT CÔNG NGHỆ TỐT
Deepfake mặc dù không mới nhưng công nghệ này chỉ mới đạt được tiến bộ gần đây về khả năng bắt chước cả vẻ ngoài và hành vi của con người. Năm 2019, Tập đoàn Alibaba đã ủy quyền cho nhà phát triển AI iFlytek sản xuất phiên bản AI của người có tầm ảnh hưởng tại Trung Quốc, Li Jiaqi.
Nhân vật AI này sau đó được gã khổng lồ sử dụng để tiếp thị các sản phẩm như thuốc nhỏ mắt và mì ăn liền. Đây chỉ là một phần nhỏ trong số các trường hợp ứng dụng công nghệ này trên khắp thế giới hiện nay. Tuy nhiên, ngoài ứng dụng cho những mục đích tốt, trên thực tế, công nghệ này đang trở thành công cụ gây ảnh hưởng tiêu cực đến nhiều lĩnh vực bao gồm chính trị, xã hội.
Cụ thể, nghiên cứu sinh tiến sĩ an ninh mạng Andre Kassis của Đại học Waterloo (UW) từng công bố phát hiện, ông có thể truy cập vào một tài khoản được bảo vệ bằng sinh trắc học của người khác bằng cách sử dụng bản ghi âm do AI tạo ra deepfake.
Điều này đã cho thấy tin tặc hoàn toàn có thể tạo ra một giọng nói giả có độ dài 5 phút, giọng nói này có thể được lấy từ các bài đăng công khai trên mạng xã hội. Phần mềm AI mã nguồn mở của GitHub có thể tạo ra âm thanh deepfake vượt qua khả năng xác thực bằng giọng nói.
Được sử dụng đúng cách và dẹepfake có thể mang lại những giá trị tích cực. Nhưng đặt vào tay kẻ xấu, nó sẽ trở thành vũ khí gây ra những hậu quả tai hại.
TRUNG QUỐC CẤM ỨNG DỤNG CÓ CÔNG NGHỆ DEEPFAKE
Mặc dù một số dự đoán về tương lai đen tối của con người vì công nghệ deepfake có thể chỉ xuất hiện trên những bộ phim khoa học viễn tưởng, nhưng một số khía cạnh khác đã bắt đầu xuất hiện trong thực tế. Năm 2019, ứng dụng Zao được giới thiệu tới thị trường Trung Quốc.
Ứng dụng này cho phép người dùng ghép khuôn mặt của họ lên cơ thể của các diễn viên trong phim, chương trình truyền hình và video ca nhạc. Tính năng này chỉ yêu cầu một bộ ảnh selfie hoặc ảnh hồ sơ và mất khoảng 10 giây để tạo video.
Ngay sau khi ra mắt, Zao đã trở nên nổi tiếng vì tính năng thú vị của nó, tuy nhiên siêu ứng dụng xã hội, WeChat của Trung Quốc đã nhanh chóng cấm người dùng chia sẻ tài liệu được tạo bằng ứng dụng hoán đổi khuôn mặt do liên quan đến những lo ngại về quyền riêng tư.
Từ năm 2020, Trung Quốc đã đưa ra các quy định mới cấm các trang web, ứng dụng và dịch vụ lưu trữ, xuất bản hoặc phân phối hình ảnh và video biến đổi mà không có cảnh báo rõ ràng nếu không các nhà cung cấp dịch vụ sẽ bị kết án là phạm tội hình sự.
KHÁC BIỆT QUAN ĐIỂM TRONG TÌM KIẾM NHỮNG GIẢI PHÁP
Để giải quyết triệt để hơn những rủi ro mà deepfake có thể gây ra, tháng 12/2022, Trung Quốc đã ban hành các quy định mới vào để quản lý việc sử dụng công nghệ này.
Trong khi đó, phương Tây dường như có hướng đi khác so với Trung Quốc. Trong khi các quốc gia như Mỹ đều nhận thức rõ ràng về những mối nguy hiểm mà deepfake có thể gây ra, thì các giải pháp được đề xuất cho đến nay ở khu vực này có xu hướng thiên về công nghệ hơn.
Trong nhiều năm, chính phủ Mỹ đã hợp tác với nhiều tổ chức nghiên cứu khác để phát triển các công cụ có thể xác định và ngăn chặn các hoạt động deepfake một cách đáng tin cậy.
Một ví dụ là PhotoGuard, giải pháp “nhiễu loạn” hoạt động giống như một lá chắn bảo vệ cho các bức ảnh, có khả năng phá vỡ khả năng sao chép của các mô hình deepfake.
Giống như máy tính, mô hình AI xem hình ảnh dưới dạng tập hợp các điểm dữ liệu phức tạp mô tả màu sắc và vị trí pixel. PhotoGuard bảo vệ những bức ảnh khỏi bị ăn cắp bằng cách thực hiện những thay đổi nhỏ về mặt toán học.
Những thay đổi này là vô hình đối với mắt người, do đó duy trì tính toàn vẹn của hình ảnh. Nếu ai đó cố gắng lấy cắp một hình ảnh sử dụng cho mục đích deepfake, đã được PhotoGuard “miễn nhiễm” thì kết quả sẽ trông không thực tế hoặc bị biến dạng.
Theo Kr Asia, một trong những lý do khiến lập trường của Trung Quốc khác với phương Tây nằm ở việc Trung Quốc đã có sẵn các hệ thống để kiểm soát việc truyền tải nội dung trong không gian trực tuyến, cho phép quốc gia này thiết lập và thực thi các quy định mới một cách liền mạch. Nhưng tại Mỹ, điều này lại khác.
Ví dụ câu chuyện về lệnh cấm TikTok đã kéo dài nhiều tháng kể từ khi CEO Shou Zi Chew làm chứng trước Quốc hội Hoa Kỳ để giải quyết những lo ngại về mối quan hệ của ứng dụng video ngắn với Trung Quốc. Tuy nhiên, Mỹ vẫn chưa thể tiến tới một quy định rõ ràng do nhiều luồng ý kiến từ công chúng.
Google translate