Trong số gần 4.000 người nổi tiếng trở thành nạn nhân của công nghệ "deepfake" có hơn 250 người là các nhân vật nổi tiếng tại Anh. Ê-kíp phóng viên của đài Channel 4 đã phân tích nội dung trên 5 website chuyên cung cấp nội dung "deepfake" có lượt người xem lớn nhất.
Thống kê cũng cho thấy có nhiều diễn viên, ca sĩ, ngôi sao mạng xã hội ở nhiều quốc gia đã trở thành nạn nhân của công nghệ "deepfake". Gương mặt của họ bị lồng ghép vào những nội dung khiêu dâm sử dụng công nghệ do trí tuệ nhân tạo thực hiện.
Điều tra của đài Channel 4 cũng cho thấy rằng 5 website mà họ phân tích đã nhận được 100 triệu lượt xem chỉ trong vòng 3 tháng.
Kể từ ngày 31/1, đạo luật An toàn trên không gian mạng đã được áp dụng tại Anh. Việc chia sẻ các nội dung sử dụng công nghệ "deepfake" mà không có sự đồng ý của nhân vật xuất hiện trong nội dung bị xem là hành vi bất hợp pháp. Dù vậy, hành vi tạo ra nội dung sử dụng công nghệ "deepfake" vẫn chưa bị xem là hành vi phạm luật tại Anh.
Vấn nạn nội dung khiêu dâm sử dụng công nghệ "deepfake" đang trở nên đáng báo động ở nhiều quốc gia. Theo thông tin mà đài Channel 4 đưa ra, chỉ trong 3 quý của năm 2023 đã có tới gần 145.000 video khiêu dâm sử dụng công nghệ "deepfake" được đăng tải lên 40 website "đen". Con số này bằng tổng lượng nội dung "deepfake" được thực hiện trong vòng vài năm trước đó cộng lại.
Hồi đầu năm nay, hình ảnh khiêu dâm lồng ghép gương mặt của nữ ca sĩ Taylor Swift lan truyền trên mạng xã hội Mỹ khiến cộng đồng fan của cô rất tức giận.
Sự việc xảy tới với Taylor Swift khiến dư luận Mỹ đặt ra câu hỏi: Tại sao vẫn chưa có những quy định cụ thể trong luật pháp Mỹ xung quanh hành vi tạo ra nội dung khiêu dâm, có lồng ghép gương mặt của người thật, rồi đem phát tán trên không gian mạng?
Sự việc này tiếp tục khiến các nhà làm luật tại Mỹ cân nhắc tới việc đưa hành vi phát tán nội dung khiêu dâm làm ảnh hưởng tới danh dự người khác ra trước pháp luật.
Thực tế, trong thời đại hiện nay, hình ảnh và danh dự của một cá nhân có thể bị tác động mạnh bởi những nội dung do trí tuệ nhân tạo thực hiện. Những ảnh hưởng này có thể tác động nghiêm trọng tới công việc và cuộc sống, sức khỏe và tinh thần của một cá nhân.
Thực tế, từ năm 2011, Taylor Swift đã đưa ra cảnh báo tới các fan về những hình ảnh ngực trần và các nội dung khiêu dâm khác có lồng ghép gương mặt của cô. Swift chưa thể thực hiện các động thái pháp lý chính thức và chỉ có thể phát đi cảnh báo tới cộng đồng fan.
Hiện tượng các clip "deepfake" đang ngày càng trở nên chân thực đến mức dễ dàng đánh lừa người xem khiến nhiều chuyên gia công nghệ lo lắng.
Ông Sam Gregory - giám đốc điều hành của một tổ chức bảo vệ nhân quyền tại Anh - chia sẻ: "Nhiều phụ nữ đã trở thành nạn nhân của những clip "deepfake" độc hại. Giờ đây, trong không gian mạng, người dùng Internet tỉnh táo phải hiểu rằng ngay cả mắt nhìn thấy cũng chưa thể tin ngay được. Điều này rất đáng ngại, bởi clip thật có thể bị nghi ngờ là giả, và clip giả có thể bị tưởng lầm là thật".
"Deepfake" là một thuật ngữ ghép từ hai từ trong tiếng Anh gồm "deep learning" (học sâu) và "fake" (giả mạo) để nói về việc trí tuệ nhân tạo nghiên cứu, tìm hiểu sâu kỹ về biểu cảm gương mặt của một người, rồi tạo nên được những hình ảnh giả mạo đặc tả gương mặt người đó để lồng ghép vào trong clip mà người đó thực ra không hề xuất hiện.
Hình ảnh tạo ra lại khá chân thực, có thể khiến người xem thoạt tiên tưởng đó là nội dung có thực. Càng ngày, các ứng dụng "deepfake" càng trở nên phát triển và đưa lại những hình ảnh chân thực hơn.
Những nhân vật nổi tiếng có nhiều ảnh và clip tồn tại trên mạng là nhân vật dễ bị nhắm đến, bởi trí tuệ nhân tạo sẽ có sẵn nhiều thông tin dữ liệu về các góc mặt, thói quen biểu cảm, cách mở khẩu hình miệng...
Chuyên gia trong lĩnh vực công nghệ tại Anh - ông Henry Ajder - chia sẻ: "Công nghệ này sẽ tồn tại kể từ đây trong cuộc sống của chúng ta, và chúng ta sẽ chuẩn bị phải đón nhận những sự vụ mà trong đó, những nội dung tiêu cực, độc hại được tạo ra bằng chính công cụ này".
Bà Rachel Tobac - CEO của một công ty chuyên cung cấp dịch vụ an ninh mạng tại Anh - cho biết: "Giờ đây, đã có những video clip "deepfake" thật đến mức gần như khó tìm ra manh mối để biết đó là clip giả mạo.
Clip "deepfake" sẽ ảnh hưởng tới niềm tin của công chúng, khiến những kẻ phạm tội bị ghi hình lại bằng video clip thoạt tiên có thể chối cãi rằng đó là clip giả. Ngược lại, những người không gây ra hành vi xấu lại có thể bị nhắm đến, bị bêu riếu và bị làm tổn thương bằng các clip giả mạo".