Công nghệ DeepFake là gì và tại sao nó lại khiến mọi người quan tâm?

Ứng dụng máy ảnh đã đi một chặng đường dài trong vài năm qua. Trước đó, nếu bạn có một chiếc điện thoại thông minh có camera, bạn chỉ cần chụp một bức ảnh là rất vui. Giờ đây, với rất nhiều ứng dụng máy ảnh xung quanh, người dùng có vô số tùy chọn để chỉnh sửa hình ảnh của họ theo cách họ muốn.

Bạn có thể tạo phim hoạt hình của chính mình, chỉnh sửa nền, thêm đối tượng vào hình ảnh, xóa mụn và nhiều hơn thế nữa. Tất cả những thứ như vậy đều sử dụng tốt sự tiến bộ của công nghệ. Tuy nhiên, giống như bất kỳ thứ nào khác, sự tiến bộ trong công nghệ máy ảnh cũng có những mặt hạn chế.

Một nhược điểm lớn như vậy hay có thể nói là mối đe dọa đó là việc phát minh ra một công nghệ cho phép người dùng tạo ra những video hoặc hình ảnh trông rất thật. Điều đáng sợ hơn nữa là một công nghệ như vậy, được gọi là DeepFake, lại dễ dàng có sẵn cho đại chúng.

Trên thực tế, bất kỳ ai có máy tính hoặc thiết bị tương tự cùng với quyền truy cập internet đều có thể tạo nội dung DeepFake về mặt kỹ thuật. Các công cụ có sẵn dễ dàng trên Github mà bất kỳ ai cũng có thể tạo Deep Fakes.

Về cơ bản, DeepFake sử dụng AI (trí tuệ nhân tạo) và máy học để thao tác với video hoặc bất kỳ hình thức đại diện kỹ thuật số nào khác. Chúng tạo ra hình ảnh, video hoặc chỉ âm thanh có vẻ như thật.

Vì DeepFake sử dụng AI và máy học, công nghệ này sẽ phân tích video và hình ảnh của người mục tiêu từ mọi góc độ. Sau đó, công nghệ bắt chước chính xác hành vi và lời nói của người mục tiêu.

Công nghệ này đã thu hút được sự chú ý rộng rãi vào cuối năm 2017, khi một video khiêu dâm giả mạo có nữ diễn viên Wonder Woman, Gal Godot, được đăng tải trên Reddit bởi một người dùng có tên là deepfakes.

Một ví dụ gần đây về công nghệ DeepFake là một đoạn video về Giám đốc điều hành Facebook Mark Zuckerberg xuất hiện vào tháng 7 năm nay. Trong video, người ta thấy giám đốc điều hành nói rằng ông ta đang kiểm soát hàng tỷ dữ liệu bị đánh cắp của mọi người. Zuckerberg nói trong video;

Công nghệ DeepFake là gì và tại sao nó lại khiến mọi người quan tâm?

Một người đàn ông có toàn quyền kiểm soát hàng tỷ dữ liệu bị đánh cắp của mọi người. Tất cả bí mật của họ, cuộc sống của họ, tương lai của họ. Tôi nợ Spectre tất cả. Spectre cho tôi thấy rằng bất cứ ai kiểm soát dữ liệu, sẽ kiểm soát tương lai

Video trông hoàn toàn thật, bao gồm cả giọng nói. CEO Facebook không phải là nạn nhân duy nhất của DeepFake; có rất nhiều, bao gồm Kit Harrington (Jon Snow từ Game of Thrones), cựu Tổng thống Barack Obama và nhiều người khác.

Deeptrace, một công ty khởi nghiệp an ninh mạng có trụ sở tại Amsterdam, đã tìm thấy 14.698 video DeepFake xuất hiện trên internet khi nó thực hiện lần cuối cùng vào tháng 6 và tháng 7. Tháng 12 năm ngoái, số lượng video DeepFake là 7.964, tức là tăng 84% chỉ trong bảy tháng.

Mặc dù hầu hết các clip được tạo bằng công nghệ DeepFake đều vô hại, nhưng một số clip có thể gây tàn phá. Chẳng hạn như một người nổi tiếng ở một vị trí thỏa hiệp, những lời khiêu khích từ các nhân vật của công chúng, v.v. Họ thậm chí có thể chứng minh mối đe dọa đối với an ninh quốc gia.

Hơn nữa, tin tặc cũng có thể hưởng lợi từ việc này. Tin tặc có thể sử dụng công nghệ DeepFake giống như bất kỳ nội dung lừa đảo nào khác. Họ có thể tạo nội dung kích động dụ người dùng nhấp vào một số thành phần độc hại bên trong video hoặc chuyển hướng họ đến các trang web độc hại.

Ngoài ra, tin tặc có thể sử dụng nó để thực hiện các hành vi gian lận bằng cách tạo ra hàng giả đủ nổi bật để vượt qua phần mềm xác minh danh tính hoặc thông tin xác thực sinh trắc học. Đã có nhiều báo cáo cảnh báo rằng bọn tội phạm sẽ sớm có khả năng bắt chước giọng nói của con người trong thời gian thực. Công nghệ như vậy có thể được sử dụng để nhắm mục tiêu các trung tâm cuộc gọi.

Do sở hữu tất cả những điều như vậy, công nghệ DeepFake đã gây ra những lo ngại nghiêm trọng về cách một người có thể dễ dàng thao túng video để truyền bá thông tin sai lệch và cũng làm hoen ố danh tiếng của bất kỳ ai. Những nỗ lực đã được tiến hành để hạn chế việc sử dụng công nghệ này. Tuy nhiên, cho đến nay, vẫn chưa có nhiều thành công.

Gần đây, Hạ viện Hoa Kỳ đã thông qua một dự luật để giải quyết mối đe dọa ngày càng tăng của công nghệ DeepFake. Dự luật, được gọi là Đạo luật IOGAN (Đạo luật xác định đầu ra của mạng lưới đối thủ chung), được khởi xướng bởi đại diện Đảng Cộng hòa Ohio, Anthony Gonzalez.

Đạo luật này củng cố NIST (Viện Tiêu chuẩn và Công nghệ Quốc gia) và NSF (Quỹ Khoa học Quốc gia) đầu tư và nghiên cứu nhiều hơn vào các công nghệ có thể giúp phân biệt DeepFake với nội dung chính hãng.

Vào tháng 7, Ủy ban Tình báo của Hạ viện Hoa Kỳ cũng đã hỏi các công ty truyền thông xã hội lớn về kế hoạch chống lại DeepFake trong cuộc bầu cử năm 2020. Cuộc điều tra từ Ủy ban Tình báo theo sau một sự cố khi Tổng thống Trump đã tweet một video DeepFake của Chủ tịch Hạ viện Nancy Pelosi.

Công nghệ DeepFake là gì và tại sao nó lại khiến mọi người quan tâm?

Cùng với ý chí chính trị, các công ty tư nhân và các nhà nghiên cứu cũng đang tiến tới phát triển các công nghệ giúp phát hiện nội dung DeepFake. Vì AI đang được sử dụng để tạo DeepFakes nên nó cũng có thể giúp phát hiện ra nó.

Các công ty như Facebook và Microsoft đang làm việc để phát hiện và xóa các video như vậy. Đầu năm nay, cả hai công ty đã tiết lộ ý định hợp tác với các trường đại học hàng đầu trên khắp Hoa Kỳ để phát triển cơ sở dữ liệu về các video giả mạo.

Vào tháng 9, Facebook, Microsoft, Amazon Web Services (AWS) và các học giả từ nhiều trường đại học hàng đầu của Hoa Kỳ đã công bố Thử thách phát hiện Deepfake. Mục tiêu của thách thức là phát triển các công cụ phát hiện mã nguồn mở. Facebook cho biết trong một bài đăng trên blog:

[Hy vọng] là tạo ra công nghệ mà mọi người có thể sử dụng để phát hiện tốt hơn khi nào AI đã được sử dụng để thay đổi video nhằm đánh lừa người xem

Bạn có thể làm gì? Bạn cũng có thể phát hiện nội dung DeepFake và giúp xóa nội dung đó khỏi internet. Nếu bạn nghiên cứu kỹ một video DeepFake, bạn có thể nhận ra sự khác biệt. Thường thì tai hoặc mắt sẽ không khớp với đường viền của khuôn mặt.

Tuy nhiên, các chuyên gia lưu ý rằng sự khác biệt giữa DeepFake và video thực ngày càng thu hẹp khi có nhiều tiến bộ hơn trong công nghệ.

Tiếp tục, sẽ rất thú vị khi xem điều gì xảy ra với DeepFake - cho dù nó có thật đến mức mọi người bắt đầu tin vào nó hay các nhà nghiên cứu đưa ra các công cụ để gắn cờ hiệu quả cho bất kỳ video hoặc hình ảnh bịa đặt nào.

Facebook Twitter Google Plus Pinterest