Deepfake đang được sử dụng cho nhiều mục đích bất chính. Từ các chiến dịch thông tin sai lệch đến chèn mọi người vào nội dung khiêu dâm và các hình ảnh được sửa chữa ngày càng khó phát hiện hơn. Một công cụ AI mới sẽ cung cấp một cách đơn giản đáng ngạc nhiên để phát hiện chúng. Đó là nhìn vào ánh sáng phản chiếu trong mắt. Hệ thống phát hiện Deepfake này được tạo ra bởi các nhà khoa học máy tính từ Đại học Buffalo. Trong các cuộc thử nghiệm trên ảnh kiểu chân dung, công cụ phát hiện ảnh Deepfake hiệu quả đến 94%. Để biết thêm thông tin chi tiết về hệ thống này, hãy cùng chúng tôi theo dõi trong bài viết bên dưới nhé.
Hệ thống phát hiện Deepfake
Bằng khả năng sử dụng công nghệ máy học (machine learning) và trí tuệ nhân tạo (AI) để tổng hợp hình ảnh, những gương mặt người ảo do Deepfake tạo ra ngày càng tinh vi hơn. Vậy phải làm thế nào phân biệt giữa Deepfake và người thật?
Để trả lời cho câu hỏi này, các nhà khoa học máy tính từ Đại học Buffalo (Mỹ) vừa công bố hệ thống trí tuệ nhân tạo (AI) có khả năng phát hiện Deepfake chỉ bằng cách phân tích ánh sáng phản chiếu trong đôi mắt. Thử nghiệm trên ảnh chân dung, công cụ này hiệu quả đến 94% khi nhận diện Deepfake.
Theo The Next Web, hệ thống AI giúp vạch trần Deepfake bằng cách phân tích giác mạc vốn có bề mặt giống như gương phản chiếu hình ảnh mỗi khi có ánh sáng chiếu vào. Đối với ảnh chụp chân dung người thật, những đốm sáng phản chiếu trong hai mắt sẽ giống nhau. Nhưng cặp mắt trong ảnh do Deepfake tạo ra thường thiếu nhất quán; mỗi bên mắt phản chiếu đốm sáng khác nhau hoặc vị trí phản xạ không khớp.
Hệ thống vẫn còn nhiều hạn chế
AI tìm kiếm những điểm khác biệt bằng cách lập bản đồ gương mặt; phân tích ánh sáng phản chiếu trong mỗi nhãn cầu. Hệ thống tạo ra những điểm ảnh như một thước đo độ tương đồng. Điểm ảnh càng nhỏ thì càng có khả năng gương mặt đó là Deepfake.
Tuy nhiên, hạn chế của hệ thống là chỉ dựa vào nguồn ánh sáng phản xạ ở hai mắt. Nếu một trong hai mắt bị che mất trên ảnh thì xem như không thể áp dụng phương pháp này. Mặt khác, có thể thực hiện xử lý hậu kỳ để cặp mắt trong ảnh Deepfake trở nên chân thật hơn.
Các nhà nghiên cứu vẫn tiếp tục khắc phục những nhược điểm nhằm nâng cao hiệu quả của hệ thống AI nhận diện Deepfake. Hiện tại, hệ thống mới chỉ nhận diện một số hình ảnh tương đối đơn giản; chưa thể phát hiện những Deepfake tinh vi nhất.
Deepfake – Mối nguy hại mới trong thế giới Internet
Khi kết quả các sản phẩm làm giả ngày càng trở nên “thật” hơn; sẽ tới lúc một người dùng phần mềm nghiệp dư cũng có thể khiến bạn bè, bạn học, đồng nghiệp và người quen của mình xuất hiện trong phim khiêu dâm, đổi vai với các ngôi sao Hollywood. Việc dễ dàng tạo ra được những video Deepfake này sẽ dẫn tới những hệ lụy khó lường đặc biệt là việc tạo ra những video khiêu dâm có chủ đích.
Hiện tại, việc sử dụng Deepfake chủ yếu là cho nội dung khiêu dâm. Vào tháng 6/2020, một nghiên cứu đã chỉ ra rằng 96% tổng số Deepfake trực tuyến là dành cho bối cảnh khiêu dâm. Và gần 100% trong số đó là của phụ nữ.