Công cụ giúp "vạch mặt" ảnh deepfake
Nếu một bức ảnh giả do AI tạo ra cũng có thể đánh lừa mắt người, ai sẽ là người "vạch mặt" nó? Các nhà khoa học Đức vừa phát triển một hệ thống AI có thể phát hiện ảnh deepfake và chỉ rõ vì sao bức ảnh bị nghi là giả.
Từ lừa đảo tài chính, mạo danh đến phát tán hình ảnh khiêu dâm giả mạo, ảnh deepfake đang trở thành một trong những thách thức lớn của không gian số.
Trong bối cảnh đó, nhóm nghiên cứu tại Viện Fraunhofer về quang học, công nghệ hệ thống và khai thác hình ảnh (Fraunhofer IOSB, Đức) đã phát triển RealorRender, một công cụ được thiết kế để nhận diện ảnh do AI tạo ra với độ chính xác từ 85% đến 91%.
Điểm khác biệt của RealorRender nằm ở chỗ công cụ không chỉ đưa ra kết luận một bức ảnh là thật hay giả mà còn giải thích vì sao đưa ra nhận định đó.
Hệ thống kết hợp hai phương pháp. Trước tiên, một mô hình AI sẽ cố gắng tái tạo lại bức ảnh đầu vào. Sau đó, một mô hình AI khác đánh giá mức độ giống nhau giữa ảnh gốc và ảnh được tái tạo, đồng thời tính toán "lỗi tái dựng" (reconstruction error). Nếu AI có thể tái tạo bức ảnh với độ chính xác rất cao, đó có thể là dấu hiệu cho thấy ảnh ban đầu cũng được tạo ra bằng AI.
Ông Andreas Specker, nhà khoa học cấp cao tại Fraunhofer IOSB, cho biết phương pháp này kết hợp khả năng phân loại của học sâu với việc đánh giá mức độ tái tạo hình ảnh bằng mô hình tạo sinh, từ đó đưa ra xác suất nhận diện dưới dạng phần trăm.
Không dừng lại ở kết quả cuối cùng, RealorRender còn sử dụng các kỹ thuật AI có khả năng giải thích (Explainable AI - XAI) để chỉ ra những vùng hình ảnh hoặc các đặc điểm đã ảnh hưởng đến quyết định của hệ thống.
Theo trưởng nhóm nghiên cứu Nadia Burkart, những yếu tố như kết cấu bất thường hoặc các mẫu tần số đặc trưng có thể là dấu hiệu cho thấy hình ảnh có nguồn gốc tổng hợp. XAI giúp hiển thị chính xác những đặc điểm mà mô hình AI đã sử dụng trong quá trình phân tích.
Để trực quan hóa kết quả, hệ thống tạo ra các bản đồ nhiệt (heatmap) và đánh dấu những vùng đáng ngờ trên ảnh. Cách tiếp cận này giúp người dùng không chỉ biết một bức ảnh bị nghi là deepfake mà còn hiểu cơ sở của kết luận, góp phần tăng tính minh bạch và tạo điều kiện để tiếp tục cải thiện độ chính xác của mô hình.
Theo nhóm nghiên cứu, việc AI ngày càng tạo ra hình ảnh chân thực khiến các phương pháp phát hiện truyền thống trở nên kém hiệu quả. Việc kết hợp nhiều kỹ thuật phân tích cùng khả năng giải thích được kỳ vọng sẽ trở thành một công cụ hỗ trợ quan trọng trong cuộc đua giữa công nghệ tạo deepfake và công nghệ phát hiện deepfake.
Hiện nay, các quốc gia trên thế giới đang tăng cường các biện pháp nhằm bảo vệ trẻ em và nạn nhân của deepfake, trong đó có cam kết phối hợp với các công ty công nghệ để ngăn chặn việc tạo và phát tán các nội dung giả mạo mang tính lạm dụng.
Theo giới nghiên cứu, những công cụ như RealorRender có thể góp phần giúp các cơ quan quản lý và người dùng phát hiện sớm các hình ảnh bị thao túng, qua đó giảm thiểu nguy cơ lừa đảo, tống tiền và xâm hại trên môi trường trực tuyến./.