Khi nội dung do trí tuệ nhân tạo (AI) tạo ra ngày càng khó phân biệt với sản phẩm do con người tạo ra, Google đang mở rộng công cụ SynthID Detector, cho phép người dùng kiểm tra ảnh, video và âm thanh có chứa dấu hiệu watermark của AI hay không.

Theo Google DeepMind, từ ngày 7/10, SynthID Detector được mở rộng cho tất cả người dùng trên toàn cầu bằng tiếng Anh. Công cụ trước đó được triển khai thử nghiệm với các nhà báo và chuyên gia truyền thông nhằm hỗ trợ xác minh nội dung do AI tạo ra.

Kiểm tra nội dung AI bằng watermark vô hình

SynthID là công nghệ watermark kỹ thuật số do Google DeepMind phát triển, được giới thiệu lần đầu vào năm 2023. Công nghệ này ban đầu được thiết kế để đánh dấu hình ảnh do AI tạo ra, sau đó mở rộng sang video, âm thanh và văn bản.

Khác với các hệ thống cố gắng phán đoán một nội dung có phải do AI tạo ra dựa trên những đặc điểm bất thường, SynthID tìm kiếm một tín hiệu kỹ thuật được nhúng trực tiếp vào nội dung trong quá trình tạo.

Watermark của SynthID được thiết kế để mắt và tai người không thể nhận biết, đồng thời không làm thay đổi chất lượng nội dung. Với hình ảnh và video, tín hiệu được thiết kế để có thể tồn tại sau một số thao tác phổ biến như cắt ảnh, thêm bộ lọc, thay đổi tốc độ khung hình hoặc nén tệp. Với âm thanh, watermark cũng có khả năng chịu được một số thay đổi như thêm nhiễu, nén MP3 hoặc thay đổi tốc độ.

SynthID Detector có thể kiểm tra các tệp hình ảnh, video và âm thanh. Khi phát hiện watermark, hệ thống có thể xác định những khu vực trong hình ảnh hoặc những đoạn âm thanh có khả năng chứa tín hiệu này. Google cho biết đến nay SynthID đã được sử dụng để đánh dấu hơn 180 tỷ hình ảnh và video, cùng lượng nội dung âm thanh có tổng thời lượng tương đương 240.000 năm.

Mở rộng sang nội dung từ nhiều hãng AI

Một thay đổi đáng chú ý của SynthID Detector mới là phạm vi nhận diện không còn chỉ tập trung vào nội dung được tạo bởi các công cụ AI của Google. Theo Google, công cụ mới có thể kiểm tra nội dung được tạo bằng công nghệ AI của Google và các đối tác gồm OpenAI, NVIDIA, Kakao, đồng thời dự kiến hỗ trợ Apple trong thời gian tới.

Động thái này nằm trong nỗ lực của Google nhằm thúc đẩy việc sử dụng watermark có khả năng tương tác giữa nhiều nền tảng AI. Trước đó, công ty đã hợp tác với nhiều đối tác trong ngành để mở rộng hệ sinh thái SynthID.

Google cũng đã tích hợp khả năng xác minh SynthID vào Search, ứng dụng Gemini và trình duyệt Chrome. Theo công ty, các tính năng xác minh này hiện xử lý hơn 1 triệu yêu cầu mỗi ngày. Người dùng Gemini có thể tải hình ảnh, video hoặc âm thanh lên và yêu cầu hệ thống kiểm tra xem nội dung có được tạo hoặc chỉnh sửa bằng công nghệ AI có hỗ trợ SynthID hay không.

SynthID không phải công cụ phát hiện mọi nội dung AI

Dù mở rộng quyền truy cập, SynthID Detector không phải một công cụ có thể xác định toàn bộ nội dung do AI tạo ra. Điểm quan trọng là SynthID chỉ có thể phát hiện watermark được nhúng bởi những hệ thống hỗ trợ công nghệ này. Vì vậy, nếu một tệp không chứa SynthID, kết quả đó không đồng nghĩa với việc nội dung chắc chắn do con người tạo ra.

Nói cách khác, một hình ảnh được tạo bằng công cụ AI không sử dụng SynthID vẫn có thể vượt qua quá trình kiểm tra. Ngược lại, việc phát hiện watermark chỉ cung cấp một dấu hiệu về nguồn gốc AI của nội dung, chứ không tự động chứng minh toàn bộ lịch sử của tệp.

Kết hợp với Content Credentials

Bên cạnh SynthID, Google cũng ủng hộ Content Credentials của C2PA, một tiêu chuẩn kỹ thuật dành cho việc ghi nhận nguồn gốc và lịch sử của nội dung số. Trong khi SynthID nhúng một tín hiệu trực tiếp vào nội dung, Content Credentials có thể lưu thông tin về nguồn gốc, công cụ tạo ra nội dung và những thay đổi được thực hiện trong quá trình xử lý tệp. Dữ liệu này được thiết kế để người dùng có thể kiểm tra nguồn gốc và tính toàn vẹn của nội dung.

OpenAI hiện cũng sử dụng cả Content Credentials và SynthID cho hình ảnh được tạo bằng một số công cụ của hãng. Theo OpenAI, hai loại tín hiệu này có thể bổ trợ cho nhau: metadata C2PA cung cấp nhiều thông tin hơn về nguồn gốc, trong khi watermark được nhúng trực tiếp vào nội dung có thể tồn tại sau một số thao tác làm mất metadata.

Tuy nhiên, cả hai công nghệ đều không phải “máy phát hiện nói dối” tuyệt đối. Content Credentials phụ thuộc vào việc công cụ tạo hoặc chỉnh sửa có hỗ trợ và ghi nhận thông tin nguồn gốc, trong khi SynthID phụ thuộc vào việc nội dung có được tạo hoặc xử lý bởi hệ thống hỗ trợ watermark hay không.

Việc Google mở rộng SynthID Detector vì vậy không đồng nghĩa vấn đề ảnh giả hay deepfake đã được giải quyết. Tuy nhiên, khi ngày càng nhiều công ty AI tham gia hệ sinh thái watermark và provenance, người dùng có thêm một công cụ kỹ thuật để kiểm tra nguồn gốc nội dung thay vì chỉ dựa vào quan sát hoặc phán đoán bằng mắt thường.

 - Nguồn: GenK