ظاهر طبیعی یک تصویر یا صدای باورپذیر یک ویدئو، برای تشخیص واقعی بودن آن کافی نیست. ابزار SynthID Detector گوگل به کاربران کمک می‌کند فایل‌های تصویری، ویدئویی و صوتی را برای یافتن نشانه‌های مشخصی از تولید یا ویرایش با هوش مصنوعی بررسی کنند.
این ابزار به‌جای حدس زدن از روی ظاهر تصاویر یا ویژگی‌های صدا، دنبال یک نشانگر دیجیتالی نامرئی به نام SynthID می‌گردد. ابزارهای پشتیبانی‌شده هنگام ساخت محتوا، این نشانگر را در فایل قرار می‌دهند تا بعدا بتوان ردپای استفاده از هوش مصنوعی را شناسایی کرد.
چگونه از این سرویس گوگل استفاده کنیم؟
۱. به سایت SynthID.com بروید و وارد حساب کاربری خود شوید. ورود با حساب گوگل، OpenAI یا اپل امکان‌پذیر است.
۲. عکس، ویدئو یا فایل صوتی موردنظر را بارگذاری کنید.
۳. منتظر نتیجه بمانید تا مشخص شود نشانگر SynthID در فایل پیدا شده است یا خیر.
این بررسی در مرورگر انجام می‌شود و نیازی به نصب برنامه جداگانه ندارد. ابزار از نشانگرهای گوگل و برخی شرکای آن، از جمله OpenAI، انویدیا و کاکائو پشتیبانی می‌کند.
استفاده از آن سقف روزانه دارد. طبق گزارش آرس‌تکنیکا به نقل از گوگل، هر کاربر حدود ۱۰ بررسی در روز در اختیار دارد. مهندسان گوگل گفته‌اند این محدودیت برای جلوگیری از استفاده مکرر از نتایج با هدف ساخت ابزارهای حذف واترمارک در نظر گرفته شده است.
نتیجه ابزار چه چیزی را مشخص می‌کند؟
پیدا شدن نشانگر، نشانه‌ای از تولید یا ویرایش فایل با ابزارهای هوش مصنوعی پشتیبانی‌شده است. اما نسخه عمومی، محل دقیق دست‌کاری یا میزان تغییرات را نشان نمی‌دهد؛ بنابراین نتیجه مثبت به این معنا نیست که تمام اجزای فایل از ابتدا با هوش مصنوعی ساخته شده‌اند.
از سوی دیگر، پیدا نشدن نشانگر هم واقعی بودن محتوا را ثابت نمی‌کند. فایل‌هایی که با ابزارهای فاقد SynthID ساخته شده‌اند، ممکن است شناسایی نشوند.
گوگل می‌گوید این نشانگر برای مقاومت در برابر تغییراتی مانند برش تصویر، اعمال فیلتر و فشرده‌سازی طراحی شده است. بااین‌حال، نباید انتظار داشت همه فایل‌ها پس از هر نوع ویرایشی قابل شناسایی باشند.