[
گوگل به تصاویر ویرایش شده با Magic Editor واترمارک هوش مصنوعی اضافه می‌کند. بااینحال گوگل تایید کرده که برخی تغییرات ایجادشده با هوش مصنوعی ممکن است آن‌قدر کوچک باشند که SynthID نتواند آن‌ها را تشخیص دهد.
به‌گزارش تکراتو به نقل از theverge، اپلیکیشن گوگل فوتوز از این هفته واترمارک دیجیتال SynthID را به تصاویری که با قابلیت ویرایشگر جادویی (Magic Editor) ویرایش شده‌اند، اضافه می‌کند. این قابلیت جدید به کاربران کمک می‌کند تا تصاویر دستکاری‌شده با ابزار بازآفرینی در Magic Editor را راحت‌تر تشخیص دهند.
گوگل برای شناسایی تصاویر ویرایش شده با Magic Editor ، واترمارک دیجیتال اضافه کرد
SynthID یک سیستم واترمارک‌گذاری دیجیتال است که توسط تیم DeepMind گوگل توسعه یافته و متادیتای خاصی را مستقیما در تصاویر، ویدئوها، صدا و متن جاسازی می‌کند تا مشخص شود آیا با ابزارهای هوش مصنوعی ساخته یا ویرایش شده‌اند.
این سیستم پیش از این روی تصاویری که کاملا با مدل متنی-تصویری گوگل (Imagen) تولید شده‌اند، اعمال می‌شد. شرکت‌های دیگری مانند ادوبی نیز فناوری‌های مشابهی مانند Content Credentials را برای واترمارک‌گذاری محتوای تولید یا ویرایش‌شده با ابزارهای Creative Cloud توسعه داده‌اند.
در گذشته، همکاران ما نشان داده بودند که ویرایش تصاویر با ابزار «بازآفرینی» در گوشی‌های پیکسل 9 گوگل، چقدر می‌تواند واقعی و بدون نقص باشد. این ابزار می‌تواند به‌سادگی و تنها با یک توضیح متنی، عناصری مانند هلیکوپتر سقوط‌کرده، وسایل مربوط به مواد مخدر، یا حتی اجساد را در تصاویر ایجاد کند، بدون اینکه هیچ نشانه‌ای از ویرایش مشخص باشد. البته، از اکتبر سال گذشته، گوگل شروع به برچسب‌گذاری این تصاویر در توضیحات فایل کرده است.
اما این واترمارک جدید همچنان با چالش‌هایی مواجه است. اول اینکه SynthID به‌صورت ظاهری تغییری در تصویر ایجاد نمی‌کند، بلکه از طریق ابزار تشخیص اختصاصی هوش مصنوعی گوگل در بخش «درباره این تصویر» قابل شناسایی است.
علاوه بر این، برخی ویرایش‌های انجام‌شده با Magic Editor ممکن است آن‌قدر جزئی باشند که SynthID نتواند آن‌ها را علامت‌گذاری و تشخیص دهد.
در حالی که فناوری‌های واترمارک‌گذاری می‌توانند تا حدی به شناسایی تصاویر تغییر یافته کمک کنند، برخی کارشناسان این حوزه معتقدند که این روش به‌تنهایی کافی نیست و برای احراز هویت دقیق محتوای تولیدشده با هوش مصنوعی، نیاز به استفاده از مجموعه‌ای از رویکردهای متنوع و مکمل است.
منبع ]
