چطور امضای هوش مصنوعی را در عکس‌ها و ویدئوها تشخیص دهیم؟

جهان صنعت نیوز– در سال‌های اخیر، رشد سریع ابزارهای هوش مصنوعی که قادر به ساخت تصاویر و ویدئوهای بسیار واقع‌گرایانه هستند چالشی جدی برای کاربران، رسانه‌ها و تولیدکنندگان محتوا ایجاد کرده است. این محتوای مصنوعی به‌قدری پیشرفته شده که حتی چشم انسان هم نمی‌تواند به‌راحتی تشخیص دهد آیا یک رسانه واقعی است یا توسط هوش مصنوعی تولید یا ویرایش شده است.

برای پاسخ به این چالش و افزایش شفافیت درباره منشأ محتواهای بصری و ویدئویی، گوگل در اپلیکیشن خود یعنی جمنای ابزار جدیدی ارائه کرده است. با استفاده از این قابلیت، کاربران می‌توانند به طور مستقیم در جمنای بررسی کنند که آیا یک عکس یا ویدیو توسط مدل‌های هوش مصنوعی گوگل ایجاد یا ویرایش شده است یا خیر.

این فناوری بر اساس یک تکنیک به نام SynthID عمل می‌کند، نشانی دیجیتال نامرئی که هنگام ساخت یا ویرایش محتوا توسط هوش مصنوعی گوگل در داده‌های تصویر یا ویدئو قرار می‌گیرد. سپس کاربر می‌تواند فایل موردنظر را در جمنای آپلود کند و با پرسیدن سؤالی مانند «آیا این تصویر/ویدئو توسط هوش مصنوعی گوگل تولید شده است؟»، پاسخ آن را دریافت کند.

این ویژگی نه‌تنها در مورد تصاویر کاربرد دارد، بلکه اخیراً برای ویدئوها نیز توسعه‌یافته است و می‌تواند بخش‌هایی از ویدئو که شامل آثار هوش مصنوعی هستند را مشخص کند.

نحوه کار SynthID

تکنیک SynthID یک فناوری پیشرفته است که توسط گوگل توسعه یافته و هدف آن شناسایی محتوای تولیدشده یا ویرایش‌شده توسط هوش مصنوعی است. هنگام تولید تصاویر، ویدئوها یا فایل‌های صوتی توسط مدل‌های گوگل، این سیستم یک علامت دیجیتال نامرئی در محتوا جاسازی می‌کند. این علامت به گونه‌ای طراحی شده که برای چشم یا گوش انسان قابل تشخیص نباشد، اما ابزارهای تخصصی مانند جمنای می‌توانند آن را شناسایی کنند. حتی بعد از تغییرات معمولی مانند برش، اعمال فیلتر، تغییر رنگ یا فشرده‌سازی، این نشان دیجیتال تا حد زیادی پایدار باقی می‌ماند. در متن‌های تولیدشده توسط هوش مصنوعی، SynthID با تنظیم الگوی آماری انتخاب کلمات هنگام تولید متن، یک امضای غیرقابل مشاهده ایجاد می‌کند. وقتی کاربر محتوا را برای بررسی ارسال می‌کند، ابزار تشخیص الگوی SynthID را اسکن می‌کند و مشخص می‌کند که آیا محتوا تولید شده با هوش مصنوعی است یا خیر. این فناوری باعث می‌شود شفافیت محتوا افزایش یابد و کاربران، رسانه‌ها و تولیدکنندگان محتوا بتوانند با اطمینان بیشتری محتوای واقعی و مصنوعی را از هم تمیز دهند.

معرفی قابلیت تشخیص محتوای هوش مصنوعی

گوگل برای پاسخ به این نیاز، در اپلیکیشن جمنای ویژگی جدیدی معرفی کرده است که به کاربران اجازه می‌دهد بررسی کنند یک تصویر یا ویدیو واقعاً انسانی است یا توسط هوش مصنوعی ساخته یا ویرایش شده است. این قابلیت بر اساس تکنولوژی SynthID عمل می‌کند؛ نشان دیجیتال نامرئی که هنگام تولید یا ویرایش محتوا توسط هوش مصنوعی گوگل در داده‌ها قرار می‌گیرد و به راحتی قابل شناسایی توسط جمنای است.

نحوه استفاده برای عکس‌ها

برای بررسی یک تصویر، مراحل زیر را دنبال کنید:

۱. اپلیکیشن جمنای را باز کنید.

۲. تصویر موردنظر خود را در اپ آپلود کنید.

۳. سوال خود را از جمنای بپرسید:آیا این تصویر توسط هوش مصنوعی تولید شده است؟

۴. ابزار بررسی می‌کند آیا SynthID در تصویر وجود دارد یا خیر و پاسخ را به شما نشان می‌دهد.این فرآیند برای تصاویر سریع و ساده است و کاربران می‌توانند به راحتی مشخص کنند که آیا تصویر موردنظر واقعی است یا تولید هوش مصنوعی گوگل.

نحوه استفاده برای ویدیوها

ویژگی جدید جمنای نه‌تنها برای عکس‌ها بلکه برای ویدیوها نیز توسعه یافته است.

نحوه استفاده به شکل زیر است:

۱. ویدیو را در جمنای آپلود کنید.

۲. سوال مشابهی مطرح کنید:آیا این ویدیو توسط هوش مصنوعی گوگل ساخته یا ویرایش شده است؟

۳. جمنای ویدیو را اسکن می‌کند و حتی می‌تواند مشخص کند کدام بخش‌ها از ویدیو شامل آثار هوش مصنوعی هستند، مثل تغییرات در صحنه، جلوه‌های بصری یا صدا.این قابلیت به کاربران کمک می‌کند تا بخش‌های غیرواقعی و دستکاری‌شده در ویدیوها را شناسایی کنند و از انتشار اطلاعات نادرست جلوگیری شود.

نکات و محدودیت‌ها

ابزار فقط محتواهای تولیدشده یا ویرایش‌شده توسط هوش مصنوعی گوگل را می‌تواند تشخیص دهد.

محتوای هوش مصنوعی تولیدشده توسط دیگر شرکت‌ها ممکن است توسط جمنای تشخیص داده نشود.

ابزار محدودیت‌هایی در حجم و مدت زمان فایل‌ها دارد و فعلاً برای ویدیوهای کوتاه و تصاویر استاندارد طراحی شده است.سایر استانداردها و فناوری‌ها مانند C2PA در آینده قابلیت تشخیص گسترده‌تری برای محتواهای هوش مصنوعی فراهم خواهند کرد.

ویژگی تشخیص هوش مصنوعی در جمنای ابزاری کاربردی برای کاربران و رسانه‌ها است تا بتوانند به سرعت و با دقت، محتوای واقعی و مصنوعی را شناسایی کنندبا آپلود عکس یا ویدیو و بررسی پاسخ جمنای، کاربران می‌توانند از صحت محتوای دیداری اطمینان حاصل کنند و از گمراه شدن در دنیای پر از محتوای هوش مصنوعی جلوگیری کنند.

فارس

دانش و فناوری