تشخیص عکس ساختهشده با هوش مصنوعی؛ راهنمای شناسایی تصاویر جعلی و دیپفیک
در این راهنما روشهای تشخیص عکس ساختهشده با هوش مصنوعی، تصاویر جعلی و دیپفیک را یاد میگیرید؛ از بررسی چهره و نور تا Metadata، جستوجوی معکوس، Content Credentials، واترمارک و تحلیل فنی با API.
آیا میتوان عکس ساختهشده با هوش مصنوعی را تشخیص داد؟
تشخیص عکس ساختهشده با هوش مصنوعی امکانپذیر است، اما معمولاً نمیتوان تنها با یک نشانه یا ابزار، درباره اصالت یک تصویر با قطعیت حکم داد.
تصاویر تولیدشده با مدلهای جدید AI میتوانند از نظر چهره، نور، بافت، پرسپکتیو و جزئیات بسیار طبیعی باشند. از طرف دیگر، عکسهای واقعی نیز ممکن است بر اثر فشردهسازی، ویرایش، حذف نویز، روتوش یا افزایش کیفیت، ظاهری مصنوعی پیدا کنند.
روش حرفهای تشخیص تصویر AI مبتنی بر جمعآوری و ترکیب چند نوع شواهد است:
- بررسی منبع انتشار
- یافتن نسخه اصلی
- جستوجوی معکوس تصویر
- تحلیل محتوای بصری
- بررسی Metadata
- بررسی Content Credentials
- جستوجوی واترمارک دیجیتال
- مقایسه با منابع مستقل
- استفاده محتاطانه از AI Detector
- تحلیل فایل اصلی توسط متخصص
نبود نشانههای هوش مصنوعی ثابت نمیکند که تصویر واقعی است. وجود یک خطای عجیب نیز بهتنهایی اثبات نمیکند که کل عکس با AI ساخته شده است.
عکس تولیدشده با AI چیست؟
تصاویر مرتبط با هوش مصنوعی را میتوان به چند دسته تقسیم کرد.
تصویر کاملاً تولیدشده
کل تصویر از روی یک Prompt یا پرامپت ساخته شده و دوربینی آن را ثبت نکرده است.
نمونه:
A realistic photograph of an astronaut walking through Tehran's
Grand Bazaar during golden hour.
تصویر واقعی ویرایششده با AI
عکس اصلی واقعی است، اما بخشی از آن با Generative Fill، Inpainting یا ابزار مشابه تغییر کرده است؛ برای مثال:
- حذف یک فرد
- تغییر پسزمینه
- جایگزینی لباس
- افزودن یک شیء
- تغییر چهره
- گسترش کادر
- اصلاح آسمان
تصویر ترکیبی
قسمتی از تصویر واقعی و قسمت دیگر تولیدشده است. تشخیص این نوع تصویر دشوارتر است، زیرا بیشتر فایل میتواند کاملاً طبیعی باشد.
دیپفیک
Deepfake معمولاً به محتوایی گفته میشود که چهره، صدا یا رفتار یک فرد واقعی را بهصورت مصنوعی بازسازی یا جایگزین میکند.
در تصویر ثابت ممکن است شامل این موارد باشد:
- Face Swap
- تغییر هویت
- ترکیب چهره چند نفر
- بازسازی چهره در یک موقعیت جعلی
- تغییر حالت صورت
- ساخت تصویر غیرواقعی از یک فرد مشهور
Face Morph
در Face Morphing ویژگیهای دو یا چند چهره با یکدیگر ترکیب میشوند. این روش میتواند برای تقلب در احراز هویت نیز مورد سوءاستفاده قرار گیرد.
NIST هشدار داده است که دقت سامانههای تشخیص Morph به نوع داده و نرمافزار تولیدکننده وابسته است و ممکن است هنگام مواجهه با روشهای ناشناخته بهشدت افت کند. راهنمای NIST درباره تشخیص Face Morph
چرا تشخیص تصاویر جعلی اهمیت دارد؟
تصویر جعلی فقط یک مسئله هنری یا سرگرمی نیست. در بعضی زمینهها میتواند خسارت جدی ایجاد کند:
- انتشار اخبار جعلی
- جعل هویت
- کلاهبرداری مالی
- تبلیغات گمراهکننده
- ساخت مدرک جعلی
- دستکاری افکار عمومی
- تخریب اعتبار افراد
- آزار و اخاذی
- فروش کالای غیرواقعی
- جعل تصاویر رویدادها
- فیشینگ
- سوءاستفاده از کودکان
- دور زدن احراز هویت
- جعل اسناد سازمانی
- تولید شواهد تصویری دروغین
در مقابل، بسیاری از تصاویر AI با هدف مشروع ساخته میشوند:
- طراحی تبلیغاتی
- آموزش
- هنر دیجیتال
- تصویرسازی
- نمونه اولیه محصول
- سرگرمی
- تولید محتوای برند
- طراحی بازی و انیمیشن
مسئله اصلی، صرفاً AI بودن تصویر نیست؛ بلکه نحوه ارائه، هدف استفاده و احتمال فریب مخاطب است.
آیا چشم انسان میتواند تصویر AI را تشخیص دهد؟
گاهی بله، اما اتکا به مشاهده انسانی کافی نیست. مدلهای قدیمیتر معمولاً در تولید دست، دندان، متن، تقارن، بازتاب و پرسپکتیو خطاهای آشکاری داشتند. مدلهای جدید بسیاری از این مشکلات را کاهش دادهاند.
همچنین افراد ممکن است به دلایل نادرست یک عکس واقعی را جعلی تشخیص دهند. برای مثال:
- حالت Portrait دوربین، پسزمینه را غیرطبیعی محو کرده است.
- HDR شدید، نور تصویر را مصنوعی نشان میدهد.
- فشردهسازی پیامرسان جزئیات را خراب کرده است.
- ابزار Beauty Filter پوست را صاف کرده است.
- عکاسی با نور استودیویی بیش از حد تمیز به نظر میرسد.
- AI Upscaling جزئیات جدیدی ساخته است.
- دوربین موبایل چند تصویر را بهصورت محاسباتی ترکیب کرده است.
بنابراین مشاهده بصری باید فقط یکی از مراحل بررسی باشد.
چکلیست سریع تشخیص عکس هوش مصنوعی
هنگام مشاهده یک تصویر مشکوک، این مراحل را بهترتیب انجام دهید:
- ادعای همراه تصویر را دقیق بخوانید.
- منبع اولیه انتشار را پیدا کنید.
- نام عکاس یا منتشرکننده را بررسی کنید.
- جستوجوی معکوس تصویر انجام دهید.
- نسخه باکیفیتتر یا فایل اصلی را پیدا کنید.
- جزئیات چهره، دست، متن و اشیا را بررسی کنید.
- نور، سایه، بازتاب و پرسپکتیو را مقایسه کنید.
- Metadata فایل اصلی را بررسی کنید.
- وجود Content Credentials را آزمایش کنید.
- واترمارک یا برچسب پلتفرم را بررسی کنید.
- ادعای تصویر را با منابع خبری معتبر مقایسه کنید.
- از چند Detector مستقل بهعنوان نشانه کمکی استفاده کنید.
- برای تصمیم مهم، بررسی تخصصی انجام دهید.
مرحله اول: ادعای تصویر را بررسی کنید
قبل از تحلیل Pixelها، مشخص کنید تصویر چه ادعایی دارد.
برای مثال:
- این تصویر مربوط به چه رویدادی است؟
- چه زمانی ثبت شده؟
- مکان آن کجاست؟
- چه فردی در تصویر دیده میشود؟
- اولین بار چه کسی آن را منتشر کرده؟
- آیا کپشن فعلی با کپشن اولیه یکسان است؟
- آیا تصویر قرار است یک خبر، محصول یا هویت را ثابت کند؟
بسیاری از تصاویر گمراهکننده اصلاً AI نیستند. یک عکس واقعی ممکن است با توضیح، تاریخ یا مکان نادرست منتشر شده باشد.
به این پدیده Miscontextualization یا استفاده خارج از زمینه گفته میشود. در چنین شرایطی، بررسی منبع و تاریخ از تشخیص مدل تولیدکننده مهمتر است.
مرحله دوم: منبع اولیه تصویر را پیدا کنید
منبع معتبر معمولاً این اطلاعات را ارائه میکند:
- نام عکاس
- زمان ثبت
- محل ثبت
- خبر یا رویداد مرتبط
- توضیح ویرایشها
- نسخه اصلی
- رسانه منتشرکننده
- اطلاعات مجوز
- Content Credentials
اگر تصویر فقط در یک کانال ناشناس، حساب تازهساختهشده یا پیام Forwardشده دیده میشود، باید با احتیاط بیشتری بررسی شود.
نشانههای هشدار:
- نبود منبع اولیه
- کپشن احساسی و فوری
- درخواست برای انتشار سریع
- ادعای بزرگ بدون گزارش مستقل
- کیفیت بسیار پایین تصویر
- Crop شدن واترمارک
- نام کاربری تقلیدی
- دامنه مشابه رسانه معتبر
- تاریخ یا مکان نامشخص
مرحله سوم: جستوجوی معکوس تصویر
Reverse Image Search یکی از مؤثرترین روشهای بررسی است. این روش میتواند نشان دهد تصویر قبلاً در کجا و با چه توضیحی منتشر شده است.
ابزارهای رایج:
- Google Lens
- Bing Visual Search
- TinEye
- Yandex Images
در جستوجوی معکوس:
- کل تصویر را جستوجو کنید.
- بخش اصلی تصویر را Crop و دوباره جستوجو کنید.
- چهره یا ساختمان مشخص را جداگانه بررسی کنید.
- نتایج قدیمیتر را پیدا کنید.
- نسخه دارای وضوح بالاتر را باز کنید.
- کپشنها و تاریخها را مقایسه کنید.
- بهدنبال تغییرات میان نسخهها بگردید.
اگر تصویر مربوط به یک رویداد بزرگ باشد اما هیچ رسانه معتبر یا شاهد مستقلی آن را منتشر نکرده باشد، این موضوع یک علامت هشدار است؛ البته بهتنهایی جعلی بودن را ثابت نمیکند.
مرحله چهارم: بررسی چهره
مدلهای تصویر در تولید چهره بسیار پیشرفت کردهاند، اما هنوز ممکن است جزئیات ناسازگار ایجاد کنند.
موارد قابلبررسی:
- تقارن غیرطبیعی چشمها
- مردمکهای ناسازگار
- بازتاب متفاوت در چشمها
- شکل غیرعادی گوش
- اتصال نامناسب گوشواره
- دندانهای یکپارچه یا تکراری
- مرز نامناسب مو و پیشانی
- تارهای موی حلشده در پسزمینه
- عینک نامتقارن
- شکست غیرطبیعی دسته عینک
- پوست بیش از حد صاف
- بافت متفاوت میان صورت و گردن
- تغییر ناگهانی سن در بخشهای صورت
- سایه نامنظم بینی
- ادغام ریش با پوست
- تفاوت میان جهت نگاه دو چشم
اما بسیاری از این موارد میتوانند نتیجه روتوش، فشردهسازی یا کیفیت پایین باشند.
مرحله پنجم: بررسی دست و انگشتها
دستها از نشانههای کلاسیک تصاویر AI بودند. مدلهای جدید در این زمینه بهتر شدهاند، اما همچنان باید بررسی شوند:
- تعداد انگشتها
- طول و ضخامت انگشتها
- اتصال انگشت به کف دست
- محل ناخن
- مفصلهای غیرطبیعی
- ادغام دست با اشیا
- نحوه گرفتن فنجان یا ابزار
- قرارگیری انگشت پشت و جلوی شیء
- دست چپ و راست
- سایه دست
- تکرار انگشت
- حلقه یا ساعت ناقص
در تصاویر شلوغ یا دستهای کوچک، مدل ممکن است جزئیات را سادهسازی کند. کیفیت پایین نیز میتواند دست واقعی را عجیب نشان دهد.
مرحله ششم: متن، لوگو و علائم را بررسی کنید
مدلهای جدید توانایی بهتری در تولید متن دارند، اما نوشتهها همچنان میتوانند سرنخ مهمی باشند.
به این موارد توجه کنید:
- حروف بیمعنا
- تغییر فونت در یک کلمه
- فاصلهگذاری غیرطبیعی
- ترکیب حروف فارسی و لاتین
- لوگوی نزدیک به برند اما نادرست
- تابلوهای خیابان ناخوانا
- شماره پلاک نامنظم
- نوشتههایی که در بخشهای مختلف تغییر میکنند
- متن روی لباس یا بستهبندی
- اعداد تکراری یا غیرمنطقی
- راستبهچپ نبودن متن فارسی
- شکل متفاوت یک لوگو در چند نقطه
نباید هر نوشته خراب را نشانه AI بدانیم. Motion Blur، فاصله دور، JPEG Compression و Upscaling نیز میتوانند متن را خراب کنند.
مرحله هفتم: نور و سایه را تحلیل کنید
در یک صحنه واقعی، نور باید از قوانین فیزیکی نسبتاً سازگاری پیروی کند.
بررسی کنید:
- جهت سایه افراد یکسان است؟
- طول سایهها با منبع نور سازگار است؟
- صورت و بدن از یک جهت روشن شدهاند؟
- اجسام جدید Contact Shadow دارند؟
- رنگ نور روی اشیا هماهنگ است؟
- سایه از جسم جدا نشده است؟
- نور خورشید با آسمان سازگار است؟
- سایههای داخلی و خارجی منطقیاند؟
- اشیای براق منبع نور را منعکس میکنند؟
تصاویر دارای چند منبع نور میتوانند سایههای پیچیده داشته باشند. بنابراین ناسازگاری ظاهری باید با ساختار واقعی صحنه مقایسه شود.
مرحله هشتم: بازتابها را بررسی کنید
بازتاب در آینه، شیشه، آب و فلز میتواند خطاهای تولید تصویر را آشکار کند.
موارد مهم:
- آیا فرد در آینه دیده میشود؟
- جهت بازتاب با زاویه دوربین سازگار است؟
- اشیای موجود در صحنه در سطح براق منعکس شدهاند؟
- نوشته در آینه جهت مناسب دارد؟
- بازتاب صورت با حالت اصلی هماهنگ است؟
- نورهای منعکسشده با منابع نور تطابق دارند؟
- آب یا فلز تصویر غیرممکنی نشان میدهد؟
- بازتاب شامل شیء اضافه یا حذفشده است؟
مدل ممکن است بازتاب را بهعنوان یک تصویر مستقل تولید کند و جزئیات آن با صحنه اصلی ناسازگار باشد.
مرحله نهم: پرسپکتیو و هندسه را بررسی کنید
نشانههای احتمالی:
- خطوط ساختمان در نقاط گریز متفاوت به هم میرسند
- پنجرهها اندازه نامنظم دارند
- پلهها به جایی نمیرسند
- در یا راهرو ساختار غیرممکن دارد
- پایه صندلی ناپدید شده است
- چرخ خودرو بیضی یا نامتقارن است
- میز با کف زاویه ناسازگار دارد
- اشیا در یکدیگر حل شدهاند
- مقیاس انسان و محیط منطقی نیست
- سازهها در پسزمینه تکرار میشوند
مدلهای مولد ممکن است ظاهر کلی معماری را درست تولید کنند، اما ارتباط سازهای اجزا مشکل داشته باشد.
مرحله دهم: الگوهای تکراری و بافتها
مدل گاهی الگوهایی تولید میکند که در نگاه اول طبیعیاند، اما در بزرگنمایی تکرار یا ادغام میشوند.
بررسی کنید:
- برگ درختان
- پنجره ساختمان
- جمعیت
- دندانها
- مو
- چین لباس
- آجر
- کاشی
- قفسه کتاب
- صفحهکلید
- زنجیر و زیورآلات
- نرده
- صندلیها
- پسزمینه محو
تکرار نامنظم یا تبدیل تدریجی یک شیء به شیء دیگر میتواند نشانه تولید مولد باشد.
مرحله یازدهم: منطق صحنه را ارزیابی کنید
گاهی هر بخش بهتنهایی طبیعی است، اما کل صحنه منطق ندارد.
مثالها:
- فردی ابزار را از قسمت اشتباه گرفته است
- غذا یا مایع برخلاف جاذبه قرار دارد
- لباس متناسب با آبوهوا نیست
- خودرو اجزای مکانیکی ناسازگار دارد
- اشخاص به رویداد اصلی واکنش ندارند
- شیء کاربردی قابل استفاده نیست
- کابل به هیچ دستگاهی متصل نیست
- صفحهکلید چینش ناممکن دارد
- یک شیء در جلو و پشت جسم دیگری قرار گرفته است
- حیوانات آناتومی یا رفتار غیرعادی دارند
مدلهای مولد ظاهر آماری اشیا را میآموزند، اما ممکن است عملکرد یا رابطه منطقی آنها را کامل بازسازی نکنند.
Metadata چیست و چگونه آن را بررسی کنیم؟
Metadata اطلاعاتی است که ممکن است داخل فایل ذخیره شده باشد:
- مدل دوربین
- سازنده دستگاه
- تاریخ ثبت
- تنظیمات نوردهی
- ISO
- فاصله کانونی
- مختصات GPS
- نرمافزار ویرایش
- تاریخ تغییر
- پروفایل رنگ
- Thumbnail داخلی
- توضیحات تصویر
- اطلاعات Copyright
EXIF یکی از رایجترین قالبهای Metadata تصاویر است.
آیا نبود EXIF یعنی عکس با AI ساخته شده است؟
خیر. Metadata ممکن است در این شرایط حذف شود:
- ارسال در پیامرسان
- بارگذاری در شبکه اجتماعی
- گرفتن اسکرینشات
- تغییر فرمت
- ویرایش در نرمافزار
- بهینهسازی برای وب
- دانلود از سایت
- تنظیمات حریم خصوصی
آیا وجود نام دوربین، واقعی بودن را ثابت میکند؟
خیر. Metadata قابلویرایش و جعل است. حتی یک تصویر تولیدشده با AI میتواند EXIF ساختگی داشته باشد.
Metadata یک سرنخ است، نه اثبات قطعی.
بررسی Metadata با ExifTool
ExifTool یک ابزار خط فرمان برای خواندن Metadata است.
نمونه دستور:
exiftool suspicious-image.jpg
نمایش اطلاعات مهم:
exiftool \
-FileName \
-FileType \
-ImageWidth \
-ImageHeight \
-Make \
-Model \
-Software \
-DateTimeOriginal \
-CreateDate \
-ModifyDate \
-GPSLatitude \
-GPSLongitude \
suspicious-image.jpg
موارد قابلتوجه:
- نام ابزار تولید تصویر
- نام نرمافزار ویرایش
- تاریخهای متناقض
- مدل دوربین ناموجود
- Thumbnail متفاوت
- ابعاد غیرعادی
- نبود اطلاعاتی که انتظار داشتید
خروجی ExifTool باید در کنار شواهد دیگر تفسیر شود.
بررسی Metadata با Python
from PIL import Image
from PIL.ExifTags import TAGS
image_path = "suspicious-image.jpg"
with Image.open(image_path) as image:
print("Format:", image.format)
print("Size:", image.size)
print("Mode:", image.mode)
exif = image.getexif()
if not exif:
print("No EXIF metadata found.")
else:
for tag_id, value in exif.items():
tag_name = TAGS.get(tag_id, str(tag_id))
print(f"{tag_name}: {value}")
این کد فقط Metadata قابلخواندن توسط Pillow را نمایش میدهد. نبود Metadata به معنی تولیدشدن با AI نیست.
Content Credentials چیست؟
Content Credentials راهکاری برای ثبت منشأ و تاریخچه تغییرات محتواست. این فناوری براساس استاندارد C2PA میتواند اطلاعاتی مانند این موارد را همراه فایل نگه دارد:
- سازنده یا منتشرکننده
- ابزار ایجاد محتوا
- زمان ایجاد
- عملیات ویرایش
- استفاده از هوش مصنوعی مولد
- امضای دیجیتال
- تاریخچه تغییرات
C2PA از یک نشان شبیه پین با حروف CR برای اعلام وجود Content Credentials استفاده میکند. کاربر میتواند اطلاعات منشأ و تغییرات ثبتشده را مشاهده کند. معرفی نشان رسمی Content Credentials توسط C2PA
مزیت Content Credentials
این روش بهجای حدس زدن از روی Pixelها، تلاش میکند تاریخچه تولید و ویرایش را به محتوا متصل کند.
محدودیت Content Credentials
- همه دوربینها و ابزارها از آن پشتیبانی نمیکنند.
- ممکن است هنگام Screenshot یا تبدیل فرمت از بین برود.
- نبود Credential به معنی جعلی بودن نیست.
- Credential باید از نظر امضای رمزنگاری بررسی شود.
- اطلاعات ثبتشده فقط بهاندازه زنجیره تولید آن قابلاعتماد است.
- نسخه بازنشرشده ممکن است تاریخچه را حفظ نکند.
Content Credentials برای Provenance یا منشأ محتوا مفید است، اما جایگزین بررسی ادعا و Context نیست.
چگونه Content Credentials را بررسی کنیم؟
برای بررسی:
- فایل اصلی را دریافت کنید.
- بهدنبال نشان
CRیا اطلاعات Content Credentials بگردید. - فایل را در ابزار رسمی یا سازگار با C2PA باز کنید.
- امضا و وضعیت اعتبار را بررسی کنید.
- ابزار تولید و مراحل ویرایش را ببینید.
- بررسی کنید آیا AI در تاریخچه ذکر شده است.
- هشدارهای مربوط به ناقص بودن زنجیره را بخوانید.
وبسایت Content Credentials توضیح میدهد که تاریخچه ایجاد و تغییر محتوا میتواند با امضاهای دیجیتال ثبت و برای مشاهده در دسترس قرار گیرد. راهنمای رسمی Content Credentials
واترمارک نامرئی چیست؟
برخی تولیدکنندگان مدل، یک الگوی نامرئی در تصویر قرار میدهند که توسط ابزار مخصوص قابلشناسایی است.
این Watermark با لوگوی قابلمشاهده تفاوت دارد. معمولاً در Pixelهای تصویر جاسازی میشود و هدف آن حفظ قابلیت تشخیص پس از تغییرات محدود است.
SynthID گوگل چیست؟
SynthID فناوری Google DeepMind برای قراردادن واترمارک دیجیتال در محتوای تولیدشده با AI است. این واترمارک برای انسان قابلمشاهده نیست، اما ابزار تشخیص میتواند آن را پیدا کند.
طبق توضیحات رسمی Google DeepMind، SynthID برای تصاویر، ویدئو، صوت و بعضی متنهای تولیدشده در محصولات گوگل استفاده میشود و برای مقاومت در برابر تغییراتی مانند Crop، فیلتر و فشردهسازی طراحی شده است. معرفی رسمی SynthID
برای بررسی محتوای تولیدشده یا ویرایششده با ابزارهای Google AI میتوان فایل را در Gemini بارگذاری و درباره وجود SynthID سؤال کرد.
آیا نبود SynthID یعنی تصویر واقعی است؟
خیر. نبود یا شناسایی نشدن SynthID میتواند به دلایل مختلف باشد:
- تصویر با مدل غیرگوگلی ساخته شده است
- محصول یا نسخه مدل واترمارک نداشته است
- فایل بهشدت تغییر کرده است
- تصویر از Screenshot گرفته شده است
- ابزار تشخیص به واترمارک دسترسی ندارد
- تصویر واقعی است
SynthID فقط درباره وجود واترمارک سازگار خود شواهد ارائه میکند و یک Detector عمومی برای تمام تصاویر AI نیست.
ابزارهای تشخیص عکس هوش مصنوعی چگونه کار میکنند؟
AI Image Detectorها معمولاً از یک مدل طبقهبندی استفاده میکنند که بهدنبال الگوهای آماری در تصویر میگردد:
- نویز فرکانسی
- الگوی Pixel
- بافتهای مصنوعی
- نحوه بازسازی لبه
- Artifact مدلهای Diffusion
- ویژگیهای رنگ
- ساختار جزئیات
- اثر Upscaling
- الگوی فشردهسازی
خروجی ممکن است بهصورت احتمال نمایش داده شود:
AI-generated probability: 82%
این عدد به معنی «۸۲ درصد اطمینان واقعی» نیست، مگر اینکه ابزار دقیقاً توضیح دهد امتیاز چگونه Calibration شده است.
چرا سایتهای تشخیص عکس AI ممکن است اشتباه کنند؟
یک Detector میتواند با این مشکلات مواجه شود:
False Positive
یک عکس واقعی بهاشتباه AI تشخیص داده میشود.
دلایل احتمالی:
- روتوش زیاد
- حذف نویز
- فشردهسازی
- Upscale
- HDR
- پسزمینه محو
- کیفیت کم
- ویرایش رنگ شدید
- عکاسی محاسباتی موبایل
False Negative
تصویر AI بهاشتباه واقعی اعلام میشود.
دلایل احتمالی:
- مدل تولیدکننده جدید است
- تصویر Crop شده
- Screenshot گرفته شده
- نویز به تصویر اضافه شده
- ابعاد تغییر کرده
- فشردهسازی شدید انجام شده
- تصویر با عکس واقعی ترکیب شده
- فقط بخش کوچکی با AI ویرایش شده است
تغییر توزیع داده
Detector ممکن است روی خروجی چند مدل مشخص آموزش دیده باشد. هنگام مواجهه با مدل جدید یا روش ویرایش ناشناخته، دقت آن افت میکند.
پژوهشهای NIST نیز بر ارزیابی دقیق سامانههای تحلیل دیپفیک و محدودیت عملکرد آنها در شرایط مختلف تأکید دارند. ارزیابی سامانههای تشخیص دیپفیک توسط NIST
چگونه از AI Detector درست استفاده کنیم؟
به Detector بهعنوان یک سیگنال کمکی نگاه کنید، نه قاضی نهایی.
روش مناسب:
- فایل اصلی را آزمایش کنید.
- بیش از یک Detector مستقل بهکار ببرید.
- مدلها و محدودیت هر ابزار را بررسی کنید.
- نتیجه را همراه با Metadata و Provenance تحلیل کنید.
- به درصد بدون توضیح اعتماد نکنید.
- به کیفیت و ابعاد ورودی توجه کنید.
- تصویر واقعی کنترلشده نیز آزمایش کنید.
- تصویر AI شناختهشده را بهعنوان نمونه مقایسه کنید.
- برای تصمیم مهم از متخصص Forensics کمک بگیرید.
روش نامناسب:
یک سایت گفته ۷۰ درصد AI است، پس تصویر قطعاً جعلی است.
روش بهتر:
دو Detector تصویر را مشکوک ارزیابی کردهاند، اما Metadata موجود نیست.
جستوجوی معکوس نیز نسخه اولیهای پیدا نکرد. این شواهد برای طرح تردید
کافیاند، اما برای نتیجه قطعی به فایل اصلی و تحلیل بیشتر نیاز است.
آیا میتوان از هوش مصنوعی برای تشخیص عکس AI استفاده کرد؟
مدلهای Vision میتوانند نشانههای بصری را تحلیل کنند، اما نباید از آنها انتظار تشخیص قطعی داشت.
یک مدل چندوجهی ممکن است بگوید:
- نورها ناسازگارند
- متن مخدوش است
- دست غیرطبیعی است
- بازتاب آینه اشتباه است
- Metadata در اختیار ندارد
این تحلیل برای هدایت بررسی انسانی مفید است، اما مدل میتواند:
- نشانهای را اشتباه ببیند
- درباره جزئیات خیالپردازی کند
- یک عکس واقعی را AI تشخیص دهد
- به Artifact فشردهسازی حساس باشد
- تحت تأثیر سؤال جهتدار قرار گیرد
بهجای این پرامپت:
ثابت کن این عکس با هوش مصنوعی ساخته شده است.
از پرامپت خنثی استفاده کنید:
این تصویر را بدون پیشفرض درباره واقعی یا مصنوعی بودن بررسی کن.
موارد زیر را تحلیل کن:
- چهره و دستها
- نور و سایه
- بازتابها
- پرسپکتیو
- متن و لوگو
- الگوهای تکراری
- منطق فیزیکی صحنه
- نشانههای ویرایش
برای هر مشاهده:
1. محل آن را مشخص کن.
2. توضیح بده چرا مشکوک یا طبیعی است.
3. یک توضیح جایگزین غیرمرتبط با AI ارائه کن.
4. میزان اطمینان را low، medium یا high اعلام کن.
در پایان فقط یکی از این نتایج را انتخاب کن:
- no obvious signs
- suspicious
- strongly suspicious
- insufficient evidence
از ادعای قطعی بدون Metadata، Provenance یا شواهد خارجی خودداری کن.
ارسال تصویر به مدل Vision با API درواره
توسعهدهندگان میتوانند از مدلهای چندوجهی برای ساخت یک مرحله تحلیل اولیه استفاده کنند. درواره دسترسی API به مدلهای مختلف هوش مصنوعی را از طریق یک رابط یکپارچه فراهم میکند.
درواره یک ابزار آماده تشخیص دیپفیک نیست؛ بلکه API ارائه میدهد تا توسعهدهندگان ابزار تحلیل تصویر، بررسی محتوا یا سامانه Moderation خود را بسازند.
آدرس پایه API:
https://api.darvareh.ir/v1
نمونه درخواست JavaScript:
const response = await fetch(
"https://api.darvareh.ir/v1/chat/completions",
{
method: "POST",
headers: {
"Authorization": `Bearer ${process.env.DARVAREH_API_KEY}`,
"Content-Type": "application/json"
},
body: JSON.stringify({
model: "YOUR_VISION_MODEL_ID",
messages: [
{
role: "system",
content: `
You are a visual media analysis assistant.
Do not claim that an image is authentic or AI-generated
with certainty based only on visual inspection.
Report observable evidence, plausible alternatives,
limitations and recommended verification steps.
`
},
{
role: "user",
content: [
{
type: "text",
text: `
Analyze this image for possible signs of AI generation,
compositing or generative editing.
Check:
- faces and hands
- text and logos
- lighting and shadows
- reflections
- perspective and geometry
- repeated textures
- physical consistency
Return JSON with observations, alternative explanations,
confidence and recommended next steps.
`
},
{
type: "image_url",
image_url: {
url: "SIGNED_PRIVATE_IMAGE_URL"
}
}
]
}
],
temperature: 0.1
})
}
);
if (!response.ok) {
throw new Error(await response.text());
}
const result = await response.json();
console.log(result.choices[0].message.content);
نام مدل باید از میان مدلهای Vision موجود انتخاب شود. همه مدلها از ورودی تصویر پشتیبانی نمیکنند.
ساختار خروجی پیشنهادی
برای پردازش نرمافزاری، خروجی را با JSON Schema اعتبارسنجی کنید:
{
"assessment": "insufficient_evidence",
"confidence": "low",
"observations": [
{
"region": "background sign",
"category": "text",
"finding": "characters appear inconsistent",
"supports_ai_hypothesis": true,
"alternative_explanations": [
"motion blur",
"JPEG compression",
"low source resolution"
],
"confidence": "medium"
}
],
"metadata_available": false,
"content_credentials_checked": false,
"reverse_search_completed": false,
"recommended_actions": [
"obtain the original file",
"inspect EXIF metadata",
"perform reverse image search",
"check Content Credentials"
]
}
مقدار assessment بهتر است شامل گزینههای محتاطانه باشد:
no_obvious_signs
suspicious
strongly_suspicious
insufficient_evidence
استفاده از برچسب real و fake بدون شواهد کافی میتواند گمراهکننده باشد.
ساخت یک سامانه حرفهای تشخیص تصویر
یک سامانه واقعی نباید فقط از یک مدل Vision استفاده کند.
معماری پیشنهادی:
Image Upload
↓
File Validation
↓
Cryptographic Hash
↓
Metadata Extraction
↓
C2PA / Content Credentials Check
↓
Watermark Detection
↓
Reverse Image Search
↓
Visual Forensics
↓
Multiple AI Detectors
↓
Cross-source Verification
↓
Risk Scoring
↓
Human Review
هر مرحله نوع متفاوتی از شواهد تولید میکند.
طراحی امتیاز ریسک
بهجای نتیجه قطعی، میتوان Risk Score ساخت:
{
"provenance": {
"score": 20,
"reason": "No verifiable source found"
},
"metadata": {
"score": 10,
"reason": "Metadata is absent"
},
"visual_anomalies": {
"score": 55,
"reason": "Inconsistent reflections and malformed background text"
},
"detectors": {
"score": 60,
"reason": "Two of three detectors flagged the image"
},
"context_verification": {
"score": 70,
"reason": "No independent report supports the associated claim"
},
"overall_risk": 52,
"decision": "human_review_required"
}
وزنها باید با داده واقعی و کاربرد سازمان تنظیم شوند. نبود Metadata نباید امتیاز بسیار سنگینی داشته باشد، زیرا بسیاری از پلتفرمها آن را حذف میکنند.
اعتبارسنجی فایل ورودی
برای تحلیل امن تصویر:
- فقط به پسوند اعتماد نکنید.
- Magic Bytes را بررسی کنید.
- تصویر را Decode کنید.
- حجم فایل را محدود کنید.
- عرض و ارتفاع را محدود کنید.
- تعداد Pixelها را کنترل کنید.
- Metadata را قبل از ذخیره عمومی حذف کنید.
- فایل را در فضای خصوصی نگه دارید.
- نام فایل تصادفی بسازید.
- از Signed URL کوتاهعمر استفاده کنید.
- تصاویر را در Log ثبت نکنید.
- سیاست حذف خودکار داشته باشید.
نمونه محدودیت:
const LIMITS = {
maxFileSize: 10 * 1024 * 1024,
maxWidth: 12000,
maxHeight: 12000,
maxPixels: 80_000_000,
allowedTypes: [
"image/jpeg",
"image/png",
"image/webp"
]
};
مقادیر مناسب به زیرساخت و کاربرد شما بستگی دارند.
Hash تصویر چه کمکی میکند؟
Hash رمزنگاری مانند SHA-256 میتواند فایل دقیقاً یکسان را شناسایی کند:
import { createHash } from "node:crypto";
function sha256(buffer) {
return createHash("sha256")
.update(buffer)
.digest("hex");
}
اما کوچکترین تغییر در Crop، فشردهسازی یا Resize، Hash را کاملاً عوض میکند.
برای یافتن نسخههای بصری مشابه میتوان از Perceptual Hash استفاده کرد:
- pHash
- dHash
- aHash
Perceptual Hash برای تشخیص تصاویر مشابه مفید است، اما اثبات اصالت نیست و باید آستانه شباهت آن تنظیم شود.
تحلیل Error Level Analysis
Error Level Analysis یا ELA تلاش میکند تفاوت سطح فشردهسازی بخشهای تصویر JPEG را نشان دهد. گاهی بخش ویرایششده سطح متفاوتی دارد.
بااینحال ELA محدودیتهای جدی دارد:
- ذخیره مجدد کل تصویر الگو را تغییر میدهد.
- شبکههای اجتماعی تصویر را دوباره فشرده میکنند.
- ویرایش یکپارچه ممکن است قابلتشخیص نباشد.
- نواحی دارای بافت طبیعی رفتار متفاوت دارند.
- افراد غیرمتخصص ممکن است Heatmap را اشتباه تفسیر کنند.
- تصاویر PNG یا Screenshot شرایط متفاوتی دارند.
ELA بهتنهایی ابزار تشخیص AI نیست.
Noise Analysis و بررسی فرکانسی
دوربینهای واقعی الگوهای نویز مرتبط با حسگر، نور و پردازش دستگاه ایجاد میکنند. تصاویر AI ممکن است الگوهای فرکانسی متفاوتی داشته باشند.
تحلیل حرفهای میتواند شامل این موارد باشد:
- Sensor Noise
- Photo Response Non-Uniformity
- CFA Artifacts
- JPEG Quantization
- Frequency Spectrum
- Resampling Detection
- Edge Inconsistency
- Local Noise Variance
این روشها برای کاربر عادی ساده نیستند و باید توسط متخصص Digital Forensics انجام شوند. پردازشهای جدید، فشردهسازی و ترکیب تصویر واقعی و AI میتوانند نتایج را دشوار کنند.
تشخیص دیپفیک چهره
برای چهره مشکوک، علاوه بر نشانههای عمومی بررسی کنید:
- تطابق چهره با تصاویر معتبر فرد
- تناسب سر و بدن
- رنگ متفاوت صورت و گردن
- مرز صورت در اطراف مو
- شکل گوش
- نور روی صورت
- خطوط عینک
- جزئیات پوست
- تفاوت وضوح صورت و محیط
- سایه زیر چانه
- آناتومی فک
- تغییر هویت در زاویههای مختلف
برای احراز هویت نباید یک عکس ثابت تنها مدرک باشد. کنترلهای بهتر عبارتاند از:
- Liveness Detection
- Challenge-Response
- ویدئوی زنده
- مقایسه با تصویر مرجع معتبر
- بررسی سند
- Device Signals
- Risk Scoring
- Human Review
تشخیص تصویر جعلی در شبکههای اجتماعی
اگر تصویر در Telegram، Instagram، X یا پیامرسانها منتشر شده است:
- تصویر را با بالاترین کیفیت دانلود کنید.
- متن پست و زمان انتشار را ذخیره کنید.
- نام کاربری و URL منبع را ثبت کنید.
- پستهای قبلی حساب را بررسی کنید.
- بهدنبال نسخه اولیه بگردید.
- جستوجوی معکوس انجام دهید.
- ادعا را به چند زبان جستوجو کنید.
- گزارش رسانههای معتبر را بررسی کنید.
- از بازنشر تصویر تا تأیید خودداری کنید.
- اگر موضوع حساس است، فقط نتیجه بررسیشده را منتشر کنید.
اسکرینشات ممکن است Metadata و Credentialهای فایل اصلی را حذف کند. در صورت امکان، خود فایل را دریافت کنید.
تشخیص عکس جعلی محصول
برای فروشگاه یا تبلیغات بررسی کنید:
- آیا محصول واقعاً وجود دارد؟
- لوگو و نام مدل صحیح است؟
- دکمهها و پورتها در تصاویر مختلف یکساناند؟
- ابعاد محصول منطقی است؟
- مشخصات فنی با عکس سازگار است؟
- سایه و بازتاب درست است؟
- تصویر از سایت دیگری کپی شده؟
- Reviewهای واقعی وجود دارد؟
- تصاویر کاربران با تبلیغ مطابقت دارند؟
- بستهبندی در چند تصویر ثابت است؟
تصویر AI ممکن است محصولی بسیار جذاب اما غیرقابلتولید نشان دهد. برای خرید، عکس تبلیغاتی را مدرک وجود کالا ندانید.
تشخیص عکس پروفایل جعلی
حسابهای جعلی ممکن است از چهره تولیدشده با AI استفاده کنند.
نشانههای احتمالی:
- نبود سابقه حساب
- تصاویر بسیار کم
- تمام عکسها زاویه مشابه دارند
- شبکه ارتباطی غیرواقعی است
- اطلاعات شغلی قابلتأیید نیست
- نام کاربری مرتب تغییر کرده
- چهره در جستوجوی معکوس پیدا نمیشود
- پسزمینه تصاویر مبهم یا غیرمنطقی است
- گوشواره، عینک یا مو در تصاویر تغییر میکند
- درخواست سریع پول یا اطلاعات حساس دارد
نبود نتیجه در Reverse Search ثابت نمیکند چهره AI است؛ بسیاری از افراد واقعی حضور عمومی محدودی دارند.
چه زمانی به متخصص مراجعه کنیم؟
در این موارد تحلیل عمومی کافی نیست:
- پرونده قضایی
- احراز هویت
- کلاهبرداری مالی
- باجگیری
- تهدید
- امنیت ملی
- محتوای خبری مهم
- تخریب اعتبار
- تصاویر پزشکی
- ادعای علمی
- محتوای مربوط به کودکان
- تصمیم استخدامی یا حقوقی
- تصاویر دوربین مداربسته
متخصص باید فایل اصلی، زنجیره نگهداری شواهد و ابزارهای معتبر را بررسی کند. ویرایش یا ذخیره مجدد فایل میتواند شواهد دیجیتال را تغییر دهد.
هنگام دریافت تصویر مشکوک چه کار کنیم؟
- آن را بلافاصله بازنشر نکنید.
- فایل اصلی را حفظ کنید.
- Screenshot را جایگزین فایل نکنید.
- URL و زمان دریافت را ثبت کنید.
- Hash فایل را ذخیره کنید.
- منبع را بررسی کنید.
- ادعا را مستقل تأیید کنید.
- نتیجه Detector را قطعی اعلام نکنید.
- از متهم کردن افراد بدون مدرک خودداری کنید.
- در موارد مجرمانه، شواهد را به مرجع مربوط تحویل دهید.
آیا میتوان یک تصویر را «صددرصد واقعی» اعلام کرد؟
معمولاً خیر. حتی اگر تصویر با دوربین گرفته شده باشد، ممکن است:
- صحنهسازی شده باشد
- بخشی از آن ویرایش شده باشد
- کپشن نادرست داشته باشد
- زمان و مکان اشتباه اعلام شده باشد
- خارج از Context منتشر شده باشد
- با روشهای سنتی Manipulate شده باشد
اصالت فایل و صحت ادعای همراه تصویر دو مسئله جدا هستند.
یک نتیجه حرفهای باید دامنه ادعا را مشخص کند:
فایل دارای Content Credentials معتبر از دوربین مشخص است.
اما این اطلاعات بهتنهایی صحت کپشن یا تفسیر رویداد را اثبات نمیکند.
یا:
نشانه آشکار و قطعی از تولید AI مشاهده نشد.
بااینحال فایل اصلی و اطلاعات Provenance در دسترس نیست، بنابراین
واقعی بودن تصویر قابل تأیید قطعی نیست.
سؤالات متداول
چگونه بفهمیم یک عکس با هوش مصنوعی ساخته شده است؟
منبع تصویر، جستوجوی معکوس، چهره، دستها، متن، نور، سایه، بازتاب، پرسپکتیو، Metadata، Content Credentials و واترمارک را بررسی کنید. نتیجه یک ابزار Detector بهتنهایی کافی نیست.
بهترین سایت تشخیص عکس هوش مصنوعی چیست؟
هیچ سایت عمومی را نمیتوان برای تمام مدلها و تصاویر بهترین و قطعی دانست. Detectorها باید همراه با بررسی منبع، Metadata، C2PA، Reverse Search و تحلیل انسانی استفاده شوند.
آیا Google Lens میتواند عکس AI را تشخیص دهد؟
Google Lens بیشتر برای یافتن تصاویر مشابه و منبع احتمالی مفید است. پیدا نکردن نتیجه به معنی AI بودن تصویر نیست و یافتن نسخه مشابه نیز الزاماً اصالت کپشن را ثابت نمیکند.
آیا Metadata مشخص میکند عکس با AI ساخته شده است؟
گاهی نام نرمافزار یا ابزار تولید در Metadata دیده میشود، اما Metadata قابلحذف و جعل است. نبود EXIF نیز دلیل AI بودن نیست.
Content Credentials چیست؟
Content Credentials اطلاعات امضاشده درباره منشأ، ابزار ایجاد و تاریخچه ویرایش محتواست که براساس استاندارد C2PA ارائه میشود.
SynthID چیست؟
SynthID واترمارک نامرئی Google DeepMind برای شناسایی برخی محتواهای تولیدشده یا ویرایششده با ابزارهای Google AI است.
آیا نبود واترمارک یعنی عکس واقعی است؟
خیر. تصویر ممکن است با ابزار فاقد واترمارک ساخته شده باشد یا واترمارک بر اثر تغییرات از بین رفته باشد. نبود واترمارک اصالت تصویر را ثابت نمیکند.
آیا دستهای خراب هنوز نشانه تصویر AI هستند؟
میتوانند یک نشانه باشند، اما مدلهای جدید دستها را بهتر تولید میکنند. از طرف دیگر، تاری و فشردهسازی ممکن است دست واقعی را غیرطبیعی نشان دهند.
آیا عکس واقعی ممکن است توسط Detector جعلی تشخیص داده شود؟
بله. روتوش، فشردهسازی، HDR، Upscaling، Beauty Filter و پردازش دوربین موبایل میتوانند باعث False Positive شوند.
آیا ChatGPT یا Gemini میتوانند تصویر AI را تشخیص دهند؟
مدلهای Vision میتوانند نشانههای بصری را بررسی کنند، اما مشاهده آنها اثبات قطعی نیست. Gemini میتواند وجود واترمارک SynthID را در محتوای سازگار Google AI بررسی کند.
دیپفیک چیست؟
دیپفیک محتوایی مصنوعی یا دستکاریشده است که ظاهر، چهره، صدا یا رفتار فرد واقعی را بازسازی یا جایگزین میکند.
چگونه عکس پروفایل جعلی را شناسایی کنیم؟
علاوه بر خود تصویر، سابقه حساب، ارتباطات، محتوای قبلی، اطلاعات شغلی، رفتار کاربر و درخواستهای مشکوک را بررسی کنید. تحلیل حساب معمولاً از بررسی صرف Pixelها مهمتر است.
آیا میتوان ابزار تشخیص عکس AI ساخت؟
بله، اما یک ابزار قابلاعتماد باید چند منبع شواهد مانند Metadata، C2PA، Watermark، Detectorهای مختلف، Reverse Search و Human Review را ترکیب کند.
درواره چه کمکی به ساخت چنین ابزاری میکند؟
درواره دسترسی API به مدلهای هوش مصنوعی را برای توسعهدهندگان فراهم میکند. میتوانید از مدلهای Vision برای تحلیل اولیه تصاویر در سامانه خود استفاده کنید، اما تشخیص نهایی باید چندلایه باشد.
جمعبندی
تشخیص عکس ساختهشده با هوش مصنوعی یک مسئله بله یا خیر ساده نیست. مدلهای مولد جدید میتوانند تصاویر بسیار طبیعی بسازند و ابزارهای ویرایش نیز مرز میان عکس واقعی و مصنوعی را کمرنگ کردهاند.
بهترین روش، ترکیب چند لایه بررسی است:
- ابتدا ادعای همراه تصویر را بررسی کنید.
- منبع اولیه را پیدا کنید.
- Reverse Image Search انجام دهید.
- نسخه اصلی و باکیفیت را دریافت کنید.
- چهره، دست، متن و منطق صحنه را بررسی کنید.
- نور، سایه، بازتاب و پرسپکتیو را تحلیل کنید.
- Metadata را بهعنوان سرنخ بررسی کنید.
- Content Credentials و واترمارک را جستوجو کنید.
- از چند Detector فقط بهعنوان سیگنال کمکی استفاده کنید.
- برای تصمیمهای مهم، بررسی تخصصی انجام دهید.
مهمترین اصل این است:
نبود نشانه AI، واقعی بودن را ثابت نمیکند؛
و یک نشانه مشکوک نیز بهتنهایی جعلی بودن را اثبات نمیکند.
اگر توسعهدهنده هستید و میخواهید سامانه تحلیل تصویر، بررسی محتوا، Moderation یا ابزار چندوجهی بسازید، در درواره ثبتنام کنید، API Key بگیرید و مدلهای Vision مناسب را از طریق یک اتصال یکپارچه آزمایش کنید.
آدرس پایه API درواره:
https://api.darvareh.ir/v1
کلید API را فقط در Backend نگهداری کنید و برای تصمیمهای حساس، خروجی مدل را بدون اعتبارسنجی و بازبینی انسانی مبنا قرار ندهید.