أوبن أيه آي تعلن طرح أداة لكشف الصور المزيفة بالذكاء الاصطناعي التوليدي

مقدمة

أعلنت شركة أوبن آي آي، مطورة نموذج الذكاء الاصطناعي الشهير ChatGPT، عن إطلاق أداة جديدة قادرة على الكشف عن الصور الرقمية التي تم إنشاؤها باستخدام الذكاء الاصطناعي التوليدي. تهدف هذه الأداة إلى مكافحة انتشار الصور المزيفة التي يمكن استخدامها لأغراض خادعة أو ضارة.

آلية عمل الأداة

طورت أوبن آي آي خوارزمية يمكنها تحديد الصور التي تم إنشاؤها باستخدام نموذجها الخاص بالذكاء الاصطناعي DALL-E 3. وفقًا للشركة، فإن الأداة قادرة على اكتشاف ما يصل إلى 98٪ من الصور التي تم إنشاؤها بواسطة DALL-E 3. ومع ذلك، تعترف أوبن آي آي بأن فعاليتها تنخفض إذا تم تعديل الصور لاحقًا أو تم إنشاؤها باستخدام نماذج ذكاء اصطناعي أخرى.

علامات الصور المزيفة

لتعزيز الشفافية ومنع سوء استخدام الصور المزيفة، تخطط أوبن آي آي لإضافة علامات إلى الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي. تتوافق هذه المبادرة مع معايير تحالف C2PA (مصدر المحتوى وأصالة البيانات الرقمية)، وهي مبادرة صناعية تضع معايير تقنية لتوثيق مصدر المحتوى الرقمي. انضمت إلى هذا التحالف شركات رائدة مثل ميتا (مالكة فيسبوك وإنستغرام) وجوجل، والتي أعلنت مؤخرًا أنها ستبدأ في تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على منصاتها اعتبارًا من مايو 2023.

الأهمية

يتمثل الهدف الرئيسي لأداة الكشف عن الصور المزيفة التابعة لشركة أوبن آي آي في مكافحة انتشار المعلومات المضللة التي يتم نشرها من خلال الصور المزيفة. من خلال توفير طريقة فعالة للكشف عن هذه الصور، يمكن للشركات والأفراد التحقق من صحة المعلومات المرئية التي يستهلكونها واتخاذ قرارات أكثر استنارة بناءً عليها.