اوپن اے آئی اور میٹا کا امریکی عدلیہ کو 'ڈیپ فیک' شواہد کے خطرے سے انتباہ

اوپن اے آئی اور میٹا کے ٹیکنالوجی ماہرین نے جمعرات کو ایک وفاقی عدالتی پینل کو خبردار کیا کہ AI سے تیار کردہ "ڈیپ فیکس" اتنے نفیس ہو رہے ہیں کہ عدالت میں پیش کیے جانے والے آڈیو اور ویڈیو شواہد کی صداقت کا تعین کرنا مشکل ہوتا جا رہا ہے۔

کمپنیوں کے نمائندوں اور دیگر ماہرین نے بوسٹن میں امریکی جوڈیشل کانفرنس کی ایڈوائزری کمیٹی آن ایویڈنس رولز کے اجلاس میں اپنے خیالات شیئر کیے، جو تین سال سے عدالت میں جعلی AI شواہد کے خطرات سے نمٹنے کے طریقوں پر غور کر رہی ہے۔

اوپن اے آئی کی پالیسی کونسل شیرا اینڈرسن نے کمیٹی کو بتایا کہ "AI تصاویر صرف بہتر ہو رہی ہیں، اور میرے خیال میں آگے جا کر ان کا پتہ لگانے کا کوئی سائنسی طریقہ نہیں ہوگا۔"

میٹا کے ڈائریکٹر آف پروڈکٹ مینجمنٹ ڈیون نورڈر نے کہا کہ "فرنٹیئر ماڈلز سے تیار کردہ میڈیا، کم از کم گزشتہ چند نسلوں میں، انسانوں کے لیے اصلی یا AI سے تیار کردہ میڈیا سے ناقابل امتیاز ہے۔ اور اس میڈیا کو بنانے کی لاگت اور وقت اب بہت معمولی ہے۔"

پینل 2023 سے ڈیپ فیکس سے متعلق تصدیق کے مسائل سے نمٹنے کے لیے جدوجہد کر رہا ہے۔ فیڈرل جوڈیشری سینٹر کے سروے میں معلوم ہوا کہ جواب دینے والے 931 ججوں میں سے صرف 15 کو ایسے کیس کا سامنا ہوا تھا جس میں کسی فریق نے ڈیپ فیک ہونے کی بنیاد پر شواہد کو چیلنج کیا تھا۔ پینل کے چیئرمین امریکی ڈسٹرکٹ جج جیسی فرمین نے کہا کہ عدالتوں نے ابھی اس کا زیادہ سامنا نہیں کیا۔

بڑی کمپنیوں نے بصری مواد کی تصدیق کے لیے ٹولز اپنائے ہیں، اور کیلیفورنیا اور یورپی یونین کے نئے قوانین میں ڈیپ فیکس کا پتہ لگانے کے لیے واٹر مارکنگ لازمی ہے۔ لیکن اینڈرسن نے خبردار کیا کہ چونکہ ہر کمپنی کا اپنا نظام ہے، اس لیے تمام واٹر مارکس کا قابل اعتماد طریقے سے پتہ لگانے یا صداقت کی تصدیق کا کوئی عالمگیر ذریعہ نہیں ہے۔