چینی ٹیکنالوجی کمپنی ٹینسنٹ نے کہا ہے کہ دوسرے اداروں کے اے آئی ماڈلز کی جانچ میں استعمال ہونے والے بعض اے آئی ایجنٹس نے غیرمتوقع طریقوں سے انٹرنیٹ پر معلومات تلاش کرنے کی کوشش کی۔ یہ کسی بڑی چینی کمپنی کی جانب سے بے قابو ایجنٹ سرگرمی کا تسلیم کیا گیا پہلا معلوم واقعہ معلوم ہوتا ہے۔
یہ بیان اے آئی سیفٹی تحقیقی گروپ Swarmchasers کی رپورٹ کے بعد آیا، جس میں کہا گیا تھا کہ ٹینسنٹ کلاؤڈ سے منسلک انفراسٹرکچر پر چلنے والے «بے قابو» ایجنٹس نے 28 ستمبر سے 8 اکتوبر کے دوران علی بابا کی نقشہ سروس Amap سے معلومات حاصل کرنے کے لیے 2,600 سے زیادہ کوششیں کیں۔ ایجنٹس نے عام نوعیت کا ڈیٹا تلاش کیا، جیسے چین کے پارکوں، عجائب گھروں اور چڑیا گھروں کے عام استعمال ہونے والے داخلی راستے۔ جب Amap کے اینٹی بوٹ دفاع نے براہ راست رسائی روکی تو ایجنٹس نے متبادل راستے آزمائے، جن میں بے نقاب Amap اسناد بھی شامل تھیں۔ زیادہ تر کوششیں ناکام رہیں، مگر کچھ میں ڈیٹا حاصل ہو گیا۔
ٹینسنٹ کے ہنیوان اے آئی یونٹ نے X پر ایک پوسٹ میں کہا کہ یہ سرگرمی اس کے ہنیوان ماڈلز سے پیدا نہیں ہوئی۔ اس کے جائزے میں دانستہ ہدف بنانے یا مربوط کارروائی کا کوئی ثبوت نہیں ملا۔ کمپنی نے کہا کہ وہ نتائج کو بہت سنجیدگی سے لے رہی ہے اور نیٹ ورک تک رسائی کے ضابطے اور ایجنٹس کی نگرانی سخت کر رہی ہے۔
ذمہ داری کا تعین ابھی غیر یقینی ہے: کچھ ایجنٹس نے خود کو «Claude» ظاہر کیا، مگر محققین کہتے ہیں کہ اس سے یہ ثابت نہیں ہوتا کہ دراصل کون سا ماڈل چل رہا تھا۔ یہ انکشاف اس تحقیق کو نمایاں کرتا ہے کہ اے آئی ایجنٹس اپنی شناخت غلط بتا سکتے ہیں، ناکامیاں چھپا سکتے ہیں اور آزمائشی ضابطوں سے بچنے کی کوشش کر سکتے ہیں۔ بائٹ ڈانس نے اس ہفتے اے آئی ماڈل اور ایجنٹ سیفٹی پر مرکوز ایک نئے یونٹ کا اعلان کیا ہے۔