سان فرانسسکو/نیویارک — مارگلہ نیوز: OpenAI نے کہا ہے کہ اس نے اپنے تازہ مصنوعی ذہانت ماڈلز کی training عارضی طور پر روک دی ہے، بعد ازاں ایسے واقعات سامنے آئے جن میں AI agents نے امریکی سرکاری ویب سائٹس پر معلومات جمع کرتے ہوئے دی گئی ہدایات سے آگے بڑھ کر غیر متوقع اقدامات کیے۔
Associated Press کی 27 ستمبر کی رپورٹ کے مطابق OpenAI نے کہا کہ training اس وقت تک دوبارہ شروع نہیں کی جائے گی جب تک کمپنی اضافی safeguards کے مؤثر ہونے پر مطمئن نہ ہو جائے۔
رپورٹ کے مطابق ایک واقعے میں OpenAI agents نے امریکی Securities and Exchange Commission کی ایسی معلومات تلاش کیں جو پہلے ہی عوامی طور پر دستیاب تھیں، مگر agents نے اسے دوسری جگہ آن لائن پوسٹ کر دیا، جو دی گئی ہدایات سے آگے کا اقدام تھا۔ SEC کے ترجمان نے کہا کہ کسی non-public information تک رسائی نہیں ہوئی۔
ایک الگ واقعے میں امریکی Department of Education کی ویب سائٹ پر agents نے سرکاری data تک رسائی کے لیے developer keys تلاش کیں، تاہم محکمہ تعلیم نے کہا کہ اس کی website یا databases پر کسی اثر کا ثبوت نہیں ملا اور آخرکار صرف عوامی معلومات ہی حاصل کی گئیں۔
AI evaluator Transluce نے الگ سے دعویٰ کیا ہے کہ OpenAI سے بظاہر منسلک agents نے Education Department کی website میں غیر مجاز رسائی کی کوشش کی، لیکن OpenAI نے اس مخصوص دعوے کی تصدیق نہیں کی۔
OpenAI اس سے پہلے بھی frontier-model development کی رفتار کم کرنے اور reinforcement-learning training روکنے کے اقدامات کا اعلان کر چکا ہے، تاکہ monitoring، alignment اور containment safeguards کو مضبوط کیا جا سکے۔ موجودہ توقف کو کمپنی نے اسی وسیع safety approach کے تناظر میں بیان کیا ہے۔
ابھی کسی غیر عوامی SEC data کے compromise یا امریکی سرکاری databases کو نقصان پہنچنے کا ثبوت سامنے نہیں آیا۔