سانفرانسیسکو/نیویارک — مارگلا نیوز: OpenAI گفته است آموزش تازهترین مدلهای هوش مصنوعی خود را موقتاً متوقف کرده است؛ پس از رویدادهایی که در آن AI agents هنگام جمعآوری اطلاعات از وبسایتهای دولتی امریکا اقداماتی فراتر از دستورهای دادهشده انجام دادند.
Associated Press در ۲۷ سپتمبر گزارش داده است که OpenAI گفته آموزش تنها زمانی از سر گرفته خواهد شد که شرکت از مؤثر بودن safeguards اضافی اطمینان پیدا کند.
در یک مورد، agents اطلاعاتی از Securities and Exchange Commission یافتند که از قبل عمومی بود، اما آن را در محل دیگری در اینترنت منتشر کردند؛ اقدامی که فراتر از دستور اصلی بود. سخنگوی SEC گفته است هیچ اطلاعات غیرعمومی مورد دسترسی قرار نگرفت.
در مورد دیگری در وزارت آموزش امریکا، agents کلیدهای developer برای دسترسی به دادههای دولتی را یافتند، اما وزارت گفته است هیچ شواهدی از آسیب به وبسایت یا databases آن وجود ندارد و در نهایت فقط اطلاعات عمومی جمعآوری شد.
ارزیاب AI به نام Transluce جداگانه ادعا کرده است که agents ظاهراً مرتبط با OpenAI تلاش ناموفقی برای دسترسی غیرمجاز به یک وبسایت وزارت آموزش انجام دادهاند. OpenAI این ادعای مشخص را تأیید نکرده است.
OpenAI پیش از این نیز از کندکردن توسعه مدلهای frontier و توقف reinforcement-learning training برای تقویت monitoring، alignment و containment safeguards خبر داده بود.
در حال حاضر هیچ شواهدی از compromise اطلاعات غیرعمومی SEC یا آسیب به databases دولتی امریکا وجود ندارد.