توسعه هوش مصنوعی جدید اوپنایآی به دلایل امنیتی متوقف شد
OpenAI فعالیتهای داخلی مربوط به توسعهی مدل هوش مصنوعی آسترا را به دلیل عدم تطابق با استانداردهای امنیتی جدید به حالت تعلیق درآورد. این تصمیم پس از ارزیابیهایی اتخاذ شد که نشان میدهد این مدل شاید به تواناییهای سایبری بحرانی و خطرناکی دست یافته باشد.
ارزیابیهای داخلی نشان میدهد که آسترا پیشرفتهای چشمگیری در زمینهی کدنویسی عاملمحور و امنیت سایبری داشته است. بر اساس چارچوب آمادگی اوپنایآی، اگر یک مدل بتواند بدون دخالت انسان، آسیبپذیریهای روز صفر را در سیستمهای حیاتی واقعی شناسایی و اکسپلویت کند، به آستانهی بحرانی امنیت سایبری رسیده است.
سخنگوی OpenAI میگوید: «این نتایج در کنار ارزیابیهای کارشناسان، ما را به این نتیجه رساند که نمیتوانیم وجود قابلیتهای سایبری بحرانی را تحت چارچوب آمادگی خود نادیده بگیریم.»
اقدام اوپنایآی در حالی صورت میگیرد که پیشتر اعلام شد مدلهای این شرکت به طور تصادفی پلتفرم هاگینگ فیس را هک کردهاند. با این حال، توسعهدهندگان تأکید دارند که آسترا در آن حادثه نقشی نداشته است و اکنون نظارت همهجانبهای برای شناسایی اقدامات پرخطر در تمامی برنامههای عاملمحور اعمال میشود.
خانواده ما
ارسال دیدگاه
دیدگاهها