توقف موقت توسعه مدل Astra از سوی OpenAI بهدلیل نگرانیهای امنیتی
OpenAI پس از مشاهده تواناییهای پیشرفته سایبری در ارزیابیهای داخلی، بخشی از روند توسعه مدل جدید Astra را متوقف و بررسیهای ایمنی را تشدید کرد.
به گزارش ارغوان نیوز، شرکت OpenAI روند توسعه بخشی از مدل هوش مصنوعی جدید خود با نام Astra را بهدلیل نگرانی درباره تواناییهای سایبری این مدل کند کرده است.
ارزیابیهای داخلی OpenAI نشان داده که Astra در زمینه کدنویسی و انجام وظایف مرتبط با امنیت سایبری پیشرفت قابلتوجهی داشته و ممکن است به سطحی از توانایی برسد که از نظر چارچوب ایمنی این شرکت، در رده «قابلیتهای سایبری بحرانی» قرار گیرد.
بر اساس اعلام OpenAI، رسیدن یک مدل به این سطح از توانایی باعث فعال شدن الزامات امنیتی سختگیرانهتری میشود. به همین دلیل، این شرکت برخی فعالیتهای توسعهای را تا زمان تکمیل آزمایشها و تقویت سازوکارهای حفاظتی متوقف کرده است.
OpenAI همچنین اعلام کرده قصد دارد نظارت بر Astra را افزایش دهد و کنترلهای امنیتی بیشتری را برای مدلهای پیشرفته خود اعمال کند. این اقدامات با هدف کاهش احتمال سوءاستفاده از قابلیتهای سایبری مدل و اطمینان از ایمن بودن آن پیش از عرضه عمومی انجام میشود.
این تصمیم نشان میدهد با افزایش توانایی مدلهای هوش مصنوعی، شرکتهای توسعهدهنده با چالشهای تازهای در زمینه کنترل و ارزیابی ریسکهای امنیتی مواجه شدهاند.
