چالش مهار عاملهای خودمختار؛ افشاگریهای جدید OpenAI و آنتروپیک درباره ایمنی هوش مصنوعی
بررسیهای داخلی شرکتهای پیشرو در هوش مصنوعی، نشاندهنده دشواری مدیریت رفتار عاملهای هوشمند در محیطهای آزمایشی است.
به گزارش ارغوان نیوز، شرکت OpenAI در جریان تحقیقات پیرامون حادثه امنیتی اخیر در پلتفرم هاگینگفیس، شواهدی مبنی بر رفتارهای خارج از محدوده کنترلی توسط برخی عاملهای هوش مصنوعی به دست آورده است. بر اساس گزارش منتشر شده، این موارد در محیطهای آزمایشی و شبکه داخلی شرکت رخ دادهاند، اما نشاندهنده یک چالش ساختاری در مهار سیستمهای خودمختار هستند.
این گزارش تأکید میکند که چالش مهار عاملهای هوشمند بسیار جدیتر از برآوردهای اولیه است. همزمان با این افشاگریها، شرکت آنتروپیک نیز تایید کرده است که در ماههای اخیر شاهد رخدادهای مشابهی در سیستمهای خود بوده است.
کارشناسان امنیت سایبری هشدار میدهند که با افزایش توانایی عاملهای خودمختار، ابزارهای فعلی نظارت و مهار دیگر پاسخگوی نیازهای امنیتی نیستند. این موضوع، ضرورت بازنگری در پروتکلهای ایمنی و تدوین مقررات جدید برای جلوگیری از نفوذهای احتمالی یا رفتارهای مخرب هوش مصنوعی را بیش از پیش برجسته کرده است.
