هشدار پژوهشگر سابق گوگل درباره خطرات فاجعه‌بار هوش مصنوعی

یک پژوهشگر سابق گوگل دیپ‌مایند با هشدار درباره روند شتابان توسعه هوش مصنوعی پیشرفته اعلام کرده است که این فناوری در صورت نبود سازوکارهای ایمنی و هماهنگی کافی میان شرکت‌ها، می‌تواند به تهدیدی جدی برای بقای انسان تبدیل شود.

به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از رویترز، بلال چغتای، پژوهشگر سابق ایمنی هوش مصنوعی در گوگل دیپ‌مایند، درباره مسیر فعلی توسعه مدل‌های پیشرفته هوش مصنوعی هشدار داده و گفته است فرصت برای جلوگیری از پیامدهای فاجعه‌بار این فناوری ممکن است در حال کاهش باشد.

چغتای که روی ایمنی و هم‌راستایی هوش مصنوعی عمومی در گوگل دیپ‌مایند فعالیت می‌کرد، در ژوئیه ۲۰۲۶ از این شرکت استعفا داد. او معتقد است سرعت بالای توسعه هوش مصنوعی، در صورت نبود هماهنگی میان شرکت‌های فناوری، می‌تواند شرایطی پرخطر ایجاد کند.

افزایش هشدارها درباره خطر هوش مصنوعی

نگرانی درباره پیامدهای احتمالی هوش مصنوعی در هفته‌های اخیر از محافل تخصصی فراتر رفته است. جیکوب کاکسون، پژوهشگر سابق آنتروپیک، نیز پس از استعفا درباره احتمال وقوع پیامدهای بسیار شدید ناشی از توسعه این فناوری هشدار داده بود.

ایوان هابینگر، پژوهشگر حوزه هم‌راستایی هوش مصنوعی، نیز احتمال وقوع یک نتیجه فاجعه‌بار در دهه آینده را بیش از ۱۰ درصد برآورد کرده است.

در همین حال، شماری از مدیران و چهره‌های سرشناس صنعت فناوری خواستار اتخاذ رویکردی محتاطانه‌تر در توسعه مدل‌های پیشرفته شده‌اند.

داریو آمودی، مدیرعامل آنتروپیک، پیشنهاد کرده است توسعه مدل‌های پیشرفته با آزمایش‌های سخت‌گیرانه‌تر، ارزیابی مستقل و همکاری بین‌المللی همراه شود. سم آلتمن نیز با افزایش نظارت و ارزیابی ایمنی مدل‌های پیشرفته موافقت کرده و ایلان ماسک از موضع آمودی حمایت کرده است.

اختلاف نظر درباره سرعت توسعه هوش مصنوعی

در مقابل، دونالد ترامپ نگرانی‌های مطرح‌شده درباره خطرات هوش مصنوعی را اغراق‌آمیز دانسته و گفته است آمریکا ابزارهای لازم برای نظارت بر این صنعت را در اختیار دارد.

این اختلاف دیدگاه، مسئله سرعت توسعه هوش مصنوعی و نحوه نظارت بر آن را به یکی از چالش‌های مهم میان سیاست‌گذاران و شرکت‌های فناوری تبدیل کرده است.

چغتای با وجود هشدار درباره خطرات احتمالی، توسعه ایمن هوش مصنوعی را غیرممکن نمی‌داند و بر ضرورت هماهنگی میان شرکت‌های فناوری تأکید دارد. با این حال، رقابت شدید میان شرکت‌های فناوری و همچنین رقابت راهبردی میان آمریکا و چین، دستیابی به چنین هماهنگی‌ای را دشوارتر کرده است.

بر اساس گزارش رویترز، رقابت ژئوپلیتیکی میان قدرت‌های بزرگ یکی از عواملی است که فشار برای ادامه توسعه سریع فناوری هوش مصنوعی را افزایش می‌دهد.