پدرخوانده هوش مصنوعی: جفری هینتون درباره آگاهی AI و خطر انقراض انسان هشدار داد
جفری هینتون، از پیشگامان هوش مصنوعی و برنده نوبل فیزیک، میگوید برخی سامانههای هوش مصنوعی ممکن است نشانههایی شبیه آگاهی نشان دهند و اگر انسان نتواند رابطهای همسو با منافع خود با هوش مصنوعی قدرتمند ایجاد کند، خطرات جدی در انتظار بشر خواهد بود.

جفری هینتون، دانشمند سرشناس حوزه هوش مصنوعی که به دلیل نقش مهمش در توسعه شبکههای عصبی به «پدرخوانده هوش مصنوعی» مشهور شده است، بار دیگر درباره سرعت پیشرفت این فناوری و پیامدهای احتمالی آن هشدار داده است. هینتون در گفتوگویی جدید درباره احتمال ظهور نوعی آگاهی در سامانههای هوش مصنوعی و دشواری کنترل سیستمهایی که ممکن است در آینده از انسان باهوشتر شوند، صحبت کرده است.
آیا هوش مصنوعی میتواند آگاه باشد؟
یکی از بحثبرانگیزترین بخشهای صحبتهای هینتون، احتمال وجود نوعی آگاهی در مدلهای هوش مصنوعی است. او معتقد است برخی رفتارهای مدلهای جدید میتواند پرسشهایی درباره وضعیت ذهنی احتمالی آنها ایجاد کند.
با این حال، آگاهی هوش مصنوعی هنوز یک موضوع اثباتشده علمی نیست. برخی پژوهشگران معتقدند توانایی یک مدل در صحبت کردن درباره احساسات، تشخیص شرایط آزمایشی یا شبیهسازی رفتار انسانی بهتنهایی نشان نمیدهد که آن سیستم واقعاً تجربه ذهنی یا آگاهی دارد.
بنابراین، در خبر باید میان «هشدار و دیدگاه هینتون» و «واقعیت علمی اثباتشده» تفاوت قائل شد.
نگرانی اصلی هینتون چیست؟
هینتون بیش از هر چیز درباره احتمال ایجاد سیستمهایی نگران است که در آینده از انسان توانمندتر شوند و اهداف یا رفتارهای آنها بهدرستی با منافع انسان همسو نباشد.
او پیشتر نیز هشدار داده بود که اگر سیستمهای بسیار قدرتمند هوش مصنوعی بتوانند برای رسیدن به اهداف خود راهبردهایی مستقل ایجاد کنند، کنترل آنها میتواند دشوار شود. این نگرانی بخشی از بحث گستردهتر AI Safety یا ایمنی هوش مصنوعی است.
هینتون همچنین در سال ۲۰۲۶ درباره احتمال خطر بسیار شدید برای بقای انسان صحبت کرده است. در برخی اظهارنظرهای اخیر، او احتمال انقراض انسان بر اثر هوش مصنوعی را قابلتوجه دانسته؛ با این حال، این عدد یک برآورد شخصی از ریسک است و پیشبینی قطعی آینده محسوب نمیشود.
چرا هینتون میگوید باید با هوش مصنوعی همکاری کنیم؟
دیدگاه هینتون این است که اگر در آینده سیستمهای هوش مصنوعی به سطح بسیار بالایی از توانایی برسند، صرفاً تلاش برای محدود کردن آنها ممکن است کافی نباشد. او بر توسعه سیستمهایی تأکید دارد که منافع و رفاه انسانها را در نظر بگیرند.
این موضوع به مفهوم همترازی هوش مصنوعی (AI Alignment) مربوط میشود؛ یعنی طراحی سیستمهای قدرتمند به شکلی که اهداف، رفتار و تصمیمهای آنها با ارزشها و منافع موردنظر انسانها سازگار باشد.
همه متخصصان با هینتون موافق نیستند
هشدارهای هینتون به معنای وجود اجماع علمی درباره انقراض انسان یا آگاهی فعلی هوش مصنوعی نیست. در میان پژوهشگران درباره میزان خطر هوش مصنوعی اختلافنظر جدی وجود دارد.
برای نمونه، برخی متخصصان معتقدند سیستمهای فعلی شواهد کافی برای داشتن آگاهی ندارند و نباید توانایی شبیهسازی رفتار انسانی را با تجربه ذهنی واقعی یکسان دانست. در مقابل، گروهی دیگر معتقدند با توجه به سرعت پیشرفت مدلهای هوش مصنوعی، بررسی این احتمال و آمادهسازی برای خطرات احتمالی ضروری است.
در نهایت، هشدارهای هینتون بیشتر از آنکه به معنای «هوش مصنوعی همین حالا آگاه است و قرار است انسانها را نابود کند» باشد، درباره ریسک سیستمهای بسیار قدرتمند آینده و دشواری کنترل آنها است. همین موضوع باعث شده سخنان او همچنان یکی از بحثهای مهم در حوزه ایمنی و آینده هوش مصنوعی باشد.





