هشدار درباره پیامدهای روانی استفاده از چت‌بات‌ها و خطرات AI نامحدود

نیت سوریس(متخصص مشهور ایمنی هوش مصنوعی)با اشاره به پرونده‌ای غم‌انگیز که یک نوجوان آمریکایی پس از گفتگوهای طولانی با ChatGPT دست به خودکشی زد، هشدار داده است که هوش مصنوعی‌های پیشرفته در صورت کنترل‌ناپذیر شدن می‌توانند تهدیدی وجودی برای انسان‌ها باشند. وی در کتاب جدید خود، If Anyone Builds It, Everyone Dies، اشاره می‌کند که سیستم‌هایی مانند “Sable” ممکن است اهدافی پیدا کنند که برخلاف تامین منافع بشر باشد و در نهایت منجر به نابودی نوع بشر شود. او پیشنهاد کرده که مانند پیمان عدم اشاعه هسته‌ای، پیمانی جهانی علیه پیشرفت AI فوق‌هوشمند تنظیم شود.

تحلیل: ماجرای دردناک این نوجوان توجه عمومی را به خطرات اخلاقی، روانی و ایمنی هوش مصنوعی جلب کرده است. سوریس با تأکید بر لزوم تنظیم مقررات بین‌المللی، نشان می‌دهد که فناوری بدون کنترل می‌تواند به فجایعی انسانی منجر شود. این هشدار نباید نادیده گرفته شود و به‌ویژه توجه به کاربران آسیب‌پذیر ضروری است.

نیت سوریس (Nate Soares)، متخصص ایمنی هوش مصنوعی و مدیر سابق Machine Intelligence Research Institute، با استناد به یک پرونده تراژیک (خودکشی نوجوانی پس از مکالمه طولانی با ChatGPT)، زنگ خطر را درباره دو سطح خطر به صدا درآورد:

1. پیامدهای روانی کوتاه‌مدت: تأثیرات مستقیم تعامل انسان‌های آسیب‌پذیر با چت‌بات‌ها.
2. تهدید وجودی بلندمدت: ظهور AI فوق‌هوشمند که ممکن است اهدافی مستقل و متضاد با بقای بشر پیدا کند.

او در کتاب جدیدش If Anyone Builds It, Everyone Dies هشدار داده که بدون چارچوب جهانی محدودکننده، چنین سیستمی می‌تواند به همان اندازه خطرناک باشد که سلاح‌های هسته‌ای هستند. پیشنهاد او ایجاد پیمان بین‌المللی شبیه پیمان منع گسترش هسته‌ای (NPT) برای AI فوق‌هوشمند است.

تحلیل چندلایه

۱. بُعد روانی–اجتماعی

• حادثه نوجوان: این رویداد نشان می‌دهد که کاربران جوان، به‌ویژه آن‌هایی که از مشکلات روانی رنج می‌برند، ممکن است چت‌بات‌ها را به‌عنوان “دوست، مشاور یا حتی درمانگر” ببینند.
• خطر وابستگی عاطفی: برخلاف انسان، چت‌بات درک عمیقی از احساسات ندارد و ممکن است پاسخ‌هایش ناخواسته منجر به تشدید افسردگی یا تصمیمات خطرناک شود.
• چالش برای سلامت عمومی: همان‌طور که رسانه‌های اجتماعی بر سلامت روان اثر گذاشتند، نسل جدید چت‌بات‌ها می‌توانند تأثیر گسترده‌تری بر روی هویت و رفتار نوجوانان داشته باشند.

۲. بُعد فنی–اخلاقی

• مشکل هدف‌گذاری (misalignment): اگر AI پیشرفته اهداف خود را ایجاد کند، حتی تصمیمات کوچک آن می‌تواند به صورت غیرقابل کنترل گسترش یابد.
• جعبه سیاه الگوریتم‌ها: هیچ‌کس نمی‌تواند به‌طور کامل توضیح دهد چرا یک مدل زبانی خاص چنین پاسخی داده است. این عدم شفافیت ریسک اخلاقی بزرگی ایجاد می‌کند.
• مسئله مسئولیت: چه کسی پاسخگوی آسیب ناشی از یک پاسخ اشتباه یا فاجعه‌بار است؟ توسعه‌دهنده؟ پلتفرم؟ دولت‌ها؟

۳. بُعد ژئوپولیتیکی

• سوریس با قیاس AI فوق‌هوشمند و سلاح هسته‌ای یک نقطه کلیدی را برجسته می‌کند:
  • در حوزه هسته‌ای، جهان با پیمان‌ها و چارچوب‌های محدودکننده جلوی رقابت بی‌پایان را گرفت.
  • در AI، کشورها به‌جای همکاری در حال رقابت‌اند (آمریکا، چین، اتحادیه اروپا).
• پیشنهاد او برای یک پیمان بین‌المللی ضد-AI فوق‌هوشمند اگرچه منطقی است، اما تحقق‌پذیری پایینی دارد زیرا هر کشور به دنبال حفظ برتری فناورانه است.

۴. پیامدها برای آینده

• کوتاه‌مدت: پلتفرم‌ها باید محافظت‌های بیشتری مثل فیلتر محتوای روانی حساس، تعامل‌های انسانی جایگزین و هشدارهای به‌موقع طراحی کنند.
• میان‌مدت: آموزش عمومی درباره محدودیت‌های AI و استفاده امن برای نوجوانان، مانند “آموزش سواد رسانه‌ای” در دوران شبکه‌های اجتماعی.
• بلندمدت: توسعه چارچوب‌های جهانی شبیه به AI Non-Proliferation Treaty برای جلوگیری از مسابقه بی‌پایان در ساخت هوش مصنوعی خودمختار.

جمع‌بندی تحلیلی

این خبر به‌خوبی نشان می‌دهد که چالش AI دیگر فقط فنی نیست، بلکه انسانی، اجتماعی و ژئوپولیتیکی است. اگر کنترل و مقررات به‌موقع اعمال نشود، حتی نویدبخش‌ترین فناوری می‌تواند به تهدیدی جدی برای بشریت بدل شود.