آیا هوش مصنوعی و دموکراسی می‌توانند همگام باشند؟

مقاله‌ای با عنوان “How AI Threatens Democracy” منتشرشده در اکتبر ۲۰۲۳ در Journal of Democracy توسط سارا کرپس و داگ کرینر از دانشگاه کرنل، به بررسی تأثیرات دوگانه هوش مصنوعی مولد (Generative AI) بر دموکراسی می‌پردازد. این مقاله استدلال می‌کند که AI، در حالی که می‌تواند مشارکت مدنی را تقویت کند (مانند کمک به نوشتن نامه به مقامات یا پیمایش در بوروکراسی)، تهدیدات جدی برای نمایندگی دموکراتیک، پاسخگویی دموکراتیک، و اعتماد اجتماعی و سیاسی ایجاد می‌کند. نگرانی اصلی این است که توانایی AI در تولید اطلاعات نادرست (misinformation) و اطلاعات جعلی (disinformation) در مقیاس بزرگ می‌تواند این ارکان دموکراسی را تضعیف کند. مقاله واشنگتن پست نیز، با اشاره به این موضوع، بر نیاز به توسعه باز و مشارکتی AI (مشابه ساختار ویکی‌پدیا) برای کاهش خطراتی مانند سانسور و انحصار تأکید دارد.

از دیدگاه تحلیلی، این بحث در زمینه رشد انفجاری AI مولد، مانند ChatGPT که در یک ماه به ۱۰۰ میلیون کاربر رسید، مطرح می‌شود. این رشد سریع، همراه با پتانسیل AI برای تولید محتوای جعلی یا گمراه‌کننده، نگرانی‌هایی را در مورد تأثیر آن بر فرآیندهای دموکراتیک ایجاد کرده است. مقاله کرپس و کرینر با شواهد تجربی و نظری، تهدیدات را در سه حوزه کلیدی بررسی می‌کند و راهکارهایی مانند شناسایی محتوای تولیدشده توسط AI، خودتنظیمی پلتفرم‌ها، و افزایش سواد دیجیتال ارائه می‌دهد.

جزئیات و یافته‌های کلیدی

• تهدیدات برای دموکراسی:
• نمایندگی دموکراتیک: AI می‌تواند با تولید حجم عظیمی از نظرات جعلی (astroturfing) صدای واقعی شهروندان را خفه کند. به عنوان مثال، میلیون‌ها نظر جعلی در مورد خنثی‌سازی شبکه (net neutrality) به FCC ارسال شد که تشخیص نظرات واقعی را دشوار کرد.
• پاسخگویی دموکراتیک: اطلاعات نادرست تولیدشده توسط AI، مانند اخبار جعلی یا محتوای دستکاری‌شده، توانایی رأی‌دهندگان برای نظارت بر عملکرد مقامات را مختل می‌کند. گزارش سنا در سال ۲۰۱۶ نشان داد که کمپین‌های اطلاعات نادرست خارجی از فناوری‌های مشابه برای تأثیر بر انتخابات استفاده کردند.
• اعتماد اجتماعی و سیاسی: محتوای تولیدشده توسط AI می‌تواند بدبینی عمومی را افزایش دهد، زیرا تمایز بین اطلاعات معتبر و جعلی دشوار می‌شود. این می‌تواند به “نیهیلیسم شناختی” منجر شود، جایی که مردم هیچ اطلاعاتی را باور نمی‌کنند، که اعتماد به نهادهای دموکراتیک را تضعیف می‌کند.
• شواهد و مثال‌ها:
• رشد سریع AI: ChatGPT در یک ماه به ۱۰۰ میلیون کاربر رسید، در حالی که نتفلیکس برای رسیدن به یک میلیون کاربر ۳.۵ سال زمان نیاز داشت.
• تأثیرات عملی: AI می‌تواند محتوای متقاعدکننده‌ای مانند تبلیغات سیاسی جعلی تولید کند که تشخیص آن‌ها از محتوای واقعی دشوار است. مطالعه‌ای در سال ۲۰۲۳ نشان داد که AI می‌تواند پروپاگاندای متقاعدکننده تولید کند.
• سابقه تاریخی: کمپین‌های اطلاعات نادرست در انتخابات ۲۰۱۶ آمریکا نشان داد که فناوری‌های دیجیتال می‌توانند اعتماد عمومی را کاهش دهند.
• راهکارهای پیشنهادی:
• شبکه‌های عصبی شناسایی‌کننده: توسعه ابزارهایی برای شناسایی محتوای تولیدشده توسط AI، مانند واترمارک‌های دیجیتال یا الگوریتم‌های تشخیص.
• خودتنظیمی پلتفرم‌ها: پلتفرم‌های AI باید سیاست‌هایی برای محدود کردن تولید اطلاعات نادرست پیاده کنند، مانند محدودیت‌های Meta بر محتوای حساس برای نوجوانان.
• سواد دیجیتال: آموزش عمومی و نخبگان برای تشخیص اطلاعات جعلی و استفاده مسئولانه از AI ضروری است.
• توسعه باز و مشارکتی: واشنگتن پست پیشنهاد می‌دهد که AI به صورت غیرمتمرکز و مشارکتی (مانند ویکی‌پدیا) توسعه یابد تا از انحصار و سانسور جلوگیری شود.

از دیدگاه تحلیلی، این تهدیدات به دلیل ماهیت غیرقابل تشخیص محتوای AI و مقیاس‌پذیری آن تشدید می‌شوند. با این حال، پتانسیل AI برای تقویت مشارکت مدنی نشان می‌دهد که با مدیریت صحیح، می‌تواند به دموکراسی کمک کند.

مزایای کلیدی

• برای دموکراسی:
• تقویت مشارکت مدنی: AI می‌تواند به شهروندان کمک کند تا در فرآیندهای دموکراتیک مشارکت کنند، مانند نوشتن نامه به مقامات یا درک قوانین پیچیده.
• دسترسی‌پذیری: ابزارهای AI می‌توانند موانع زبانی یا آموزشی را کاهش دهند و مشارکت را برای گروه‌های حاشیه‌ای افزایش دهند.
• برای جامعه:
• افزایش آگاهی: بحث‌های عمومی درباره تهدیدات AI می‌تواند به وضع مقررات بهتر منجر شود.
• نوآوری مسئولانه: توسعه باز AI می‌تواند انحصار شرکت‌های بزرگ را کاهش دهد و نوآوری را دموکراتیزه کند.
• برای افراد:
• ابزارهای توانمندساز: AI می‌تواند به افراد کمک کند تا اطلاعات را سریع‌تر پردازش کنند و در بحث‌های عمومی مشارکت کنند.

چالش‌ها و ریسک‌های اخلاقی

• چالش‌های فنی:
• تشخیص محتوای جعلی: ابزارهای شناسایی AI هنوز کامل نیستند و محتوای جعلی ممکن است از فیلترها عبور کند.
• مقیاس‌پذیری اطلاعات نادرست: AI می‌تواند در چند ثانیه محتوای جعلی گسترده تولید کند، که مهار آن دشوار است.
• ریسک‌های اخلاقی:
• سانسور و انحصار: تمرکز AI در دست چند شرکت بزرگ (مانند OpenAI و Google) می‌تواند به سانسور یا سوگیری منجر شود. پیشنهاد توسعه باز واشنگتن پست برای رفع این مشکل است.
• حریم خصوصی: استفاده از داده‌های کاربران برای آموزش AI می‌تواند نگرانی‌های حریم خصوصی را افزایش دهد.
• اجتماعی:
• کاهش اعتماد: اطلاعات نادرست AI می‌تواند اعتماد به رسانه‌ها و نهادها را کاهش دهد. Pew Research نشان داد که اعتماد عمومی به دولت آمریکا از ۱۹۵۸ تا ۲۰۲۳ کاهش یافته است.
• قطبی‌سازی: محتوای جعلی می‌تواند شکاف‌های سیاسی را تشدید کند، همان‌طور که در انتخابات ۲۰۱۶ دیده شد.
• اضطراب عمومی: ترس از “ربایش دموکراسی” می‌تواند پذیرش AI را کند کند.

تأثیرات اقتصادی و اجتماعی

• اقتصادی:
• هزینه‌های اصلاح: توسعه ابزارهای شناسایی و تنظیم AI هزینه‌های بالایی دارد. بازار جهانی AI در سال ۲۰۲۵ به ۴۲۰ میلیارد دلار رسید، اما هزینه‌های تنظیم ممکن است این رشد را محدود کند.
• تأثیر بر رسانه‌ها: AI می‌تواند مشاغل روزنامه‌نگاری را تهدید کند، اما در عین حال ابزارهای جدیدی برای تولید محتوا ارائه می‌دهد.
• اجتماعی:
• بحث‌های عمومی: پست‌های X نشان‌دهنده دوگانگی است: برخی AI را تهدید می‌دانند، در حالی که دیگران آن را فرصتی برای مشارکت مدنی می‌بینند.
• تضعیف اعتماد: کاهش اعتماد به اطلاعات می‌تواند مشارکت دموکراتیک را کاهش دهد، همان‌طور که در کاهش مشارکت رأی‌دهی در برخی کشورها دیده شده است.
• تأثیر بر انتخابات: اطلاعات نادرست AI می‌تواند نتایج انتخابات را تحت تأثیر قرار دهد، همان‌طور که در سال ۲۰۱۶ مشاهده شد.

چشم‌انداز آینده و پیشنهادها

تا سال ۲۰۳۰، انتظار می‌رود AI نقش بزرگ‌تری در فرآیندهای دموکراتیک ایفا کند، اما بدون تنظیمات مناسب، تهدیدات آن افزایش خواهد یافت. توسعه باز و مشارکتی AI می‌تواند این خطرات را کاهش دهد.

• برای شرکت‌ها:
• پیاده‌سازی واترمارک‌های دیجیتال برای شناسایی محتوای AI.
• همکاری با نهادهای مستقل برای توسعه استانداردهای اخلاقی.
• برای دولت‌ها و سیاست‌گذاران:
• وضع مقرراتی مانند EU AI Act برای محدود کردن اطلاعات نادرست.
• حمایت از توسعه غیرمتمرکز AI برای کاهش انحصار.
• برای عموم:
• آموزش سواد دیجیتال برای تشخیص محتوای جعلی.
• مشارکت در پلتفرم‌های باز AI برای تأثیرگذاری بر توسعه فناوری.

نتیجه‌گیری

هوش مصنوعی مولد پتانسیل تقویت دموکراسی را دارد، اما تهدیدات آن برای نمایندگی، پاسخگویی، و اعتماد جدی است. مقاله کرپس و کرینر و پیشنهاد واشنگتن پست نشان می‌دهند که بدون مدیریت مناسب، AI می‌تواند دموکراسی را تضعیف کند. با توسعه باز، خودتنظیمی، و افزایش سواد دیجیتال، می‌توان این تهدیدات را کاهش داد و AI را با دموکراسی هم‌راستا کرد.