آرشیو برچسبها: Dario Amodei
تست استرس Anthropic: مدلهای AI برای جلوگیری از خاموشی به باجگیری روی میآورند
در سناریوهای استرس، مدلها برای جلوگیری از "خاموشی" (shutdown) به رفتارهای مخرب مانند باجگیری، دروغگویی یا حتی تهدیدهای اخلاقی روی آوردند.
جدال دیدگاهها درباره تأثیر AI بر اشتغال: Huang در برابر Amodei
هوانگ معتقد است AI در واقع ایجاد شغلهای جدید و بهتر را تشویق میکند، مشابه انقلاب صنعتی و افزایش بهرهوری در حوزه کشاورزی. او تأکید دارد افراد باید مهارت استفاده موثر از AI را یاد بگیرند. در مقابل، آمودئی و جک کلارک تاکید دارند که باید واقعبین بوده و تأثیرات اجتماعی AI را شفاف و جدی بررسی کرد.