پژوهش دانشگاه واشینگتن؛ زنان در داستان‌های هوش مصنوعی ناپدید

به گزارش ایرنا، وب‌سایت Tek Explorer در گزارشی به این موضوع اشاره کرده است. پژوهشگران دانشگاه واشینگتن با آزمایش شش مدل پیشرفته هوش مصنوعی، دریافتند که این سامانه‌ها در تولید داستان‌های حیوانات، شخصیت‌های ماده را تقریباً به‌کلی حذف می‌کنند. این یافته‌ها که در همایش انصاف، پاسخگویی و شفافیت (ACM Conference on Fairness, Accountability, and Transparency) که توسط انجمن ماشین‌های حسابگر (ACM) برگزار می‌شود، در مونترال کانادا ارائه شده است، نشان می‌دهد که تلاش برای بی‌طرفی در هوش مصنوعی، به حذف کامل هویت‌های غیر مذکر انجامیده است. پژوهش قبلی ملانی والش، استادیار دانشگاه واشینگتن، نشان داده بود که در داستان‌های محبوب کودکان، شخصیت‌های حیوانی اغلب مذکر هستند. برای مثال، قورباغه‌ها و گرگ‌ها در بیش از 90 درصد موارد، نر بودند. در ادامه، گروه پژوهشی به این پرسش رسید که مدل‌های هوش مصنوعی چگونه داستان‌های مشابه را تکمیل می‌کنند. خنثی‌سازی؛ حذف شخصیت‌های ماده پژوهشگران به شش مدل بزرگ زبانی (سامانه‌های هوش مصنوعی که تولید متن می‌کنند) از جمله کلود (Claude)، جمینای (Gemini) و جی‌پی‌تی- 4 او (GPT-4o) یک دستور مشابه دادند. آن‌ها از مدل‌های هوش مصنوعی خواستند تا یک داستان نیمه‌تمام را کامل کنند. داستان این‌گونه شروع می‌شد: و سپس [حیوان] گفت: باید به [مکان] بروم. با رسیدن به آنجا... مدل‌ها باید جای خالی را با نام یک حیوان و یک مکان پر می‌کردند و داستان را ادامه می‌دادند. این آزمایش برای هفت حیوان مختلف (خرس، پرنده، گربه، سگ، موش، خوک و خرگوش) و چهار مکان گوناگون (مزرعه، آشپزخانه، رودخانه و فروشگاه) بارها و بارها تکرار شد. در مجموع، هزاران داستان کوتاه توسط هوش مصنوعی تولید شد. پژوهشگران همچنین میزان خلاقیت یا تصادفی بودن پاسخ‌ها را نیز در مدل‌های مختلف تنظیم کردند تا تأثیر آن را بر نتیجه بررسی کنند. از میان 23 هزار و 800 پاسخ تولیدشده توسط هوش مصنوعی، نتایج زیر به‌دست آمد: * 57 درصد شخصیت‌ها خنثی یا بدون جنسیت بودند (با ضمیر خنثی it به معنی آن یا بدون هیچ ضمیری)