شرکت OpenAI با هدف کاهش اثرات روانی و افزایش ایمنی، مجموعهای از قابلیتهای حفاظتی جدید را برای حسابهای کاربری نوجوانان در نظر گرفته است. این تغییرات شامل محدودیت در ویژگیهای صوتی و ایجاد مکانیزمهای یادآوری برای استفاده سالم از این فناوری است.
محدودیتهای صوتی و جلوگیری از انسانانگاری
یکی از اقدامات اصلی OpenAI، حذف قابلیت پاسخگویی با صدای انسانی برای حسابهای جدید نوجوانان است. هدف از این تصمیم، کاهش احتمال ایجاد تصوراتی در میان کاربران کمسنوسال است که ممکن است این فناوری را موجودی شبیه به انسان بدانند.
این شرکت اعلام کرده است که این تغییرات لزوماً در واکنش به یک مورد خاص از باور کودکان به «آگاه بودن» ChatGPT انجام نشده، اما با توجه به افزایش نگرانیها درباره تصوراتی مبنی بر داشتن آگاهی در ابزارهای هوش مصنوعی، این تصمیم اتخاذ شده است. مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت نیز پیشتر نسبت به تأثیرات اجتماعی محصولات هوش مصنوعی که «ظاهراً آگاه» به نظر میرسند، ابراز نگرانی کرده بود.
تشویق به استراحت و استفاده سالم
OpenAI قصد دارد از طریق سیستمهای یادآوری، نوجوانان را به موارد زیر ترغیب کند:
- استراحت منظم در هنگام استفاده از چتبات.
- یادآوری مداوم اینکه ChatGPT یک هوش مصنوعی است و «میتواند صبر کند».
- تقویت روابط در دنیای واقعی به جای تمرکز بیش از حد بر فضای مجازی.
شرایط سنی و نحوه شناسایی کاربران
طبق اعلام این شرکت، حسابهای مخصوص نوجوانان برای کاربرانی که هنگام ثبتنام سن خود را زیر ۱۸ سال اعلام کنند یا توسط سیستم شناسایی شوند، بهصورت پیشفرض فعال خواهد شد. با این حال، نکات زیر حائز اهمیت است:
- کودکان زیر ۱۳ سال اجازه استفاده از این محصول را ندارند.
- OpenAI هنوز جزئیات دقیقی درباره نحوه فنی شناسایی کاربران زیر ۱۸ سال ارائه نکرده است.
- این شرکت بر لزوم همگامی سازوکارهای حفاظتی با مرحله رشد نوجوانان تأکید دارد.