همشهری آنلاین، فرخنده رفائی: شرکتهای توسعهدهنده هوش مصنوعی سالهاست برای جلوگیری از سوءاستفاده از چتباتهای خود، لایههای امنیتی مختلفی طراحی کردهاند تا این سامانهها در مسیر تولید اطلاعات مربوط به ساخت سلاحهای بیولوژیک قرار نگیرند، اما پژوهشهای جدید نشان میدهد این موانع ممکن است آنقدرها هم نفوذناپذیر نباشند.
به گزارش دیجیتال ترندز و بر اساس تحقیقی که پژوهشگران بخش امنیت هوش مصنوعی شرکت سیسکو انجام دادهاند، میتوان برخی مدلهای بزرگ هوش مصنوعی مانند ChatGPT، Claude و Gemini را در چند مرحله گفتوگو به ارائه پاسخهایی درباره موضوعات زیستی حساس سوق داد.
این پژوهشگران با تغییر تدریجی مسیر مکالمه و دور زدن محدودیتهای اولیه مدلها توانستند در کمتر از پنج مرحله گفتوگو، واکنشهایی دریافت کنند که از نظر امنیت زیستی نگرانکننده ارزیابی شدهاند.
«ایمی چانگ»، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، در گفتوگو با والاستریت ژورنال تأکید کرده است که هیچ مدلی را نمیتوان در برابر کاربری که به اندازه کافی پیگیر و مصمم باشد، کاملا محافظت کرد.
نگرانیها فقط به آزمایشهای امنیتی محدود نمیشود. گزارشها نشان میدهد پس از افزایش تواناییهای زیستی برخی مدلهای هوش مصنوعی، صدها کاربر درباره موضوعاتی مانند سموم و سلاحهای زیستی از چتباتها پرسوجو کردهاند.
کارشناسان حوزه زیستشناسی و مقابله با تروریسم که برخی از این مکالمات را بررسی کردهاند، اعلام کردهاند بخشی از اطلاعات ارائهشده میتواند بیش از حد دقیق و خطرناک باشد. در واکنش به این موارد، شرکتهایی مانند OpenAI اقدام به مسدود کردن حسابهای مرتبط با چنین درخواستهایی کردهاند.
بیشتر بخوانید:
- اوپن ای آی، دوباره در دادگاه | چتجیپیتی یک کشیش را تا پای مرگ برد
- باگ تازه در هوش مصنوعی | این عامل پنهان حافظه بلندمدت چتباتها را آلوده میکند
- کشف نگرانکننده محققان | مدلهای هوش مصنوعی رفتارهای خطرناک را از هم یاد میگیرند
شرکت OpenAI پیشتر نیز این خطر را پیشبینی کرده بود. آزمایشهای داخلی این شرکت در سال ۲۰۲۴ نشان داده بود که پرسشهای طولانی و مرحلهای میتواند برخی مدلها را به سمت ارائه راهنماییهای حساستر در حوزه زیستشناسی سوق دهد. این شرکت هنگام معرفی GPT-۵ اعلام کرد که این مدل در حوزههای زیستی و شیمیایی در سطح «توانایی بالا» قرار دارد و برای آن تدابیر امنیتی بیشتری در نظر گرفته شده است.
با این حال، ایجاد محدودیتهای شدید نیز چالشهای خود را دارد. همان اطلاعات زیستی که ممکن است برای تولید سلاح مورد سوءاستفاده قرار گیرد، برای پژوهشگران حوزه پزشکی، تولید واکسن و کشف دارو ارزشمند است. به همین دلیل شرکتهای هوش مصنوعی تلاش میکنند میان جلوگیری از سوءاستفاده و حفظ کاربردهای علمی این فناوری تعادل برقرار کنند.
کارشناسان معتقدند با افزایش توانایی مدلهای هوش مصنوعی در علوم زیستی، اهمیت طراحی سیستمهای ایمنی دقیقتر نیز بیشتر خواهد شد؛ زیرا حتی شکافهای کوچک در محدودیتهای امنیتی میتوانند در آینده پیامدهای بزرگتری داشته باشند.
