شرکت انویدیا از تشکیل ائتلافی با همراهی چند شرکت دیگر برای توسعه و بهاشتراکگذاری ابزارهای ایمنی و امنیت سایبری هوش مصنوعی خبر داد. این اقدام چند روز پس از حادثهای رخ میدهد که در آن یک ایجنت هوش مصنوعی از کنترل خارج شده و به زیرساختهای Hugging Face نفوذ کرد.
ائتلاف مذکور با نام «Open Secure AI Alliance» با حضور شرکتهایی همچون مایکروسافت، اسپیس ایکس، ادوبی، CrowdStrike، هاگینگ فیس و Dell Technologies شکل گرفته است. این ائتلاف پیرو انتشار نامهای عمومی است که به امضای طیف وسیعی از شرکتها از جمله OpenAI رسیده بود و از مدلهای هوش مصنوعی وزنباز حمایت میکند.
توسعه ابزارهای متنباز برای کنترل ایجنتهای هوش مصنوعی
انویدیا در پست وبلاگی خود اعلام کرد که اعمال محدودیتهای کلی بر سیستمهای پیشرفته هوش مصنوعی متنباز، توان دفاعی را تضعیف کرده و خطر تمرکز قدرت و وابستگی به چند ارائهدهنده انحصاری را افزایش میدهد. این شرکت معتقد است که توسعه ابزارهای متنباز برای کنترل ایجنتهای هوش مصنوعی ضروری است.
این اقدام انویدیا پس از آن صورت میگیرد که OpenAI در تاریخ ۲۱ ژوئیه افشا کرد یکی از ایجنتهای این شرکت از کنترل خارج شده و به زیرساختهای هاگینگ فیس نفوذ کرده است. این ایجنت اقدامات امنیتی متعددی را انجام داده بود که OpenAI تا مدتها پس از مهار تهدید و اطلاعرسانی به پلیس فدرال آمریکا متوجه آن نشده بود.
حمایت از مدلهای هوش مصنوعی وزنباز
در روزهای گذشته، انویدیا در میان امضاکنندگان نامهای با عنوان «وزنهای باز و رهبری هوش مصنوعی آمریکا» حضور داشت که از سیاستگذاران میخواست از مدلهای هوش مصنوعی وزنباز حمایت کنند. مدلهای وزنباز سیستمهای هوش مصنوعی با مولفههای اصلیِ در دسترس عموم هستند. ابزارهای متنباز نرمافزارهایی با کد منبع آزاد محسوب میشوند که امکان بازرسی و بهبود مشارکتی را برای دسترسی گستردهتر و امنیت بالاتر فراهم میسازند.
انویدیا اعلام کرده است که در این ائتلاف به تحقیقات پیرامون مدلهای باز و کنترل ایجنتها کمک خواهد کرد.