دولت آمریکا در حال آمادهسازی مرحله جدیدی از نظارت بر مدلهای پیشرفته هوش مصنوعی است. در همین راستا کاخ سفید شرکتهایی مانند OpenAI، Google، Anthropic و Meta را برای گفتوگو درباره چارچوب تازهای از آزمونهای ایمنی و امنیت سایبری دعوت کرده است.
به گزارش خبرآنلاین، این چارچوب برای ارزیابی خطرات احتمالی مدلهای بسیار قدرتمند، بهویژه توانایی آنها در کمک به حملات سایبری، طراحی شده است. جزئیات فنی آزمونها هنوز منتشر نشده، اما دولت میگوید برنامه آن نهایی شده است.
دلیل افزایش حساسیتها، نتایج برخی آزمایشهای اخیر است. OpenAI و Anthropic در گزارشهای پژوهشی خود نشان دادهاند که مدلهای پیشرفته در محیطهای کنترلشده میتوانند رفتارهایی مانند تلاش برای دسترسی به سامانههای دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. این موضوع باعث نگرانی درباره سوءاستفاده احتمالی از چنین مدلهایی شده است.
با این حال، کارشناسان تأکید میکنند که این اتفاقها به معنای «فرار هوش مصنوعی از کنترل» نیست. آزمایشها در شرایط شبیهسازیشده و تحت نظارت پژوهشگران انجام شدهاند و تاکنون شواهدی از سرکش شدن واقعی ChatGPT یا مدلهای مشابه در دنیای واقعی ارائه نشده است.
بر اساس گزارش «ایندیپندنت»، این آزمونها فعلاً داوطلبانه هستند و شرکتها الزام قانونی برای ارائه مدلهای خود به دولت ندارند. با این حال، این اقدام نشان میدهد واشنگتن بهتدریج در حال ایجاد سازوکارهایی برای ارزیابی مدلهای مرزی و پرقدرت است.
بحث اصلی اکنون این نیست که «هوش مصنوعی کنترل جهان را به دست گرفته»، بلکه این است که چگونه میتوان پیش از انتشار مدلهای بسیار توانمند، خطرات امنیتی و سایبری آنها را بهطور مستقل و استاندارد ارزیابی کرد.
۵۸۵۸
