چهارچوب جدید شرکت OpenAI برای تضمین ایمنی هوش مصنوعی راهکار جدید این مجموعه برای رفع برخی نگرانی‌های به وجود آمده از بابت قدرت بالای این تکنولوژی است.

پس از ماجرای اخراج و بازگشت سم آلتمن به سمت مدیرعاملی، شرکت OpenAI چهارچوب جدیدی برای تضمین ایمنی هوش مصنوعی تدوین کرد. این دستورالعمل‌های به شکلی تعریف شده که حتی می‌تواند نظرات سم آلتمن را وتو کند.

بیشتر بخوانید: هوش مصنوعی GPT-4 تنبل شده است؛ OpenAI تایید کرد

با توجه به این چهارچوب، تیم “ایمنی سیستم‌ها” مسئول ارزیابی مدل‌های در حال توسعه است. همچنین، تیم “آمادگی” نظارت بر مدل‌های پیشگام OpenAI بر عهده داشته تا ریسک‌های احتمالی پیش از عرضه مدل‌ها را شناسایی و ارزیابی کند. به علاوه، گروه “فراهمسویی” نیز وظیفه کار بر روی حدومرزهای نظری مدل‌های “فراهوشمند” را برعهده دارد.

دو دسته اول که ملموس‌ترند و مدل‌های آن‌ها را در اختیار داریم، کار راحت‌تری دارند و درک فعالیت‌های آن‌ها نیز آسان‌تر است. این تیم‌ها باید براساس چهار طبقه‌بندی ریسک‌ها را ارزیابی کنند: امنیت سایبری، «قانع‌کنندگی» (مثلاً در ارائه اطلاعات غلط)، آناتومی مدل‌ها (مثلاً در قابلیت‌های عملکردی خود) و CBRN (مخفف تهدیدات شیمیایی، زیستی، رادیولوژیک و هسته‌ای؛ مثلاً در قابلیت هوش مصنوعی در تولید پاتوژن‌های جدید).

دسته اول و دوم فعالیت‌ها قابل لمس‌تر هستند و درک کارهایی آنها نیز ساده‌تر است. تیم‌های مذکور می‌بایست بر اساس چهار دسته‌بندی اصلی ریسک‌های را مورد ارزیابی قرار دهند. این چهار دسته بندی شامل: امنیت سایبری، قانع‌کنندگی (برای مثال، ارائه اطلاعات نادرست)، آناتومی مدل‌ها (برای مثال، در قابلیت‌های عملکردی خود) و CBRN (شامل تهدیدات شیمیایی، زیستی، رادیولوژیک و هسته‌ای؛ به عنوان مثال، در توانایی هوش مصنوعی برای ایجاد پاتوژن‌های جدید).

تیم “آمادگی” که در ماه اکتبر معرفی شد، یکی از سه گروه جداگانه است که به ایمنی هوش مصنوعی در این استارتاپ نظارت می‌کند. رهبر این تیم “الکساندر مادری” بوده که امیدوار است با اجرای این دستورالعمل‌های جدید، به موقع ریسک‌های احتمالی در مدل‌های هوش مصنوعی شناسایی کند.

مدتی است که نگرانی‌ها درباره قدرت بالای مدل‌های هوش مصنوعی به گوش می‌رسد که به نظر این اقدام اخیر از سوی OpenAI به‌عنوان پاسخی به افزایش این نگرانی‌ها و در راستای تحولات اخیر این شرکت باشد.

بیشتر بخوانید:

نظر شما درباره‌ی چهارچوب جدید شرکت OpenAI چیست؟ به نظر عملی خواهد بود؟ لطفا نظرات خود را در بخش کامنت‌ها با تکراتو درمیان گذاشته و اخبار تکنولوژی را با تکراتو دنبال کنید.