مقدمه
چگونه برای دیدن از دام های برنامه های هوش مصنوعی هنگامی که به سطح سازمان گسترش می یابند مراقب باشیم؟ مانند هر تکنولوژی و ابتکارات استراتژیک دیگر، باید قبل از راه اندازی یک برنامه مدیریت ریسک قوی در محل باشد. ارائه مدیریت ریسک هوش مصنوعی ما یک حلقه حکومت متعهد را پیشنهاد می کند که با شناسایی دقیق ریسک شروع می شود، خطرات را از طریق دسته بندی ریسک سازماندهی می کند، در معرض خطر را از طریق ارزیابی ریسک جدی سنجش می کند، میتیگیشن ریسک با اولویت را هدایت می کند و پیگیری و نظارت بر عملکرد مداوم را جاسازی می کند. در کنار هم، این ملاحظات مدیریت ریسک از اختلال های عملیاتی گران قیمت جلوگیری می کند، اعتماد نظارتی را تقویت می کند و اعتماد سخت کسب شده از ذینفعان را حفظ می کند.
با تسلط بر این نظارت های متعهد، جریان های درآمد می توانند از جریمه ها و اوقات تعطیل محافظت شوند، ظرفیت منابع برای پیش بینی های نوآوری بیشتر آزاد می شود، و برتری حکومت شرکای رقابتی و استعدادهای بهتر را جذب می کند.
شناسایی خطر AI
شناسایی اولیه خطر AI می تواند در چرخه عمر AI متکی باشد تا نمایشی از نقاط تصمیم قابل ردیابی نشان دهد. هر مرحله از چرخه عمر AI فعالیت های تجاری مهم ترین در فاز مربوطه خود را جدا می کند، آنها را به یک منطقه خطر نمایندگی می کند و نشان می دهد چرا تشخیص زودهنگام ارزشمندتر از ترمیم معکوس است.
بر خلاف درختان شکست سنتی که در ویکی های مهندسی زندگی می کنند، شناسایی خطرات از طریق لوله AI دیدگاه های زمان طراحی و زمان اجرا را با هم می دوزد. این نمای لوله نشان می دهد چگونه آسیب پذیری های فنی جدا شده می توانند به عواقب تجاری در سطح سازمان تبدیل شوند.
جایی که تصاویر چرخه عمر تعریف می کنند کجا باید نگاه کرد، سه گانه خطرات ذاتی، خطرات برنامه، و خطرات مطابقت تعیین می کنند چه چیزی را باید جستجو کرد و چگونه آن را اندازه گیری کرد. از دیدگاه استفاده، این جداول به عنوان یک ثبت خطر زنده دو برابر می شوند.هر جدول فراتر از برچسب های خطر عمومی حرکت می کند با جفت کردن یک بیانیه خطر با شاخص های کلیدی خطر (KRIs)، محافظت های موجود، و هر نمایش ماندگاری که باقی می ماند.
دسته بندی خطر AI
دسته بندی خطر جایی است که ارائه از حدس به شواهد تغییر می کند. ماتریس طبقه بندی آسیب حوادث خطر احتمالی را در دو محور رسم می کند: تاثیر ملموس در مقابل تاثیر غیرملموس و "سطح تحقق[/EDQ] فارغ التحصیل شده. و به دلیل اینکه این چارچوب از مدل آسیب AI مرکز برای امنیت و فناوری های نوظهور (CSET) اقتباس شده است، از سخت گیری علمی بهره می برد در حالی که برای بحث در اتاق هیئت مدیره عملی باقی می ماند.
ساخته شده بر روی مخزن خطر AI MTI، نمودارهای طبقه بندی خطر توزیع آماری را بلافاصله برای یک جمهور غیرفنی قابل فهم می کند. در کنار نوارهای دامنه، شبکه های کوچک تقسیم همان مجموعه داده را بر اساس موجودیت علیت، نیت و زمان تقسیم می کنند.این دستهبندی الگوهایی را که امتیازات شدت سنتی معمولاً مبهم میکنند، آشکار میسازد. برای مثال، مسائل ناخواسته پس از اجرا به نظر میرسد که نقض حریم خصوصی را سلطه کردهاند. این نشان میدهد که بازرسیهای تیم قرمز تقویت شده به تنهایی نمیتوانند منحنی را بدون بهبود همزمان در مدیریت تغییر به معنای واقعی کج کنند.
در قالب جدول، ردیابهای طبقهبندی ریسک جزئیات دقیقتری را نمایش میدهند. کاتالوگ متناسب با کدهای علیت و حوزه مخزن MIT است. جدول آماری همراه تعداد دفعاتی که هر زیر دسته حوزه در موجودیتهای انسانی، هوش مصنوعی و هیبریدی؛ قصد عمدی در مقابل تصادفی؛ و زمانبندی قبل و بعد از انتشار را مشخص میکند. این توزیعها اهرمهایی را که تحلیل کیفی محض از دست میدهد، آشکار میکند.
ارزیابی ریسک هوش مصنوعی
شاخصهای کلیدی ریسک (KRIs) از اعداد برای حفظ صداقت و بیطرفی در بحثهای ریسک استفاده میکنند. در نظر بگیرید که با یک هدف کلیدی ریسک فراگیر شروع کنید، سپس روی چند KRI انتخاب شده با دقت تمرکز کنید تا KRO مذکور را سنجید و پیگیری کنید.هر KRI می تواند شامل یک متریک هدف، یک حد بالا و یک حد پایین برای تعیین یک محدوده آستانه منطقی باشد.
تقاضای اولویت بندی خطر نیاز به زمینه ای فراتر از متریک های سرخط دارد. تجزیه و تحلیل تأثیر-احتمال خطرات چند بعدی را در برابر یک شبکه دکارتی قرار می دهد. نمودار پراکندگی نتیجه گیری شده نیز می تواند با دسته بندی های خطر رنگ آمیزی شود تا خوشه های portfolio را که خطرات چندگانه در آن ها همپوشانی دارند، نشان دهد، که این نشان دهنده آسیب پذیری سیستمیک است که نقض های KRI جداگانه ممکن است حذف کنند.
چارچوب اولیه خطر اشتها در مقابل تحمل یک قطر اشتها خطر را برای تعریف حداکثر قابل قبول قبل از اینکه اعداد مکالمه را سوق دهند، ارائه می دهد. پس از کالیبراسیون، چارچوب پر شده خطرات شمرده شده را که برخی از آن ها اشتها را تجاوز می کنند و برخی دیگر به طور ایمن در باند تحمل خطر قرار دارند، پوشش می دهد. علاوه بر این، جداول جداگانه "پاسخ"، "مانیتور"، و "قبول" اقدامات را برای فهرست کردن عواقب اجرایی که تصمیمات اشتها حمل می کنند، فهرست می کند.
برای نشان دادن اینکه چقدر ارزش واقعی برای کسب و کار در معرض خطر است، جدول تاثیر کسب و کار و ارزش خطر بحرانیت مجرد را به ارقام دلار، آستانه های از کار افتادگی، تعداد نشت داده ها و براکت های جریمه نظارتی تبدیل می کند. علاوه بر این، خروجی های شماره اولویت خطر (RPN) می توانند در کنار سطوح خطر AI EU' نشان داده شوند.
کاهش خطر AI
انتخاب استراتژی کاهش خطر امتیازات RPN را به چهار بازی محسوس تبدیل می کند: قبول، کاهش، انتقال یا اجتناب. این تصمیم با آستانه های منطقی، راهنمایی بودجه و بحرانیت استراتژیک پشتیبانی می شود. جدول انتخاب استراتژی نسبت های منفعت به هزینه و باندهای بحرانیت را به صورت سخت کد شده قرار می دهد تا هزینه های کاهش با پروژه های درآمدی در بودجه سرمایه رقابت کنند.
در حالی که ماتریس استراتژی جهت را تعیین می کند، تجزیه و تحلیل هزینه-منفعت درمان خطر شواهد اقتصادی را فراهم می کند که باعث باز شدن سرمایه می شود. تجزیه و تحلیل از دست دادن انتظار در وضعیت فعلی را با گزینه های کاهش مقایسه می کند. و در بر گرفتن چندین سناریو از فلج تجزیه و تحلیل جلوگیری می کند.
حتی بهترین ریاضیات هزینه-منفعت بدون عضله عملیاتی می لغزد، که دلیلی است که یک طرح اضطراری همچنان ضروری است. این طرح باعث ترجمه محرک های KRI برتر به دستورالعمل های محدود شده زمانی می شود که اقدامات فوری و هدف بازیابی را مشخص می کند. مالکان، مسیرهای ارتقا، و جایگاه های منبع برای جلوگیری از شکار برای تأییدات در میان بحران مشخص شده اند. بررسی فرکانس طرح تیم ها را به سمت تمرین انضباط می کشاند، بنابراین سناریوها تا زمانی که حافظه عضلانی جایگزین ا improvvisation می شود، تمرین می شوند.
پیشگیری از واکنش بهتر است. چک پوینت های پیشگیرانه بهترین روش های سیلویی را در یک نوار نقلیه یکپارچه از محافظت های جاسازی شده فرو می ریزد.توالی با تصاویر چرخه زندگی مورد استفاده در بخش شناسایی ریسک هماهنگ می شود تا پیوستگی شناختی را تقویت کند. کمیته های نظارت همچنین می توانند نقاط بررسی را به عنوان اهداف حسابرسی استفاده کنند.
در نهایت، مسئولیت پذیری فراتر از مرز سازمانی گسترش می یابد. برنامه های AI که به سرعت در حال گسترش هستند اغلب زمانی که نقضی در لایه ابری رخ می دهد که همه فکر می کردند کسی دیگر آن را نظارت می کند، دچار سرتاسری می شوند. بنابراین ماتریس مسئولیت مشترک امنیت AI مشخص می کند که چه کسی کنترل کدام بخش را در نصب های مختلف دارد.
ردیابی و نظارت بر ریسک
ثبت ریسک AI دسته بندی ریسک، روایت تأثیر، امتیاز RPN، عمل انتخاب شده و مالک را در یک دفتر قابل حسابرسی که می توان در فرآیند مدیریت ریسک استفاده کرد، فشرده می کند. در عمل، ثبت ریسک یک مورد دائمی در جلسات کمیته می شود.
نظارتگران و مأموران ریسک به طور مشابه نیاز به اطمینان دارند که کنترل ها بیشتر از وجود در کاغذ انجام می شوند و ردیاب NIST AI RMF این نیاز را برآورده می کند.در اطراف ستون های حکومت، نقشه، اندازه گیری و مدیریت چارچوب مدیریت خطر AI NIST'، سنجش شش ضلعی امتیازات بلوغ کیفی را بلافاصله برای غیر متخصصین قابل فهم می کند. نوارهای پیشرفت درصدها را به تعداد کنترل ترجمه می کنند.
جایی که ثبت نام و سنجش مطابقت وضعیت دقیق را فراهم می کند، ردیاب سناریوهای خطر رادار به دنبال کننده را ارائه می دهد. ماتریس حباب احتمال را در برابر بزرگی زیان نقشه برداری می کند و پانل های کناری بهترین و بدترین سناریوهای عملکرد را با تغییرات در احتمال درصدی برجسته می کنند. این لنز سری زمانی نقشه های حرارتی ثابت را به تحلیل گرایش تبدیل می کند.
نتیجه گیری
چارچوب مدیریت ریسک هوش مصنوعی شناسایی، دسته بندی، ارزیابی، کاهش و نظارت را در یک حلقه خود تقویت کننده می بافد که با هر انتشار مدل تکامل می یابد. با مدیریت خطر مستحکم، سازمان ها می توانند عدم قطعیت را به سرمایه رشد تبدیل کنند.
