مقدمه
چگونه می توان از خطرات برنامه های AI در هنگام گسترش به سطح سازمانی جلوگیری کرد؟ مانند هر تکنولوژی یا ابتکاراتی که تاثیر استراتژیک دارند، باید قبل از اجرا یک برنامه مدیریت ریسک قوی در محل باشد. ارائه ما مدیریت ریسک هوش مصنوعی یک حلقه حکومت متعهد را پیشنهاد می کند که با شناسایی دقیق ریسک شروع می شود، خطرات را از طریق دسته بندی ریسک سازماندهی می کند، در معرض خطر را از طریق ارزیابی ریسک جدی می سنجد، مدیریت ریسک اولویت بندی شده را هدایت می کند و پیگیری و نظارت مداوم عملکرد را در خود جای می دهد. این ملاحظات مدیریت ریسک جلوی اختلالات عملیاتی گران قیمت را می گیرد، اعتماد نظارتی را تقویت می کند و اعتماد سخت کسب شده از ذینفعان را حفظ می کند.
با تسلط بر این نظارت های متعهد، جریان های درآمد می توانند از جرایم و اوقات فراغت محافظت شوند، ظرفیت منابع بیشتری را برای پیش بینی های نوآوری آزاد می کند و عالی بودن حکومت شرکای رقابتی و استعدادهای بهتر را جذب می کند.
شناسایی ریسک AI
شناسایی اولیه ریسک AI می تواند در چرخه عمر AI متمرکز شود تا نقاط تصمیم گیری قابل ردیابی را نشان دهد. هر مرحله از چرخه عمر AI فعالیت های تجاری مهمترین در فاز مربوطه خود را جدا می کند، آنها را به یک منطقه ریسک نمایندگی می کند و نشان می دهد که چرا تشخیص زودهنگام ارزشمندتر از تصحیح متقابل است.
بر خلاف درختان شکست سنتی که در ویکی های مهندسی قرار دارند، شناسایی خطرات از طریق لوله کشی AI دیدگاه های طراحی و اجرایی را با هم درخیاطی می کند. این نمای لوله کشی نشان می دهد چگونه آسیب پذیری های فنی جدا شده می توانند به عواقب تجاری سطح سازمان تبدیل شوند.
جایی که تصاویر چرخه عمر تعیین می کنند کجا را ببینید، سه گانه خطرات ذاتی، خطرات برنامه، و خطرات مطابقت تعیین می کنند چه چیزی را ببینید و چگونه آن را اندازه گیری کنید. از دیدگاه استفاده، این جداول به عنوان یک ثبت خطر زنده عمل می کنند. هر جدول فراتر از برچسب های خطر عمومی حرکت می کند با جفت کردن یک بیانیه خطر با شاخص های کلیدی خطر (KRIs)، محافظت های موجود، و هر نمایش مقاومی که باقی می ماند.
دسته بندی خطر AI
دسته بندی خطر جایی است که ارائه از حدس به شواهد تغییر می کند. ماتریس طبقه بندی آسیب حوادث خطر احتمالی را در دو محور رسم می کند: تاثیر ملموس در مقابل تاثیر غیرملموس و "سطح تحقق[/EDQ] فارغ التحصیل شده. و به دلیل اینکه این چارچوب از مدل آسیب AI مرکز برای امنیت و فناوری های نوظهور (CSET) اقتباس شده است، از سخت گیری علمی بهره می برد در حالی که برای بحث در اتاق هیئت مدیره عملی است.
ساخته شده بر اساس مخزن خطر AI MTI، نمودارهای طبقه بندی خطر توزیع آماری را بلافاصله به یک جمهور غیرفنی قابل فهم می کند. در کنار نوارهای دامنه، شبکه های کوچکتر همان مجموعه داده را بر اساس موجودیت علی، نیت و زمان تقسیم می کنند. این دسته بندی الگوهایی را که امتیازات شدت سنتی معمولاً مخفی می کنند، آشکار می سازد. برای مثال، مسائل ناخواسته پس از اعمال به نظر می رسد حاکم بر نقض حریم خصوصی است. این نشان می دهد که بازرسی های تیم قرمز تقویت شده به تنهایی نمی توانند منحنی را بدون بهبود همزمان در مدیریت تغییر، به معنای واقعی کج کنند.
در فرم جدول، ردیاب های طبقه بندی خطر جزئیات دقیق تری را نمایش می دهند. کاتالوگ متناسب با کدهای علی و دامنه مخزن MIT است. جدول آماری همراه چگونگی ظهور هر زیر دسته دامنه را در میان موجودیت های انسانی، AI و هیبرید؛ نیت عمدی در مقابل تصادفی؛ و زمان قبل و بعد از انتشار را می سنجد. این توزیع ها اهرم هایی را که تحلیل کیفی نقیسه از دست می دهد، آشکار می کند.
ارزیابی خطر AI
شاخص های کلیدی خطر (KRIs) از اعداد برای حفظ صداقت و ابعاد واقعی در بحث های خطر استفاده می کنند.در نظر بگیرید که با یک هدف اصلی خطر (KRO) شروع کنید، سپس تمرکز خود را بر روی چند KRI انتخاب شده با دقت برای سنجش و پیگیری KRO مذکور قرار دهید. هر KRI می تواند شامل یک معیار هدف، یک حد بالا و یک حد پایین برای تعیین یک محدوده معقول آستانه باشد.
اولویت بندی خطر نیاز به زمینه ای فراتر از معیارهای سرفصل دارد. تجزیه و تحلیل تأثیر-احتمال خطرات چند بعدی را در برابر یک شبکه دکارتی قرار می دهد. نمودار پراکندگی نتیجه گیری شده نیز می تواند با رنگ های مختلف بر اساس دسته بندی های خطر رنگ آمیزی شود تا خوشه های پورتفولیو را که در آن خطرات چندگانه با هم تلاقی می کنند، نشان دهد، که این نشان دهنده آسیب پذیری سیستمی است که ممکن است KRI های جداگانه از آن صرف نظر کنند.
چارچوب اولیه خطر خوراک در مقابل تحمل یک قطر خطر خوراک را برای تعریف حداکثر قابل قبول قبل از اینکه اعداد مکالمه را تعصب آور کنند، ارائه می دهد. پس از کالیبراسیون، چارچوب پر شده خطرات شمارش شده را که بیش از خوراک فراتر می روند و کدام یک به طور ایمن در باند تحمل خطر قرار دارند، پوشش می دهد. علاوه بر این، جداول جداگانه "پاسخ[/EDQ]، "مانیتور[/EDQ] و "پذیرش[/EDQ] اقدامات را برای فهرست کردن عواقب اجرایی که تصمیمات خوراک به همراه دارند، فهرست می کنند.
برای نشان دادن ارزش واقعی که برای کسب و کار در معرض خطر است، جدول تأثیر کسب و کار و ارزش خطر اهمیت مطلق را به ارقام دلار، آستانههای از کار افتادگی، تعداد نشت اطلاعات و دستهبندی جریمههای نظامی تبدیل میکند. علاوه بر این، خروجیهای شماره اولویت خطر (RPN) میتوانند در کنار سطوح خطر AI اتحادیه اروپا نشان داده شوند.
کاهش خطر AI
انتخاب استراتژی کاهش خطر امتیازات RPN را به چهار بازی ملموس تبدیل میکند: پذیرش، کاهش، انتقال یا اجتناب. این تصمیم با آستانههای منطقی، راهنمایی بودجه و اهمیت استراتژیک پشتیبانی میشود. جدول انتخاب استراتژی نسبتهای منفعت به هزینه و باندهای اهمیت را به صورت سختکد شده درج میکند تا هزینههای کاهش با پروژههای درآمدی در بودجه سرمایه رقابت کنند.
در حالی که ماتریس استراتژی جهتدهی میکند، تجزیه و تحلیل هزینه-منفعت درمان خطر شواهد اقتصادی را ارائه میدهد که بودجه را باز میکند. این تجزیه و تحلیل انتظارات زیان حالت فعلی را با گزینههای کاهش مقایسه میکند. و در برگرفتن چندین سناریو از فلج شدن تجزیه و تحلیل اجتناب میکند.
حتی بهترین ریاضیات سود و زیان بدون قدرت عملیاتی میلغزد، که دلیلی است که یک طرح اضطراری همچنان ضروری است. این طرح عوامل اصلی KRI را به بازیهای محدود شده در زمان ترجمه میکند که اقدامات فوری و هدف بازیابی را مشخص میکند. مالکان، مسیرهای ارتقا، و جایگاههای منابع برای جلوگیری از تصویب در میانه بحران مشخص شدهاند. علامتهای بررسی فرکانس طرح به تیمها سوق میدهد تا به سمت تمرین انضباط، بنابراین سناریوها تا جایی تمرین میشوند که حافظه عضلانی جایگزین ا improvisation شود.
پیشگیری از واکنش بهتر است. چکپوینتهای پیشگیرانه بهترین روشهای سیلویی را در یک نوار نقلیه یکپارچه از محافظتهای تعبیه شده فرو میریزد. توالی با تصاویر چرخه زندگی مطابقت دارد که در بخش شناسایی ریسک استفاده شده است تا پیوستگی شناختی را تقویت کند. کمیتههای حاکمیت همچنین میتوانند از چکپوینتها به عنوان اهداف حسابرسی استفاده کنند.
در نهایت، مسئولیت فراتر از مرزهای سازمانی است. برنامههای AI در حال گسترش سریع اغلب زمانی لغزش میکنند که نقضی در یک لایه ابری رخ میدهد که همه فکر میکردند کسی دیگر آن را نظارت میکند. بنابراین ماتریس مسئولیت مشترک امنیت AI مشخص میکند که چه کسی کدام کنترل را در سطوح مختلف اعمال میکند.
پیگیری و نظارت بر ریسک
سیستم ثبت ریسک AI دسته بندی ریسک، توضیحات تاثیر، امتیاز RPN، اقدام انتخاب شده و مالک را در یک دفتر قابل حسابرسی می کند که می توان در فرآیند مدیریت ریسک استفاده کرد. در عمل، سیستم ثبت ریسک به یک مورد دائمی در جلسات کمیته تبدیل می شود.
مقامات نظارتی و مدیران ریسک نیاز به اطمینان دارند که کنترل ها بیشتر از وجود در کاغذ عمل می کنند و ردیاب NIST AI RMF این نیاز را برآورده می کند. با توجه به ستون های حکومت، نقشه برداری، اندازه گیری و مدیریت چارچوب مدیریت ریسک AI NIST، سنجش شش ضلعی امتیازات بلوغ کیفی را بلافاصله برای غیر متخصصین قابل فهم می کند. نوارهای پیشرفت همراه درصدها را به تعداد کنترل ها ترجمه می کنند.
جایی که سیستم ثبت و سنجش مطابقت وضعیت دقیق را فراهم می کنند، ردیاب سناریوهای ریسک راداری با نگاه به آینده ارائه می دهد. ماتریس حبابی احتمال را در برابر بزرگی زیان رسم می کند و پنل های کناری بهترین و بدترین سناریوها را بر اساس تغییرات در احتمال درصدی برجسته می کنند. این لنز سری زمانی نقشه های حرارتی ثابت را به تحلیل های روند تبدیل می کند.
نتیجه گیری
چارچوب مدیریت ریسک هوش مصنوعی شناسایی، دسته بندی، ارزیابی، کاهش و نظارت را در یک حلقه خود تقویت کننده می بافد که با هر انتشار مدل تکامل می یابد. با مدیریت ریسک قوی، سازمان ها می توانند عدم قطعیت را به سرمایه رشد تبدیل کنند.
