將“信任設(shè)計”注入到AI

中。 當(dāng)一個錯誤（或僅僅是一個感知到的錯誤）足以破壞用戶對AI的信任時，如何獲得并保持用戶的信任？

操作中的每個挑戰(zhàn)都是AI的機會，但是企業(yè)對AI缺乏信任，因此他們沒有積極地抓住機遇，并謹(jǐn)慎選擇AI的領(lǐng)域。 根據(jù)

ey和Microsoft Europe聯(lián)合進(jìn)行的一項最新調(diào)查，71％的受訪者將AI作為高管的重要考慮因素，而只有4％的受訪者在多個流程中使用AI并執(zhí)行高級任務(wù)。

“設(shè)計信任”可以幫助企業(yè)將風(fēng)險優(yōu)化思想嵌入到人工智能的整個生命周期中，并通過將風(fēng)險功能從被動風(fēng)險響應(yīng)升級為功能強大，動態(tài)且面向未來的工具來建立信任。

建立人們對AI的信任

建立人們對AI的信任需要各方的合作，而E＆Y信任模型貫穿五個信任支柱。

量化AI風(fēng)險

ey開發(fā)了受信任的AI平臺，以提供評估，量化和監(jiān)視AI影響和可信賴性的綜合方法。

受信任的AI平臺使用交互式的，基于Web的圖表和評估工具來構(gòu)建AI系統(tǒng)的風(fēng)險概況，然后使用高級分析模型將用戶反饋轉(zhuǎn)化為綜合評分，其中包括AI系統(tǒng)技術(shù)風(fēng)險，利益相關(guān)者的影響和 控制效果。 技術(shù)風(fēng)險評分由一個復(fù)雜乘數(shù)組成，該乘數(shù)基于技術(shù)風(fēng)險對利益相關(guān)者的影響，并考慮了社會和道德影響等意外后果。 治理和控制成熟度的評估是減少AI系統(tǒng)殘留風(fēng)險的緩解因素。

通過結(jié)合這三種評分來擴(kuò)展全文

，可以信賴的AI平臺可以計算AI系統(tǒng)設(shè)計的剩余風(fēng)險，公式如下：

的優(yōu)勢在于可以映射剩余風(fēng)險 覆蓋整個AI風(fēng)險組合，并與企業(yè)的風(fēng)險承受能力相匹配。

應(yīng)對AI風(fēng)險

在安永受信任的AI平臺提供的機制下，企業(yè)可以選擇風(fēng)險緩解策略來應(yīng)對每種已識別的風(fēng)險。 如果他們選擇使用降低風(fēng)險的策略，則可以從預(yù)定的建議控制措施列表中選擇應(yīng)對策略。

監(jiān)視AI風(fēng)險

為了有效地監(jiān)視AI，有必要建立持續(xù)的監(jiān)視機制以確保AI系統(tǒng)按預(yù)期運行。 由于人工智能在投入生產(chǎn)后可以繼續(xù)學(xué)習(xí)和調(diào)整決策框架，因此建立強大的監(jiān)控機制以建立信任非常重要。 企業(yè)需要不斷評估AI系統(tǒng)是否在可接受的性能水平上運行，并確定新出現(xiàn)的風(fēng)險。

人工監(jiān)督（例如人在回路中）是人工智能系統(tǒng)的重要風(fēng)險緩解策略，但是企業(yè)需要認(rèn)識到人工能力的局限性，并結(jié)合使用自動化機制。

手動操作最適合處理需要對少量分散信息進(jìn)行高級認(rèn)知分析的短期事件。 人類不善于長時間保持注意力，特別是在事故發(fā)生率較低的情況下，人類隨時可以處理的信息量是有限的。

自動化系統(tǒng)，尤其是由人工智能支持的自動化系統(tǒng)，可以克服這些缺點。 但是，這些系統(tǒng)也帶來特殊的挑戰(zhàn)，即，用于處置和培訓(xùn)的信息有限。

通過對自動系統(tǒng)通過實時監(jiān)視提供的警報添加人工洞察，可以為AI提供強大的監(jiān)視機制保證。 為了使監(jiān)視和警報機制有效運行，還必須確定AI代理可接受的行為（例如，什么是良好行為？），并將這些行為編碼到索引分析中。 例如，在預(yù)測不同種族，性別和年齡的信用狀況時，會設(shè)置準(zhǔn)確性和可信度可容忍的偏差。 最后，需要不斷評估和更新AI的有效監(jiān)控機制，以適應(yīng)操作條件和技術(shù)進(jìn)步帶來的變化。 最好的方法是使用迭代反饋機制，該機制利用用戶反饋結(jié)果，操作員問題，人工智能系統(tǒng)驗證，實時監(jiān)控和更廣泛的環(huán)境掃描來影響人工智能的重新培訓(xùn)和重新設(shè)計以及投資。 掌控之中。

將對人工智能的信任視為競爭優(yōu)勢。 為了在人工智能時代脫穎而出，企業(yè)必須利用人工智能的可信賴性來吸引更多的用戶，并加快人工智能的部署。

人工智能已經(jīng)開始顛覆我們的工作和生活方式。 為了在人工智能時代脫穎而出，企業(yè)必須優(yōu)化數(shù)據(jù)的閉環(huán)和信任反饋，以吸引更多用戶并加速人工智能的部署。 安永值得信賴的AI平臺可以指導(dǎo)AI設(shè)計團(tuán)隊制定有針對性的風(fēng)險緩解策略，并通過洞悉風(fēng)險的來源和驅(qū)動因素來幫助企業(yè)完成流程。

安永值得信賴的AI平臺可以為企業(yè)提供幫助：

?確定AI風(fēng)險的驅(qū)動因素

?對AI風(fēng)險

進(jìn)行定性和定量評估?預(yù)測AI組件變化的風(fēng)險影響

?進(jìn)行基于事實的評估 開發(fā)風(fēng)險緩解策略

?繪制AI產(chǎn)品組合的風(fēng)險概況

?開發(fā)強大的AI風(fēng)險管理系統(tǒng)

請訪問以下鏈接以查看完整的報告：

https：//www.ey.com/publication / vwluassets / ey-how-can-risk-foresight-lead-to-ai-insight-cn / $ file / ey-how-can-risk-foresight-lead-to-ai-insight-cn.pdf

歡迎 與我們聯(lián)系。