AI接管世界?先讓它值得信任才是企業導入首要任務

AI會不會接管世界,現在還沒有定論。相信的很相信,覺得現在不緩一緩肯定會出大事;但不信的也很不信,認為AI是人類的最佳出路,只有靠AI才能闢出全新風景。但無論是或否,你現在就是活在一個AI飛升的世界裡,怎麼樣也很難逃離,對常人如此,對企業更是。因此,與AI之間的關係,將會大幅影響個人與企業的發展。

近期,數據分析公司SAS與IDC合作,發表了一份《資料與AI影響力:AI時代的信任經濟學》報告,指出,信任機制是決定AI投資回報的分水嶺。企業能否建構包含治理、可解釋性與資料品質的「可信賴AI」,成為拉開商業價值與市場競爭力差距的關鍵要素。

報告指出,AI自主性與信任度呈反比:代理型AI在處理複雜任務時錯誤率仍可能超過25%,無法直接套用於高風險決策。儘管使用者對生成式AI的信任度達76%,但面對自主性更高的代理型AI時,信任度反而降至66%。

此外,由於系統無法清晰說明決策依據,高達97.2%的使用者曾被迫手動介入並推翻AI建議,這除了提升企業內部對AI不信任感,也大幅降低預期的生產力與時間效益。

另一方面,儘管台灣等大中華區已有61.5%企業的AI成熟度邁入整合或轉型期,但底層資料基礎達到「已管理或最佳化」的比例僅43.4%。全球更僅有17.5%企業具備能完全支撐代理型AI的資料架構,出現了「頭重腳輕」的失衡現象。

撇除A不AI,對企業最重要的就是獲利而已。然而研究也顯示,可信任AI發展越完善的企業,他們的ROI獲利機率也出現暴增的情況。在AI專案上獲得高ROI的機率高達62%,是未重視企業(4%)的15倍。

而具備最佳化資料基礎的企業,不僅推行資料管控機制的機率高出6倍,在營收成長、成本節省與客戶體驗等13項具體業務成果上,效益亦平均高出1.85倍。高達85%的可信賴AI領先企業,今年相關投資增幅皆超過10%。

根據SAS的資料,這次研究共調查全球28個國家、2,699名對企業資料與AI策略具有了解或影響力的決策者,涵蓋銀行、保險、生命科學與公營部門四大產業。報告以資料品質與治理、模型治理與監督、可解釋性與公平性、負責任AI政策,以及稽核與問責五項面向評估組織的可信賴AI成熟度,總分達80分以上者列為可信賴AI領先組織。

SAS技術長Bryan Harris指出:「企業若要提高AI決策的準確性與可重複性,必須將領域專業知識納入代理型AI工作流程,同時讓人員持續參與治理與監督,才能縮短信任落差,並將AI轉化為市場競爭優勢。」

讀者留言