 |
作者：Holly Vatter, IBM市場部人工智能資深產(chǎn)品經(jīng)理
北京2023年5月15日 /美通社/ -- 責任是一種后天習得的行為。 隨著時間的推移，我們清晰地認識到滿足社會期望、遵守規(guī)則和法律以及尊重他人權(quán)利的必要性。 我們弄清楚了責任、問責制和后續(xù)獎勵措施之間的聯(lián)系。 如果我們負責任地行事，那么我們會獲得積極的回報；反之，我們則可能會面臨不良后果，包括罰款、失去信任或地位，甚至被監(jiān)禁。 遵守負責任的人工智能 (AI) 標準也是如此。
Gartner 預(yù)測，到 2025 年，人工智能 (AI) 軟件市場將達到近 1348 億美元。
構(gòu)建負責任的 AI
隨著 AI 以及構(gòu)建和縮放模型對企業(yè)的業(yè)務(wù)越來越重要，一個高度相關(guān)的主題便是如何實現(xiàn)負責任的 AI (RAI)。 企業(yè)越來越需要積極地推進公平、負責任且合乎道德的決策，并遵守現(xiàn)行的法律法規(guī)。
管理風險和聲譽
沒有企業(yè)愿意因為丑聞而出現(xiàn)在新聞中，媒體上最近經(jīng)常報道一些關(guān)于不公平、不可解釋或帶有偏見的 AI 的案例。 企業(yè)需要保護個人隱私并加強信任。 基于錯誤數(shù)據(jù)或假設(shè)而采取的錯誤或帶有偏見的行為可能導(dǎo)致被起訴并失去客戶、利益相關(guān)者、股東和員工的信任。 最終，這可能導(dǎo)致企業(yè)聲譽受損以及銷售和收入損失。
堅持道德原則
推進道德決策的意義在于不偏袒任何群體，這就要求在數(shù)據(jù)采集、構(gòu)建、部署和監(jiān)控模型的過程中建立公平性并檢測出帶有偏見的行為。 為了做出公平的決策，企業(yè)還需要能夠適應(yīng)行為模式和概要文件的變化，這可能需要在整個 AI 生命周期中重新訓(xùn)練或重建模型。
根據(jù)政府法規(guī)提供保護并進行擴展
AI 法規(guī)正在快速完善和變化，不合規(guī)事件可能導(dǎo)致昂貴的審計費用、罰款和負面新聞。 在多個國家/地區(qū)設(shè)有分支機構(gòu)的跨國企業(yè)在滿足當?shù)睾蛧?地區(qū)的特定規(guī)則和法規(guī)方面面臨一些挑戰(zhàn)。 而醫(yī)療保健、政府和金融服務(wù)等高度監(jiān)管市場中的企業(yè)在滿足行業(yè)特定法規(guī)方面則面臨更多的挑戰(zhàn)。
"不合規(guī)事件的潛在成本十分驚人，它遠不止于被罰款那樣簡單。 首先，如果發(fā)生一次不合規(guī)事件，企業(yè)將平均損失 587 萬美元的收入。 但這只是冰山一角 - 財務(wù)影響遠遠超出了您的最終收益。
負責任的 AI 需要治理
Gartner 將"AI 治理"定義為"為應(yīng)用和使用人工智能技術(shù)而制定政策、分配決策權(quán)并確保企業(yè)對風險和投資決策負責的過程"。
盡管是出于善意，而且技術(shù)也在不斷進步，但實現(xiàn)負責任的 AI 還是困難重重。 負責任的 AI 需要 AI 治理；對于許多企業(yè)來說，這就需要完成大量的手動工作，而更改數(shù)據(jù)和模型版本以及使用多種工具、應(yīng)用程序和平臺則會加大手動工作量。 手動的工具和流程可能會導(dǎo)致代價高昂的人為錯誤，并導(dǎo)致模型缺乏透明度、正確的編目和監(jiān)控。 這些"黑匣子"模型可能會產(chǎn)生即使是數(shù)據(jù)科學家和其他關(guān)鍵利益相關(guān)者也無法解釋的分析結(jié)果。
在解決由管理層、利益相關(guān)者和股東提出的模型性能問題時，可解釋的結(jié)果至關(guān)重要。 客戶有理由要求公司負責解釋分析決策的理由，包括信貸、抵押貸款和學校錄取被拒，以及醫(yī)療保健診斷或治療的細節(jié)。 向?qū)徲嫀熁虮O(jiān)管機構(gòu)說明分析決策的理由時，還必須提供記錄在案且可解釋的模型事實。
IBM watsonx.governance - 推進負責任、透明和可解釋的 AI 工作流程
IBM 自動治理方法可幫助您指導(dǎo)、管理和監(jiān)控企業(yè)的 AI 活動。 通過采用軟件自動化，此解決方案有助于增強您滿足法規(guī)要求和解決道德問題的能力（無需額外支付轉(zhuǎn)換當前數(shù)據(jù)科學平臺的成本）。
在整個 AI 生命周期中，watsonx.governance 解決方案可以監(jiān)控并管理模型的構(gòu)建、部署和監(jiān)控過程以及事實集中過程，從而實現(xiàn) AI 透明度和可解釋性。 此解決方案的組件包括：
想要了解 IBM watsonx.governance 是如何幫助企業(yè)構(gòu)建負責任的 AI 嗎？ 立即聯(lián)絡(luò) IBM 專家
關(guān)于 IBM
IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商，幫助超過 175 個國家和地區(qū)的客戶，從其擁有的數(shù)據(jù)中獲取商業(yè)洞察，簡化業(yè)務(wù)流程，降低成本，并獲得行業(yè)競爭優(yōu)勢。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過 4000 家政府和企業(yè)實體依靠 IBM 混合云平臺和紅帽 OpenShift 快速、高效、安全地實現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對企業(yè)誠信、透明治理、社會責任、包容文化和服務(wù)精神的長期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。了解更多信息，請訪問：https://www.ibm.com/cn-zh
IBM 媒體聯(lián)絡(luò)人：
