IBM攜手神通資科釋出心法 引領企業掌握要領實踐可信任AI

台灣IBM技術長莊士逸歸納，發展AI時所需考量的因素，包括透明性、可解釋性、穩健性、公平性與隱私性；這五大要項落實與否，攸關企業能否打造可信賴AI。DIGITIMES攝

日前聯華神通集團舉辦神通50週年活動，並深度研討「AI賦能新時代」、「AI創新與數位轉型」、「AI驅動革新與競爭力」等諸多關鍵議題。其間神通資科亦攜手IBM，為資訊高階主管講述如何打造可信任AI。

神通資訊科技副總經理陳原森表示，AI當中有幾個不可或缺的要素，除資料、算力與演算法外，另一關鍵就是信任。

有鑑於AI信任日益重要，神通資科特別邀請台灣IBM技術長莊士逸開講，分享AI治理之道，引領企業探知如何確保AI應用的透明性、可解釋性與公平性。

參考EU AI Act，作為AI治理主要元件

莊士逸指出，IBM歷經漫長AI摸索期，從實驗室綜觀了整個資料訓練、機器學習甚至GenAI的發展過程，逐步累積經驗與洞見，知道如何確保企業在AI應用上安全無虞。他同時強調，企業C-Level應負起AI治理的最重要責任，因為若將責任交付給每個人，恐淪於沒有管控。

其實近年來包括台灣和國外都開始定義AI治理規範。關於台灣，政府陸續提出AI法規與指引，如行政院的生成式AI參考指引、國科會的AI基本法草案。至於全球，最重要參考標的便是歐盟EU AI Act法案，它蘊含五大重點，包括應訓練、核實與測試資料；應落實記載紀錄；應重視透明度，清楚交待來源資料與模型；應由人員監督AI模型，對標人類的標準、道德與思想；最後應確保正確性與資安。

莊士逸認為上述五點，是企業導入AI時依循的重要元件；畢竟當前多數企業不敢大量擁抱AI，正是欠缺良好的治理機制所致。IBM從狹義AI一路發展至通用AI，透過不斷測試與理解，觀察到幾個AI風險，不僅有資料輸入輸出風險，也有目前尚且不知的未來挑戰。

企業應如何看待AI治理？IBM建議從整個AI訓練生命週期著手，依序避免訓練資料出現偏見或污染、避免有偏見的模型、需測試模型完整性與品質、部署模型、不斷測試與反饋。做好這些基本功，企業才能安心將AI帶進應用場景。

小步慢跑，穩健有序地管理資料和模型

IBM根據自身發展AI方案過程，歸納出透明度、可解釋性、穩健性、公平、隱私五大關鍵，且以此為目標持續發展AI治理技術，打造可信賴的AI。

莊士逸說，欲打造可信賴AI，須扎穩三大支柱，涵蓋生命週期管理、風險管理與法規遵從。為落實這些基礎支柱，建議企業應自行設置資料團隊，而非一味Leverage外部資源。

而IBM也將自身AI治理經驗與心法彰顯於產品，不僅打造IBM watsonx發展平台，亦發展諸多AI工具並予以開源，如以AI Fairness 360檢核模型是否符合公平性，以AI Explainability 360檢核可解釋性，以AI Privacy 360檢核有無隱私問題。至於watsonx平台則涵括幾個重要元件，像是用於管理模型的watsonx.ai，用於匯集數據的watsonx.data，用於實現AI部署與使用過程可視化watsonx.governance。

最後莊士逸建議，企業推動AI宜以「小步慢跑」為起手式，從發展AI Pilot或MVP的過程逐步確定治理方向，以有秩序、有體制的方式管理資料或模型，循序將AI帶入應用場景。