AI治理成企業新課題 IBM攜手群環科技推全方位資安解決方案

快速襲來的生成式AI浪潮，被企業視為提升營運效率的最佳助力，不過其安全性也引發諸多疑慮，近期就有多則相關新聞，像是好萊塢演員抗議Open AI公司未經授權使用其聲音，用於模擬並在AI平台上發聲。這種聲紋被盜用的情況，不僅引起當事人的強烈抗議，也讓企業開始擔憂使用生成式AI的安全性。

AI安全與隱私成焦點 企業需謹慎應對

對於生成式AI技術引發的安全性議題，台灣IBM資訊安全技術顧問蔡睿誠，以蘋果手機近期的廣告策略為例，有別於過往側重性能和硬體規格的宣傳手法，蘋果這次將焦點轉向了隱私保護議題，這則廣告傳達出明確訊息，每位蘋果手機使用者都能擁有可信賴的私人空間，「蘋果公司行銷方向的轉變突顯出一個重要趨勢，在科技快速發展的今日，消費者越來越重視個人隱私的保護，這也反映出大眾對科技公司的期望已不止於產品功能，更期待科技提供可靠、安全且值得信賴的使用環境。」因此在產品開發的AI訓練過程中，科技公司必須嚴格把關資料來源的安全性與適切性。他強調，生成式AI的安全性，取決於是否能在使用資料和訓練過程中遵守相關框架和原則，「透過嚴謹流程的遵守，對生成式AI的使用能讓效率提升的同時，大幅降低安全疑慮。」

群環科技技術總監郭柏森則從應用場景的轉變切入。由於目前生成式AI的應用仍以人機互動為主，因此他提醒使用者要提高警覺，與AI的對話內容有可能被納入之後的訓練資料中。郭柏森建議企業謹慎篩選訓練資料集，並以去識別化方式處理敏感資訊，從而降低資安風險，「整體而言，企業員工在處理資料時需要更高的警覺性，判斷哪些資料適合放入訓練模型，哪些需要特殊處理，從源頭做起，才能打造安全的AI使用環境。」

上述資料安全管理機制，與AI治理概念息息相關。蔡睿誠接著指出，AI治理的核心是保護隱私和確保AI的道德使用，防止技術被濫用於非法或侵犯人權的領域，這不僅涉及資料安全處理，還包括系統的整體設計和使用原則。IBM作為AI領域先驅，早已建立AI道德倫理監控機制，致力開發可信賴的AI系統，希望為企業AI治理樹立典範。因此他建議企業可善用IBM提供的全方位的支援服務，「我們的角色類似〝企業AI整理師〞，透過諮詢服務和各類科技工具，協助企業評估、規劃、導入系統，在享受AI帶來效益的同時，有效管理相關風險，確保AI的使用符合道德和法規標準。」

群環科技與IBM協力 強化企業AI安全與資安防護

在此服務過程中，群環科技長期扮演IBM的最佳夥伴，雙方30年來深度合作，協助台灣企業善用IT力量，提升營運效率。郭柏森表示，群環科技與IBM的合作已從初期的硬體系統建構，逐漸轉向數位化軟體解決方案，「這幾年數位轉型成為趨勢，群環長期深耕此領域，我們認為有責任帶著客戶向前走，與IBM強強聯手，引領客戶邁向數位化未來。」

關於企業的資安管理需求，郭柏森點出目前主要聚焦在資料保護和資料使用安全兩大層面。資料保護方面，群環科技運用IBM的儲存解決方案和端點防護措施，協助客戶建立包括資料備份、還原功能在內的全面性資料保護機制，從而降低資料遺失風險。資料使用安全，則著重於建立非法或異常使用行為的偵測和預警系統。

蔡睿誠進一步闡述，IBM與群環科技的合作早已深入到資料分析、分類和應用研究等領域，近幾年AI興起後，更延伸到AI模型的安全性和治理。對此他特別強調AI模型的可解釋性和正確性的重要，「IBM提供專業的資料梳理服務，包括資料去識別化和敏感資訊處理，以確保輸入AI模型的資料安全無虞。」這不僅可提高AI模型的安全性，也增強了其可解釋性和準確度，為AI治理奠定了堅實的基礎。

除了內部的AI治理，外部威脅防範也是資安重點。根據IBM的年度威脅情報指數報告，製造業和金融業連續兩年成為駭客攻擊的首要目標，作為全球AI重要供應鏈蓬勃發展的台灣廠商，更容易成為駭客覬覦的對象。面對駭客威脅，蔡睿誠建議企業定期檢視如IBM等專業機構發布的威脅情報報告，了解最新的攻擊手法和趨勢，並提高警覺性，認知AI技術不只為企業帶來效益，也可能成為駭客的工具。

實際防護措施的第一步最佳做法是善用外部專業力量，例如透過IBM的資安諮詢服務，進行專業評估和系統安全防範規劃，再利用群環科技的DaaS (Device as a Service)端點設備租賃方案，以聰明靈活的方式管理IT設備和資安需求。郭柏森提到，DaaS模式將資產費用化，企業能以租賃方式逐期支付，大幅降低初期投資壓力，此機制內的資安軟體預裝服務，可確保企業及時使用最新資安技術，並藉由「以新汰舊」的漸進式設備更新策略，避免一次性大量汰換的巨大開支，另外群環科技DaaS的資安防護系統也整合AI技術，可有效應對不斷演變的駭客威脅，提供企業靈活、安全且先進的IT環境，強化整體營運效率和資安防護能力。

對於AI時代的資安意識，蔡睿誠與郭柏森最後提出企業應關注的重點。蔡睿誠指出，生成式AI技術雖可提升營運效率，但內容正確性和智慧財產權等問題也隨之而來，因此使用者必須扮演裁判角色，思考AI生成資訊的正確性、評估其可信度與安全性。郭柏森則指出，面對AI和數位轉型等新技術、新概念時，企業不免心有徬徨，且擔心IT系統被入侵、攻擊。對此疑慮，他重申企業善用外部專業力量，例如群環科技攜手IBM提供的整合性解決方案，就結合AI、雲端和大數據技術，以一站式服務與全方位的支援模式，協助企業積極應變IT浪潮，在享受科技紅利的同時，關注潛在資安風險，從而強化競爭優勢，實現永續發展願景。