生成式AI資安風險持續增加 OneDegree Global提供AI風險檢測服務

OneDegree Global推出Cymetrics Vulcan AI合規及安全驗證方案。OneDegree

備受關注的生成式AI，早已成企業推動數位轉型的重要科技，期盼藉此提升營運效率與強化客戶體驗。如企業透過生成式AI強化客服系統時，可實現即時理解和回應客戶需求，同時能預測並滿足潛在需求。只是現今多數業者大部分是以開源大型語言模型為基礎，結合專業領域的資料進行訓練與推論，所以背後也隱藏不容忽略的風險與資安挑戰。

因此，過去幾年，世界各國政府紛紛制定相關AI法規。例如，2019年歐盟發布《可信賴人工智慧倫理準則》，以確保AI發展遵循共同倫理原則。2021年，歐盟提出《人工智慧法》。2022年，美國發布《AI權利法案藍圖》，而加拿大同年提出《人工智慧資料法草案》，均著重於建立AI技術發展的原則並建立公眾信任。2024年6月，台灣金融監督管理委員會（金管會）發布《金融業運用人工智慧（AI）指引》，作為金融產業引進AI的參考。

OneDegree Global資深夥伴關係經理Frank Liao指出，目前AI風險大致可分為兩大類。首先是資訊安全風險，隨著AI成為資訊架構的一部分，新增了攻擊向量，例如提示詞注入（Prompt Injection）和越獄攻擊（Jailbreak）。這類攻擊能操縱AI模型輸出，當企業將AI整合至各種系統及處理敏感資料時，攻擊者便能輕易利用這些攻擊手法，導致系統產生未授權存取及敏感資料與個資洩露的風險。

其次是合規風險。由於生成式AI的強大功能，企業依賴AI進行決策及產出內容的比重快速增加，這也引發了AI所作決策及生成內容是否具公平性、符合人本精神及法律規範。我們的Cymetrics Vulcan AI語言模型資安檢測平台可有效協助企業應對這些風險，透過全自動化的檢測，能將原需200 小時的AI紅隊演練縮短至 3 小時，以更低的成本與更少的時間，幫助企業確保AI系統在上線前的安全性與合規性。

以AWS Bedrock服務為核心 深入分析客戶AI模型風險

OneDegree Global是保險科技的先驅者，為保險業者、中介機構以及應用程式/平台提供現代化的保險核心解決方案，滿足新興市場推動創新的需求，為消費者提供更完整的保障，同時為保險業者開啟新的收入來源。因資安威脅與日俱增，該公司在許多方面為保險客戶嵌入資安，從自動化資安保險承保流程到支援資安稽核服務。Cymetrics是OneDegree Global資安單位，擁有ISO27001和ISO27017認證，其團隊取得全球首批ISO 42001（人工智慧管理系統）主導稽核員認證。

Frank Liao指出，儘管近幾年AI倫理日益受到重視，各大業者紛紛在大型語言模型中加入相關防堵機制，仍然不時會發生「幻覺」現象。大型語言模型服務除會自行編撰沒有來源根據的答案之外，也很容易被有心人士利用提示詞破解，以至於造成資料外洩或違反AI倫理。若此類狀況發生在公司開發的應用服務上，將導致公司聲譽受損、業務損失，甚至遭到主管機關開罰。

OneDegree Global推出的Cymetrics AI語言模型資安檢測方案，可協助企業評估資安、隱私、安全性和公平性方面的風險，確保符合負責任AI的標準。該公司可透過完善測試和先進的大型語言模型攻擊技術，找出AI系統潛在風險。OneDegree Global會將收集到的AI風險檢測資料，藉由Amazon Web Services（AWS）的生成式AI基礎模型託管服務Amazon Bedrock上建置生成式AI服務，並進行資料分析，進而提供後續修復與改建的建議。

自動化檢測流程 吸引台新銀行合作

由於OneDegree Global在大型語言模型檢測有獨到之處，可透過一套完整的自動化檢測機制，將傳統200小時檢測時間縮短到3個小時完成，因此爭取到與台新銀行進行概念性驗證（Proof of Concept，PoC）。台新銀行規劃推出為金融服務設計的「台新腦」時，選擇引進OneDegree Global服務進行 AI 驗證服務，確保其落實金管會的「金融業運用人工智慧（AI）指引」，成為台灣金融業首家建立負責任 AI 系統的銀行。

在擴大業務面向的前提下，2024年OneDegree Global也正式加入「亞灣新創園高雄 AWS 聯合創新中心」計畫，透過AWS聯合創新中心的資源，將更多的創新解決方案轉化為具體商業成果，期盼接觸到更多不同產業客戶，擴大在全球市場的影響力。

Frank Liao說，在資安事件頻頻爆發下，企業都意識到資安防護的重要性，也知道生成式AI無法運用防火牆等傳統工具進行偵測與保護。我們最大優勢在於能針對不同產業特性與需求，客製化一套合適的大型語言模型風險偵測方案。而加入「亞灣新創園高雄AWS聯合創新中心」計畫後，也透過多場媒合活動，接觸到金融業、製造業及半導體等產業，對公司長遠發展帶來極大幫助。

在OneDegree Global規劃中，大型語言模型風險檢測業務將以台灣為出發點，積極擴展至亞太及中東地區，這些區域在金融、醫療保健及政府等多個領域，人工智慧的應用正迅速成長。隨著這些地區越來越重視以AI驅動的創新以及對強大資訊安全和合規解決方案的需求，亦提供了顯著的商機。未來也將進軍歐盟市場，全力搶攻AI商機。