全新功能守護業務韌性與廣泛的AI應用
全球網路資安領導廠商趨勢科技 (東京證券交易所股票代碼：4704) 發表企業資安平台與消費性網路資安產品中的創新功能，防範快速成長的 AI 攻擊與深偽 (Deepfakes) 詐騙，以保護所有網路環境。
趨勢科技研究報告指出，駭客正搭上 AI 應用爆炸性成長的熱潮，導致網路犯罪地下市場的 AI 犯罪工具暴增。這些工具不僅越來越便宜且更容易取得，使得任何技術能力的駭客都能更輕易地發動大規模攻擊，藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。
趨勢科技營運長 Kevin Simzer 表示：「如同過去其他新興威脅與 IT 情勢的轉變一樣，我們早已預見並克服 AI 的資安挑戰。我們的最新研究披露了多項新的深偽工具，這些工具讓任何具備技術能力的網路駭客都能輕而易舉地從事詐騙取財、發動社交工程攻擊，以及避開資安防護。我們領先業界率先推出可偵測深偽與其他型態的 AI 詐騙的最新技術來保護我們的企業與消費性客戶。」
偵測與打擊這些 AI 犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。根據趨勢科技最近一項調查，71% 的消費者對深偽抱持著負面觀感，並相信深偽的最大用途之一就是詐騙。
即將在 Trend Vision One™平台全新推出的深偽偵測技術，運用多種進階方法來偵測 AI 生成內容。除了影像雜訊分析與色彩偵測等技術，Vision One 平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下，趨勢科技便會立即通知企業資安團隊，讓他們有機會學習及獲得更新，並採取主動措施來防範未來的攻擊。
此外，該功能即日起也將經由 Trend Micro Deepfake Inspector 註一 提供給一般消費者使用，可協助確認即時視訊會議當中是否有人正在使用深偽技術，並提醒使用者其目前談話的對象可能有人是假的。
根據 Gartner 註二分析師 Dan Ayoub 表示：「一些現成的高品質生成式 AI (GenAI) 應用程式現在已經可以產生逼真的視訊內容，足以騙過或誤導觀賞者。由於這些工具的使用門檻很低，而且越來越精密，因此有必要發展出一套可偵測 GenAI 深偽內容的系統性方法。」
深偽對現代企業和一般個人都是一項嚴重風險，只要一次不小心被深偽所騙，就可能面臨財務損失、丟掉工作、法律問題、名譽損失、身分遭冒用，以及潛在的精神或健康損害。在趨勢科技近期的一份調查中，36% 的消費者表示曾經遇到過深偽詐騙。而美國聯邦調查局 (FBI) 先前也曾警告大眾小心歹徒結合深偽技術與視訊電話來從事變臉詐騙 (BEC)，以及假裝應徵遠距上班工作的情況。
這不僅可能被濫用於騙過真人審查程序，還可能用來欺騙一些生物辨識安全機制，例如臉部辨識。趨勢科技研究也披露了最近資安情勢所出現的一些轉變，指出駭客越來越喜歡使用一些創新的越獄技巧來攻擊現有大型語言模型 (LLM) 的弱點，而非自行開發犯罪專用的AI工具。
趨勢科技推出最新解決方案以致力保護客戶邁向 AI 之路。在推動零信任策略的方針下，趨勢科技最近也為 Trend Vision One 推出新的功能來實現以下目標：
- 集中管理員工存取與使用GenAI的情況。
- 檢查GenAI指令(prompts)來防止資料外洩與惡意注入攻擊。
- 過濾GenAI內容來達成法規遵循要求。
- 防範大型語言模型(LLM)攻擊。
Trend Micro Deepfake Inspector 是一套免費的解決方案，專為提醒使用者注意視訊通話中的潛在深偽內容而設計。這項分析技術會在使用者的裝置上即時執行，確保資料和隱私隨時受到保護。
註一：Trend Micro Deepfake Inspector目前僅適用於Windows系統
註二：Gartner，「新興技術：對抗多媒體內容中的深偽、詐騙及假訊息」(Emerging Tech: Combating Deepfakes, Deception and Disinformation in Multimedia Content)，作者：Dan Ayoub，日期：2024 年4月17日。
