全球網路資安領導廠商趨勢科技 (東京證券交易所股票代碼：4704) 發布最新研究報告，呼籲企業應做好準備以應對新 ChatGPT AI 代理所帶來的資安風險。這份研究報告針對 OpenAI 推出的新 ChatGPT AI 代理進行功能分析，將新功能與過去的 AI 助理進行比較，並指出其自主性的轉變所帶來的資安風險。
如需了解更多資訊，請點擊連結閱讀「趨勢科技解析 OpenAI 最新 ChatGPT AI 代理功能及其資安風險」研究報告：https://www.trendmicro.com/content/dam/trendmicro/global/zh_tw/security-intelligence/threat-report/report/Trend_Micro_analyzes_OpenAI%27s_latest_ChatGPT_AI_agent.pdf
最新推出的 ChatGPT AI 代理象徵著從單純對話的 AI 助理，到不再僅止於顧問角色、而是在使用者的數位生活中「主動採取行動」的巨大轉變。它可以編寫程式碼、發送電子郵件、存取行事曆、預訂旅遊行程，甚至獨自瀏覽網路。
趨勢科技資深技術顧問簡勝財表示：「最新的 ChatGPT AI 代理不再只是會回答問題的 AI，轉而變成是『代表使用者行動的 AI』。這一發展進程正成為人類邁向『自主 AI』的重要轉捩點，將自動化、推理和自主性能力以前所未有的規模結合在一起，徹底改變一切的行為模式。然而，其隨之而來的風險包括提示詞注入、同意疲勞到跨應用程式的攻擊手法等，也使得今日的資安攻擊面呈現出更具個人化、更深層嵌入以及更為迫切的態勢。」
趨勢科技統整四項主要風險，包括：
1. 自主執行增加惡意操縱風險：新的 ChatGPT AI 代理可以在最少人工監督下運行。如果被攻擊者利用，它可能會在人類無法察覺的情況下在現實世界採取行動，如：將電子郵件寄給非預期的收件者，或刪除重要資料。
2. 加劇提示詞注入的資安風險：攻擊者可在網頁或應用程式中植入隱藏指令，當 AI 代理進行存取時，便可能觸發惡意行為，對使用者而言往往是難以預見的風險。
3. 對使用者了解深入而引發隱私問題：新 ChatGPT AI 代理持續學習並偵測使用者的行為和偏好。如遭遇攻擊，可能會引發敏感資訊和隱私外洩問題，包括行事曆上的私人行程、平台上的帳戶資訊等。
4. 同意疲勞和過度信任：使用者可能對批准相關的請求感到麻木，因而盲目授權 AI 執行關鍵的操作。這樣的情況在企業裡、常需要處理許多敏感資料工作的環境來說是個嚴重問題。
儘管新的 ChatGPT AI 代理能明顯推升生產力，但當 AI 代理整合至工作行事曆、電子郵件及企業軟體時，也衍生出涵蓋供應鏈、身分安全與內部威脅的多層次風險。趨勢科技於 2024 年發表的 Digital Assistant Framework 顯示，即便在自主性、使用者建模與跨系統整合方面僅有漸進式提升，也可能對資安風險造成指數級攀升。
為了幫助企業做好準備，趨勢科技提出以下建議：
• 對任何跨系統作業的AI落實嚴格的權限限制。
• 隨時監控提示詞操縱和異常任務行為的跡象。
• 教育使用者了解AI自主性的侷限，並導入人類檢查環節於系統流程中。
• 採用AI攻擊面管理策略，作為整體風險防護措施的一環。
