AI誤導：十年重犯變無辜，資安事件調查的新挑戰

隨著生成式 AI 及深偽技術日益成熟，過去十年累積的惡意行為模式在調查報告中被誤判為無辜，造成偵查資源浪費與法律程序延誤。AI 不僅能產生逼真的影像與語音，更能在惡意程式碼分析與事件重現上產生「真實」但錯誤的證據，進而影響證人身份、行為模式與證據鏈完整性 (TrendMicro, 2025)。

AI 深偽與身份盜用的升級風險

TrendMicro 於 2025 年 12 月報導，台灣針對機構資料的竊取行為中，AI 深偽助攻使身份盜用事件激增 312% (TrendMicro, 2025)。此類攻擊利用 AI 生成的偽造身份文件，逃避傳統的多因素驗證機制，並在日誌中留下「無害」的活動痕跡，導致事件調查初期誤判攻擊者為可信用戶 (TrendMicro, 2025)。

硬體層面的 AI 輔助攻擊

在 2025 年 12 月，iThome 報導「Battering RAM 硬體攻擊」能繞過 Intel 與 AMD 的機密運算，直接在記憶體層面注入惡意程式碼，並利用 AI 進行自動化攻擊腳本生成，降低攻擊門檻 (iThome, 2025)。此類攻擊不僅難以在軟體層面檢測，亦使傳統事件重現流程失效，需結合硬體取證技術 (iThome, 2025)。

AI 驅動的自動化流程：機會與風險並存

Google 於 2025 年推出 Workspace Studio，允許企業以無程式碼方式建立 AI 代理自動化工作流程 (iThome, 2025)。雖提升效率，但若流程設計不當，AI 代理可能繼續執行錯誤的行為並產生偽造的操作日誌，進一步混淆事件調查 (iThome, 2025)。

調查新挑戰與對策

AI 證據辨識：建立 AI 生成痕跡的取證指標，如文字語意一致性檢測、影像元資料比對等。
多層取證：結合硬體層面（如記憶體取證）與軟體層面（日誌、網路流量）共同檢查。
人機協同審核：將 AI 產生的分析結果交由資安工程師進行二次驗證，防止單一 AI 解讀造成的誤判。
持續更新工具：在新版本的 AI 工具或平台上，加入安全審計模組，確保自動化流程的可追蹤性。

MITRE ATT&CK 對應

T1078 – Valid Accounts（利用被盜身份進行授權操作）
T1059 – Command and Scripting Interpreter（AI 生成的腳本執行）
T1498 – Resource Hijacking（硬體層面資源劫持）

結論

AI 的雙刃特性使資安調查面臨前所未有的挑戰。只要將 AI 產生的證據與傳統取證流程結合，並強化人機協同審核，才能在保持調查效率的同時，避免「十年重犯」被誤判為無辜的風險。

參考資料與原文來源

iThome. (2025, 12 5). TypeScript 7編譯速度可達10倍，微軟定調6.0為最後JavaScript版. https://www.ithome.com.tw/news/172670
iThome. (2025, 12 5). Battering RAM硬體攻擊可繞過Intel與AMD機密運算，威脅公有雲資料安全. https://www.ithome.com.tw/news/172666
iThome. (2025, 12 5). Google推Workspace Studio，無程式碼開發AI代理自動化企業工作流程. https://www.ithome.com.tw/news/172656
TrendMicro. (2025). 專攻台灣竊取情報/AI深偽助攻，身分盜用激增312%. https://blog.trendmicro.com.tw/?p=88678
iThome. (2024). 2024臺灣資安年鑑｜資安十年特輯. https://www.ithome.com.tw/article/163165
CIO Taiwan. (2025). 資安雙面刃生成式AI 三大風險與機會. https://www.cio.com.tw/102645/

🧠 本文由 DreamJ AI 技術新聞生成系統 自動撰寫與優化，
內容僅供技術研究與學習參考，實際環境請搭配官方公告與資安建議。