駭客來不及動手，AI 已先防堵！Amazon 公開內部AI安全系統 ATA

記者蔡曉容／綜合報導

在生成式AI推動軟體開發加速的同時，也讓網路攻擊變得更加迅速、更加複雜。為應對日益提升的資安壓力，亞馬遜使用AI系統「Autonomous Threat Analysis（ATA）」。這套工具能在駭客下手前主動找出弱點、比對可能的攻擊變種，並提出防護方案，協助安全團隊提前修補漏洞。

ATA出身於2024年8月亞馬遜的內部黑客松，目前已成為公司資安流程中不可或缺的一環。其核心概念並非依賴單一全能AI，而是打造多個擁有不同專長的AI代理（agents），分別組成「紅隊」（攻擊）與「藍隊」（防守），彼此攻防，模擬真實駭客行為並提出對應防禦策略。亞馬遜資安長施密特（Steve Schmidt）表示，安全測試最大難題在於「人的時間永遠不夠」。面對爆炸性成長的程式碼量、人力有限，AI的協作機制讓資安團隊能即時追上快速變化的威脅。

廣告 更多內容請繼續往下閱讀

為了讓ATA的分析具備高度真實性，亞馬遜為此建立「高擬真測試環境」，讓AI能直接在接近真實環境的系統中發動攻擊、驗證防禦。每項攻防測試都需提供可觀察的系統資料與日誌紀錄，以證明攻擊手法或防禦措施確實有效。施密特強調，這種「可驗證性」已讓AI的幻覺問題在系統設計層面被壓制到最低，甚至能「架構性地避免」。而AI團隊合作方式，也讓每個代理能快速生成大量攻擊變化，並在短時間提出人力難以達成的防護組合。

亞馬遜工程師指出，實際案例已展現ATA的威力。例如在分析Python反向連線（reverse shell）攻擊時，ATA在數小時內就找出新的潛在手法，並提出檢測方案，驗證後防禦成功率達100%。不過ATA並非完全自行「決策」，所有真正進入亞馬遜內部資安架構的防護措施仍需具備「人類審查」程序。AI的角色是替工程師處理大量瑣碎、重複與例行性的調查工作，讓人類專家將時間投注在更複雜、更具判斷性的資安問題。

廣告 更多內容請繼續往下閱讀

亞馬遜表示，下一步將把ATA應用至實際事件應變流程，讓AI在真實攻擊發生時同步協助偵測與修補。施密特說得直白：「AI 做的是幕後苦工，工程師才能專注在真正的威脅。」他認為，這項系統的最大價值不是取代人，而是讓資安人才的專業用在最關鍵的位置。