AI 監管新紀元：國際通商法律事務所攜手GDDA 探討生成式　AI之導入與資安風險管理

科技中心／綜合報導

台灣台北，2024 年8 月19 日 — 國際通商法律事務所（以下簡稱 Baker McKenzie 台北所）再度攜手GDDA全球數位產業聯盟協進會，於2024 年8 月19 日下午假 台北政大公企中心舉辦「2024 國際AI 資安論壇」。本次論壇邀請了Baker McKenzie 國內外律師專家、技術專家和公部門代表，主題聚焦「生成式AI 之導入與資安風險管理」。

隨著人工智慧技術日新月異，台灣在全球積體電路技術產業和半導體供應鏈中扮演舉足輕重的角色，因而備受國際矚目。全球人工智慧熱潮不僅帶動台灣的高科技製造業蓬勃發展，人工智慧轉型更在台灣多個產業中如火如荼地展開，包括金融服務業、醫療照護業和生命科學產業。然而，當企業在積極導入人工智慧以提升競爭力時，前所未有的風險管理和監管挑戰也隨之而來。

廣告 更多內容請繼續往下閱讀

Baker McKenzie 台北所執行合夥律師暨爭端解決律師團隊主席 黃麗蓉 (Anna L.J Hwang) 在論壇中表示：「人工智慧為企業帶來了一系列挑戰—從網路威脅、資料外洩、演算法歧視，到智慧財產權侵害、營業秘密洩露、法律遵循和勞動力替代—使企業面臨更高的爭端風險。然而，圍繞人工智慧的法律框架仍處於萌芽階段，各國對人工智慧的監管方式也不盡相同，使人工智慧容易成為企業法律遵循上的地雷區。」

黃麗蓉律師進一步指出：「人工智慧也將勒索軟體攻擊推向更高層級的精密度、速度和規模—使企業更容易遭受不法分子的勒索要脅。鑒於人工智慧驅動的詐騙手法不斷推陳出新，為防止資料遭竊外洩，建立健全的資訊安全防禦機制刻不容緩。透過本次論壇，我們希望藉由分享我們如何協助其他公司成功解決科技相關商業爭端經驗，從跨境網路釣魚詐騙案件到複雜的深度偽造(Deepfake)詐騙，將我們的全球洞見和法律專業知識帶到台灣的客戶面前。我們的目標是協助客戶在發展堅實的資安防禦框架時，能夠掌握各地區不斷變化的法規，著重於早期預警、緊急應變和維持營運，以因應不斷變化的威脅環境，確保業務韌性。」

廣告 更多內容請繼續往下閱讀

Baker McKenzie 網路安全業務全球主席暨紐約所Cyrus Vance Jr. 、台北所李彥群(Robert Lee)及雪梨所RyanGrant 合夥律師也親自出席本次論壇。Baker McKenzie 吉隆坡所Kherk Ying Chew、倫敦所Kate Corby，東京所Yoshiaki Muto 等合夥律師以及新加坡首席律師Celeste Ang 和合夥律師Daryl Seetoh、香港所合夥律師Philipp Hanusch 和資深律師Gillian Lam 則透過虛擬連線參與討論。

Baker McKenzie 網路安全業務全球主席Cyrus Vance Jr.表示：「人工智慧驅動的網路威脅在全球範圍內持續增加。不法分子利用人工智慧進行更加複雜的攻擊，運用新技術實現高度個人化的網路釣魚、深度偽造、社交工程和多因子驗證（MFA）繞過，企業必須未雨綢繆。同時，隨著人工智慧的普及，企業面臨的訴訟風險也與日俱增。其中最為顯著的是智慧財產權訴訟的快速增加，儼然成為潛在爭端的最大領域之一，相關訴訟主張AI 訓練模型所使用的資料侵害了著作權、隱私權或其他類似的權利限制。」

Baker McKenzie 雪梨所合夥律師Ryan 補充道：「隨著資訊安全的不斷演進，支撐它的技術也在持續進步。人工智慧在防禦和實施網路攻擊中扮演著關鍵角色。人工智慧對資安領域而言並非新鮮事，但其近期的普及化就意味著攻擊和威脅偵測都將變得更加複雜，彷彿開啟了一場科技軍備競賽」

Ryan 繼續說道：「作為生成式人工智慧的一個分支，大型語言模型（LLM）具備卓越的理解和生成類人文本的能力，已經改變了組織生成洞見的方式，包括在組織資訊安全方面。LLM 為不法分子和資安團隊都提供了強大的工具，僅通過簡單查詢就可以將大量數據轉化為可行的見解。但LLM 的有效性將取決於為其提供大規模、精確和具脈絡相關性的資料進行訓練和優化。倘若使用的訓練資料品質不佳，則可能使組織面臨各種風險，包括決策失誤和法規遵循風險。」

Baker McKenzie 台北所合夥律師李彥群(Robert Lee)則評論道：「台灣近年來在人工智慧治理方面取得重大進展，頒布了多項關於人工智慧的指導原則，規範人工智慧在研發、醫療器材和金融服務等領域的使用，最近更發布了『人工智慧基本法草案』。認知到人工智慧對社會的廣泛影響，台灣對人工智慧的治理植基於以人為本的價值觀，例如，政府在人工智慧快速採用下率先捍衛勞工權益。這一原則顯示，人力資源管理或將成為企業的一個重要考量，而培育人才掌握運用人工智慧能力也將成為企業建立面向未來的勞動力和維持競爭優勢之關鍵。」

本次論壇在台北政治大學公共行政及企業管理教育中心A431 教室盛大舉辦，吸引超過150 人次報名參與，並邀請了以下講者、嘉賓共同與會：
● 數位發展部 部長 黃彥男
● 前衛福部次長現任國科會科技政策諮詢專家室計畫管理暨溝通平台召集人 何啟功
● GDDA 全球數位產業聯盟協進會 理事長 邱月香
● 總統府資政暨開發金控副董事長 沈榮津

面對AI 帶來的巨大變革，企業和組織既要把握機遇，又要審慎應對風險。本次論壇期望透過多面向探討企業導入生成式AI 可能面臨的挑戰及法律風險，並提供具體的風險管理策略與適當的爭端解決機制，希望為與會者提供更全面、深入的洞察，助企業建構更完整的AI 治理框架。