留住大腦主權2／AI分析鄭南榕《自由時代》　她帶領學生思考「我們要被AI賦能或附身？」

圖文／鏡週刊

我常問學生　被AI賦能還是被附身

政大AI中心助理教授　吳怡潔

廣告 更多內容請繼續往下閱讀

8月29日，「人權、民主與轉型正義：鄭南榕暨自由時代」國際研討會在228紀念館登場，政大AI中心助理教授吳怡潔發表最新論文，以AI模型分析鄭南榕《自由時代》週刊共300多期雜誌、超過一萬篇報導主題分類與次分類。若以每篇需十分鐘人力計算，單一人力不眠不休投入分類工作，需耗時至少2個月才能完成；她測試不同版本的ChatGPT，並選擇效果最好的模型，在3天內分析完所有雜誌文章。

一名聽眾拋出挑戰題：「可是，我剛剛問ChatGPT：鄭南榕為什麼不能入祀忠烈祠？它回答：忠烈祠僅限殉職軍警、民防或消防人員入祀。」「我又問ChatGPT：那為什麼（健康幼稚園火燒車事件犧牲者）林靖娟老師可以入祀忠烈祠？它回答不出來。」

廣告 更多內容請繼續往下閱讀

現場提問踴躍，吳怡潔來不及回答所有問題。她說，若再遇到這名聽眾，會嘗試說明AI模型訓練時常見難題：過度擬合（overfitting）—特定模型在訓練數據上表現得非常好，但在處理未見過的測試數據或新數據時表現不佳。她解釋，若提供「有範圍」的訓練資料給AI模型，確實可望訓練出「百分百正確率」，但若將此模型應用在現實世界，「正確率一定掉，而且掉得很慘。」

「我們有多相信ChatGPT的回應呢？它明明寫：『ChatGPT 可能會出錯。』」吳怡潔推測，過往可能沒人問過ChatGPT鄭南榕為何不能入祀忠烈祠，「這種問題就叫zero shot：一次都沒人問過的問題。」

她指出，AI模型持續發展演進，其實都在學人類，你若覺得ChatGPT「愈來愈囉唆」，它可能正在運作進階技法思考鏈（chain-of-thought，CoT），嘗試告訴你推導答案的路徑。「當你問『鄭南榕可不可以進忠烈祠』，可觀察ChatGPT有沒有應用CoT？ 如果沒有，這表示它只是膝反射思考，就容易答錯；但它若多思考幾秒、顯示CoT，就代表它正以更多角度解決問題。 」

 

自學程式　改當工程師

50歲的吳怡潔來自嘉義，18歲考上台大心理系，到台北念書才第一次摸到電腦。她勤跑台大計算機中心，自學寫程式、架站，覺得寫程式好玩，畢業後沒去當心理師，成了軟體工程師。1998年，她加入紅極一時的網路新創「資迅人」，2000年網路泡沫化，公司錢燒完了，她被資遣。

幾乎與MSN、Yahoo messenger發展同步，她參與開發類ICQ的中文即時傳呼軟體「CICQ」，也曾加入推出線上遊戲《魔力寶貝》的台灣遊戲公司大宇資訊，負責寫遊戲程式。38歲那年，她因想加薪，報考政大資訊科學研究所，讀出興趣，一路攻讀資科博士，投入教學研究，把業界「做Project（專案）」精神搬到學界，專長電腦視覺、行為模式分析、人機互動、語音處理。

吳怡潔還是個歷史迷，成長年代只有老三台、沒見過黨外雜誌，近年尤其好奇台灣民主化歷程（她少時只知蔣經國過世，其餘一概不知）。她見許多學者長期投入口述歷史與政治檔案，因而思考：「有沒有可能，用我會的AI技術來深入分析（歷史），讓大家對史料更感興趣？」

 

AI狂潮　危機中反思

吳怡潔任教政大AI跨域微學程，第一堂課的PPT是2023年的一則新聞：開發出聊天機器人ChatGPT的母公司OpenAI執行長Sam Altman聯合科技領域350位權威專家，共同簽署公開信，警告人工智慧科技就跟流行病與核戰一樣，有滅絕人類的風險。

「有人說投資AI，是在和惡魔交易；有人說AI是一個巨大泡泡，這個泡泡還沒破，我們正在享受這個泡泡的狀態。」談起巨大泡泡，吳怡潔想起剛畢業時，網路泡沫裡的狂潮與經濟巨浪，在她被網路公司資遣1/4個世紀後，回顧過往，「當時網路泡沫了，網路公司倒了，可是網路沒消失，還發展得愈來愈成熟—我覺得AI的發展，也會是一樣的邏輯。」

「人類一直在重複一樣的歷史。」她批改作業，看得出哪些由AI代答，「我常請同學思考：要被AI賦能（empower）？還是要被附身？」她見過學生學寫程式，基本功還沒打好就過度依賴AI，以至於離開了AI，就完全不會寫程式，「這就是『被附身』。AI叫你做什麼你就做什麼，有些同學感到挫折，因為他們沒判斷力，AI一旦錯了，使用者就傻傻跟著錯下去。」

從網路泡沫到AI浪潮，她看見技術進步，也看見判斷力的消失。吳怡潔常和學生聊「被AI鬼附身」的經驗與危機反思；「當我們親身感受過這個『鬼魂』的強大之處，那當鬼魂離開的時候，我們應該思考：是不是可以保留一些能力在身上？」

她在教學現場見到文組生普遍焦慮，但學程式設計的理組生更焦慮，「他們擔心AI時代，人人都能學寫程式，自己太容易被取代。」吳怡潔認為，無論文理組都應勇於嘗試跨領域，「中文系的學生也可以學AI啊，有人用AI發展整篇小說，這當然被視為奇技淫巧；但如果以前需要花半年做的小說人設，可以在AI協助下很快做完呢？」「如果使用得當，小說家不就有更多時間去創作，在有限時間內，讓你的人物更豐滿嗎？」

更多鏡週刊報導
留住大腦主權3／「我的AI知道我眼睛乾澀」　小說家把AI訓練成「職涯教練兼助理」
留住大腦主權1／第一次付費ChatGPT就刪帳號　工程師背景總編輯：無法把AI當人