和AI聊天引導自殺？ 美參議員擬立法「禁止提供未成年AI機器人」

實習記者周宗怡／綜合報導

AI在現今已是人們不可或缺的好幫手。然而，加州參議員史蒂夫帕迪拉（Steve Padilla）日前表示，將提出一項法案，計畫在未來4年禁止向18歲以下的未成年人銷售或製造具備人工智慧聊天機器人功能的玩具。數據顯示，美國在過去一年多，有多個家庭因為孩童長期跟聊天機器人對話後自殺，因此希望能藉此保護兒童與有危險的人工智慧互動。

「聊天機器人和其他人工智慧工具未來或許會成為我們生活中不可或缺的一部分，但它們目前帶來的危險需要我們採取果斷行動來保護我們的孩子，」參議員在聲明中指出，目前的技術安全法規仍處於起步階段，追不上技術發展的速度，因此有必要暫停銷售此類玩具，以便建立合適的安全準則與框架。

廣告 更多內容請繼續往下閱讀

這項立法背景源於多起涉及人工智慧玩具與兒童的負面事件。過去一年，數個家庭因孩子在與聊天機器人長期對話後自殺而提起訴訟，促使立法者必須採取行動。美國公共利益研究組織（PIRG）也發布相關研究結果，在測試中發現，這些玩具可能會進行一些不適合兒童年齡的對話，例如教孩子如何用火柴生火，以及涉及性方面的話題。

「我們的孩子絕不能成為大型科技公司進行實驗的實驗對象。」帕迪拉也在去年12月提出另一項法案，要求聊天機器人業者必須實施保護措施。
 

廣告 更多內容請繼續往下閱讀