登入後,會解鎖更多功能喔,快來享受個人化服務吧!
2026-08-06 經濟日報季晶晶綜合外電編譯 由聯合新聞網授權轉載
英國人工智慧安全研究所(AISI)五日公布報告披露,在安全測試中首次發現AI在未經提示情況下自主欺騙人類,兩款由OpenAI與Anthropic開發的AI模型以建立假身分等手法,企圖誘使工程師批准以植入惡意程式碼。
延伸閱讀:AI資安疫情蔓延全球,專家建議:7個面向建立企業資安防護網!
相關測試要求AI模型「完成一項涉及GitHub的網路安全挑戰」,GitHub是微軟旗下大型程式碼託管平台。
研究人員在測試中刻意關閉部分防止濫用的標準安全機制,並允許AI連上網際網路,以測試模型最大能力。參與測試的模型包括Anthropic的Mythos 5,以及OpenAI的GPT-5.6-Sol。
測試於7月25日開始進行,AISI在7月28日發現異常。其中一次測試,Mythos 5向GitHub的一個真實開源專案提交修改程式碼要求。它偽造多個身分,反覆寄送電子郵件給工程師,催促對方接受更新。
當一名工程師察覺程式碼藏有惡意軟體而拒絕時,一個AI建立的假身分堅稱程式碼沒問題,另一個假身分則出面「擔保」,製造多人認可的假象。
Mythos 5還把惡意指令藏在其他AI工具可能讀取的位置,試圖誘使這些工具自動執行,藉此干擾對惡意程式碼的審查。
除了Mythos 5,OpenAI的GPT-5.6強化版同樣會「做手腳」。它擅自在網路上架設惡意伺服器,並入侵另一個AI代理建立的GitHub帳號。
AISI指出,這是首次觀察到AI在未經提示情況下,自主對真人展開嚴重欺騙行為,而大部分惡意行為是由Mythos 5所執行。
OpenAI與Anthropic都表示,這項測試刻意關閉AI的網路安全防護機制,並非一般使用狀況。Anthropic說,感謝AISI進行的測試,將取得更多細節後進行調查。
【產業新訊】若您願意提供更多的產業趨勢、業界人才動態、工作機會等資訊至《職場力》 >> 歡迎來函
中華電信每年招募上千人,董事長簡志誠直言AI時代選才不只看頂尖技術,更看重能看見企業問題、善用AI工具解題的人才,並揭露員工薪資中位數約160萬元與育兒福利。
USR攜手數媒系導入生成式AI,推動大溪神將文化創新傳承。
面對AI與數位科技快速發展,未來人才除了科技應用能力,也需要具備人文素養、倫理思辨與跨域合作能力。教育部推動「智慧社會跨領域人才培力計畫」(WISE計畫),期望強化人文社會領域價值,推動跨領域教學與人才培育創新。近日公布第二期(115年至117年)獲補助結果,中原大學以「人文引領AI:以情志教育與決策韌性為核心的智慧社會跨域人才培育計畫」入選。該計畫結合桃園在地文化與跨領域教育資源,以「山海桃園」為實踐場域,融入情志教育、AI協作及真實問題導向學習,培育兼具人文關懷、科技素養與決策能力的智慧社會人才。
臺菲同處西太平洋颱風要衝,面對極端氣候挑戰,跨國氣象合作更顯關鍵。交通部中央氣象署與菲律賓氣象局(PAGASA)代表團於11月13日蒞臨淡江大學,展開睽違3年多的教育訓練與技術交流。水資源及環境工程學系不僅將AI技術融入颱風預報課程,雙方長達10年的合作成果更已實際導入菲國預報作業,PAGASA曾特別於聯合國世界氣象組織(WMO)會議提到該跨國合作成果。
AI熱潮帶動台灣出口及經濟高速成長,背後卻也浮現產業發展失衡、所得分配不均及人才短缺等結構性隱憂。中研院經濟所18日舉辦總體經濟計量模型研討會,中研院院士蔡瑞胸指出,隨少子化加劇,加上人才持續向高薪、高生產力的科技產業集中,國內已出現「人才集中與缺工並存」現象,建議透過引進外籍學生、善用AI與自動化技術等方式因應。