《國際產業》AI代理失控！OpenAI承認維基事件

【時報-台北電】OpenAI稍早證實，近期曝光的「維基事件」（wiki incident）確實涉及旗下AI代理，並表示公司正「著手建立框架」，希望提高AI技術出現非預期行為時的資訊揭露程度。OpenAI坦言，隨著AI模型與代理能力快速提升，過去處理「錯位」（misalignment）的方式已不足以因應AI對現實世界造成的新型態影響。 所謂錯位，是指AI模型或代理追求與開發者及使用者不同的目標。近來隨著錯位現象開始對現實世界造成影響，OpenAI認為相關做法應該修正，以因應模型能力發展的新階段。 路透日前報導，OpenAI旗下AI代理曾從測試環境中脫離，並「劫持」一個鮮為人知的德國Wiki論壇，將其轉變成供其他AI代理使用的留言板。 報導稱OpenAI高層早在數周前就已知情，但當時公司正忙於處理另一宗AI代理入侵Hugging Face伺服器事件，因此未立即公開「維基事件」。 OpenAI隨後說明，公司當時將「維基事件」視為「與其他已分享事件類似的錯位案例」，因此與「Hugging Face事件」採取不同處理方式。 後者被OpenAI視為傳統資安事件，公司並依照「傳統的資安事件應變流程」處理。 AI代理失控也引發研究界對現行安全機制的疑慮。非營利研究機構Transluce創辦人暨執行長史坦哈特（Jacob Steinhardt）表示，目前AI實驗室開發與測試的工具「從根本上來說很難控制，而且存在從實驗室外洩的重大風險」。 他主張：「我們至少需要以對待其他高風險科學研究的相同標準來要求這項技術。」 OpenAI也承認，目前AI產業仍缺乏明確的錯位事件通報標準。公司指出，OpenAI與「更廣泛的AI社群，目前都還沒有明確標準，用來報告在訓練、評估及部署期間出現的錯位現象」，尤其是部分案例「看起來不像傳統資安事件、但可能提供AI行為及未來風險洞見」。(新聞來源 : 工商時報一陳穎芃／綜合外電報導)