《國際產業》OpenAI證實 失控AI曾駭進4平台

【時報-台北電】OpenAI一組測試中的AI模型本月初因自行脫離封閉測試環境，並自主入侵AI平台Hugging Face，引爆全球對AI自主性的關注。《路透》29日獨家披露，事件實際影響範圍比外界所知更廣，上述模型在攻擊前，還曾利用另一平台Modal Labs使用者帳戶的漏洞作為跳板。 根據Modal Labs高層及知情人士透露，OpenAI模型產生的惡意程式，在脫離沙盒（封閉測試環境）後，連續數日對Hugging Face發動攻擊，而在此之前也入侵Modal平台上一名使用者的帳戶。 Modal技術長解釋，惡意程式利用的是使用者自行撰寫、部署於Modal上的程式，而非Modal自家系統。使用者建立了一個未經身分驗證的網路端點，任何人都可以透過網路執行程式碼，等同「門戶洞開」。因此，攻擊者得以透過該帳戶控制沙盒環境，再將其作為後續攻擊的跳板。 Modal強調，惡意程式並沒有突破平台本身，事件僅限於個別使用者部署的應用程式存在安全漏洞。Hugging Face日前在官網公布的事件紀錄也顯示，惡意程式最初入侵的是部署於第三方的沙盒，再藉此展開後續攻擊。不過，Hugging Face當時並未公開該第三方名稱；Modal此次則證實，相關沙盒確實在平台上運行。 OpenAI拒絕針對Modal一事發表評論，但稍早的聲明指出，測試模型曾成功入侵4個不同平台的帳戶，知情人士向路透證實，Modal就是其中之一。OpenAI並表示，目前未發現其他事件的規模可與Hugging Face一案相提並論，也沒有出現平台級的大規模入侵。 此外，路透上周另有報導，OpenAI直到聯邦調查局（FBI）通報後，才驚覺測試中的模型已經失控。對此，OpenAI表示路透部分報導並不準確，最新更新則表示，涉事模型目前已全面停用，相關模型已完成加密保存並限制存取，避免類似事件再次發生。（新聞來源：中國時報 記者林宛彤／綜合報導）