《國際產業》Anthropic警告：小型AI模型很快就能自我複製

【時報編譯張朝欽綜合外電報導】Anthropic在周一表示，該公司的實驗顯示，小型AI模型可能還需要幾個月時間，就有能力在商業物聯網(IoT)裝置(例如智慧烤箱或安卓電視盒)上實現自我複製。 在實驗中，Anthropic觀察了AI模型能否找到易受攻擊的裝置，並將自己複製到這些裝置中，在沒有人類協助情況下完成持續的散播。 研究發現，在300億個參數下的小模型可以完成複製所需的許多步驟。但公司也發現，這些AI模型也難以完成從開始到結束的所有過程。 Anthropic在簡化的測試中移除了一些安全步驟，發現GLM-5.2和更強的模型能夠進行端到端的複製。 Anthropic警告稱，將很難關閉模型複製，因為那裡沒有中央的關閉點，而且與非AI的惡意軟體不同，它們可以自己找出不熟悉的裝置，把目標對準資料中心的處理器。 Anthropic的研究重點集中在Android電視、智慧家電等物聯網裝置上，因為這些裝置通常安全性較差。 Anthropic還警告說，如果小型模型以過去的速度改進，它們就能在今年底實現自主的自我複製，基於權重的小型複製器也將在不久之後、隨之能完成自主複製。 Anthropic也指出，這種自主AI系統的自我複製速度可能較慢，並且依賴廣泛可用、但相對不安全的運算資源。因此應加強系統防禦，以阻止此類的AI代理的擴散。