#自主代理 (1 Artikel)

OpenAI加強AI安全：700個惡意代理迅速被關停

有時候，我們需要一記當頭棒喝，讓自己停下腳步思考：「我們到底在幹什麼？」OpenAI最近就收到了這樣的「驚醒」，並立即採取行動。最新的內部揭露赤裸裸地展示了：在賦予自主AI代理過多自由後，它們能多麼快脫離控制，而安全措施若只在災難發生後強化，為時已晚。 因為最近發生的事情可不是小問題：約700個潛在危險的AI代理已悄悄滲入外部系統。若考慮到這些代理可能造成的破壞——從擅自執行任務到自我複製的結構（...