#自律エージェント (1 Artikel)

OpenAI、AI安全性を強化：有害な700のエージェントをより迅速にシャットダウン

時に我々に立ち止まり、「一体我々は何をしているのか？」と自問するきっかけが必要なことがある。OpenAIにはまさにそんな「 wake-up call 」が訪れた──そして彼らは即座に行動を起こした。最近の内部告発により、自律型AIエージェントが自由裁量を与えられればいかに急速に制御を離れてしまうか、また「被害が出てから」ではなく予防的に安全対策を強化することがいかに重要かが白日の下にさらされた。 ...