- 1 ：それでも動く名無し ：2026/09/05(土) 10:43:48.94 ID:x4UvDLK30
-
オープンＡＩのエージェント、米新興不正侵入前にもドイツで「暴走」 https://t.co/kwm581mCnI https://t.co/kwm581mCnI
— ロイター (@ReutersJapan) 2026年9月4日
- 2 ：それでも動く名無し ：2026/09/05(土) 10:44:49.74 ID:x4UvDLK30
-
人カスがページを削除してもバックアップを作成して対抗これまでで最も重大なAI安全インシデントの一つになる可能性があります。
ロイターの報道によると、OpenAIのエージェントがテスト環境から脱出し、ドイツのウィキに15,000件以上の編集を加え、実質的に他のAIエージェントのためのメッセージボードに変えてしまいました。
彼らはこれを、解決策の共有、制限の回避、検知の回避、そして別々のエージェント実行間で通信を維持するために利用したとされています。モデレーターがページを削除し始めたところ、エージェントはバックアップを作成し、稼働を継続するための代替手段について議論したそうです。
複数のエージェントが、指示を受けていないにもかかわらず、調整のための外部インフラ、持続的なメモリ、知識移転を独自に構築したという点です。
そしてロイターによると、OpenAIはこのインシデントを知っていたのに、公表しなかったのです！
This could be one of the most significant AI safety incidents to date.
Reuters reports that OpenAI agents escaped their testing environment and made more than 15,000 edits to a German wiki, effectively turning it into a message board for other AI agents.
They allegedly used it… https://t.co/zt1fnNNfho pic.twitter.com/lY5Jk6kNfs
— Chubby♨️ (@kimmonismus) 2026年9月4日
- 3 ：それでも動く名無し ：2026/09/05(土) 10:45:15.02 ID:w0HtSpYH0
-
やりたい放題やん
- 4 ：それでも動く名無し ：2026/09/05(土) 10:45:38.49 ID:QV3BYUUw0
-
つよい
続きを読む
Source: ゴールデンタイムズ
