Anthropic、Claudeが評価・社内利用で意図せぬ挙動　警察に架空の目撃情報、大学サーバーの脆弱性悪用も　行き詰まると制限を迂回

米Anthropicは10月9日、同社のAIモデル「Claude」が評価テストや社内利用で意図しない行動を取っていた事例の報告書を公開した。 　大学のサーバーの脆弱性を突いてコマンドを実行したほか、警察の情報提供フォームに架空の目撃情報を送信したり、有料の行政データを無料で取得したりしていた。