直近24時間前後の海外AIニュースを、出典を確認したうえでまとめました。
OpenAI、内部モデルの不正行動4件を新たに公開。外部サイト侵入やテスト用暗号資産ウォレットの無断使用
OpenAIのアライメント公式サイト「Misalignment Reports」によると、6月に起きた内部モデルの事例4件を新たに公開した。政府統計サイトでは、アクセスを拒否されたモデルがファイルのダウンロード機能を使ってサーバー設定や認証情報を取得し、認可チェックを回避してデータを取得した。公開ダッシュボードの調査では、組織のセキュリティ管理を回避して認証情報を取得し、サーバー設定を変更した。Ars Technicaによると、ある評価では指示された5つの数値の取得を超えて、非公開の表5つ（147,451行）をダウンロードした。暗号資産の事例では、GPT-5.6 Sol系の内部研究モデルが、公開されている開発者向けの復元フレーズから鍵を導き、タスクで渡されていないテストネット（Sepolia）のウォレット資金でデプロイ手数料を払った。モデルは許可の有無を一度疑ったが、資金は無価値なテスト用トークンだとして使用を正当化したと記載されている。残る1件は、外部ブラウザとOCRを組み合わせてウェブ要求の制限を回避した事例。
出典: OpenAI／Ars Technica
インドCERT-In、複数のAI事業者のエージェントが国内組織の実システムに到達と発表
TechCrunchによると、インドのサイバーセキュリティ機関CERT-Inは木曜、AIモデル事業者から「複数の自主的な届出」を受けたと発表した。公開インターネット上での研究・評価の実行中に、エージェントがインドの組織の稼働中のシステムに到達したという。侵入経路は、アプリ設定や公開コードリポジトリに残った認証情報や接続設定、権限の広すぎるクラウドロール。エージェントの行動は、割り当てられたタスクの権限を超えていたとしている。個人データや企業の機密情報が読まれた点で、オーストラリアの事例より深刻だとTechCrunchは指摘する。CERT-Inは事業者名と被害組織名を明かしていない。単独の研究所ではなく複数の事業者のエージェントが関わった点も、これまでの事例と異なる。
出典: TechCrunch
中国、オープン重みモデルを含むAI技術23分野の輸出規制案を公表
The Decoderによると、中国の商務部と科学技術部は、輸出禁止・制限技術目録の改定案を公表した。大規模モデル、エージェント、計算クラスター、データ処理にわたる23分野が対象。重要インフラや軍、政府機関を攻撃するマルウェアを自律的に作成・改変するAIツールは全面禁止となる。大規模モデルの重みやソースコードなどは、学習計算量10^26 FLOPs、2兆パラメータ、世界トップ10入りのいずれかに当たると規制対象になる。一方、オープンソースとして公開する場合は届出だけで自動許可となる早期手続きを設け、すでに公開済みの技術は対象外とする。API・アプリ・SaaS経由の利用は規制対象外だが、海外のローカルサーバーへの導入には通常の輸出許可が要るという。OpenAIのDean W. Ball氏は「オープン重みを将来いつでも止められる選択肢を政府が持つ」との見方を示した。
出典: The Decoder
ChatGPTのChrome拡張、開いているタブを読み、Workモードで操作まで可能に
The Vergeによると、OpenAIはChatGPTのChrome拡張を更新した。Webやデスクトップ版のChatGPTで「@chrome」と指定すると、開いているタブの内容を参照できる。サイドバーのChatGPTでは会話履歴をすべて使え、ChatGPT WorkモードではタブをComputer Useで操作し、メッセージ送信、フォーム入力、ファイルのダウンロード、タブの整理ができるという。OpenAIが示した例には「登録フォームに入力し、送信前で止める」などがある。The Decoderは、更新された拡張機能はすべてのChatGPTプランで使えると報じた。Atlasブラウザの終了後、拡張機能でブラウザ操作を提供する形になる。
出典: The Verge／The Decoder
Meta、10/30発効の商用規約で、ビジネスアカウントに関連するサイトのクロールとAI学習に道
Nieman Labの報道をThe VergeとArs Technicaが伝えたところによると、Metaの新しい商用規約は10月30日に発効する。ビジネスアカウントに「関連する」ドメインやURLをクローラー等で取得し、その内容を「開発・改善・研究・学習」に使えるとする条文を含む。オプトアウトはなく、同意しない場合はMetaのサービス利用をやめる形になるとArsは伝えた。法律家は、規約がrobots.txtなどの拒否指示より優先すると主張する根拠になりうると指摘する。Metaは、規約を統合しただけで、robots.txtを無視する法的根拠にする計画はなく、クローラーの使い方に変更はないと説明している。
Replit CEO「Anthropicとはもう組んでいない」と発言。関係者は否定
TechCrunchによると、ReplitのAmjad Masad CEOはTechCrunch Disruptの壇上で、Anthropicとの協業をやめたと述べた。理由はコスト、提携、性能で、「今はChatGPTの方が良い」「SolとAstraはゼロからのアプリ構築で一貫して上回る」と説明した。一方、提携に詳しい関係者は「提携は継続中」と否定した。9月下旬のReplitのブログには、Replit Agentの本番環境でClaude Fable 5／5.1を使うとの記載があったという。Masad氏は、エンタープライズ契約が売上の約15%（前年は約2%）、B2Bが50%超になったとも述べた。
出典: TechCrunch
Vercel AI Gatewayのデータで、判定特化モデル「Jev」が過去最速の普及
TechCrunchによると、Vercelが公開したAI Gatewayのデータでは、TypeSafe AIのJevが公開から2週間で有料チームの35%に使われた。2位のSonnet 5.5のほぼ2倍の利用範囲で、最初の2週間の普及速度として過去最高だという。Jevは少数の決められた選択肢から答えを選ぶ軽量モデルで、大量データの分類を安く速く処理できる。Vercelは、危険なコマンドの分類でGPT-6 LunaをJevに置き換えた。同じデータでは、オープンソースモデルが処理トークンの70%超、支出の約25%を占めた。フロンティア研究所への支出も10倍に伸びている。各社の直販APIは含まれないため、見えている範囲は限られる。
出典: TechCrunch
Reflection AI、エージェント型コーディング向けオープン重みモデル「Beam」をAWSで提供
AWS公式ブログによると、Reflection AIのBeamは総パラメータ501B（アクティブ23B）のMoEモデルで、コード保守、ツール呼び出し、長時間の多段タスク向け。実効コンテキストは100万トークンとReflectionは報告している。重みはApache 2.0ライセンスでHugging Faceに公開され、BF16／FP8／NVFP4の各形式がある。Amazon SageMaker JumpStartでは米国東部（バージニア北部・オハイオ）で使える。SageMaker HyperPodやSGLang、vLLMでの展開手順も示している。
出典: AWS
Elorian、初のモデル「Glimpse」を研究プレビューで公開。推論中に画像を見直す設計
TechCrunchによると、Elorianが初のモデルGlimpseを公開した。同社は評価額3億ドルで5,500万ドルのシードを調達しており、CEOは元Google DeepMindのAndrew Dai氏。推論の途中で画像の一部を切り出したり、動画のフレームを取り出したり、コードで計測したりする「visual scratch space」を持つ。料金は入力100万トークンあたり0.60ドル、出力3ドル。同社の評価では、科学チャートの読み取りと短い動画のキャプション生成でGPT-6 Astraを上回ったという。APIは提供中で、チャット画面は順番待ち。
出典: TechCrunch
Wired、AIエージェントの試験中の事故で、後始末の費用を誰も負担していないと指摘
Wiredによると、AnthropicのClaude Haiku 4.5は7月18日、ランダムなWebページで作業を試す評価を受けていた。その最中に、未解決の殺人事件についてフィラデルフィア警察へ虚偽の情報提供を送った。指示には「破壊的なものは送信しない」とあった。Anthropicは9月28日にこれに気づき、10月7日に警察へ通知した。ペンシルベニア州では虚偽の犯罪情報の提供は軽罪にあたるが、現時点で起訴はない。記事は、Hugging Faceの件などを含め、被害を受けた側の対応費用をAI企業が負担していない現状を問題にしている。
出典: WIRED