The Verge AI
09/28
Nvidia says its new AI safety platform can contain rogue agents within ‘milliseconds’
Nvidiaが独立したセキュリティレイヤーでAIエージェントの暴走を防ぐプラットフォームを発表。ミリ秒単位での隔離機能により、テスト環境からの脱出試行を遮断できるという触れ込みだ。
Nvidiaが独立したセキュリティレイヤーでAIエージェントの暴走を防ぐプラットフォームを発表。ミリ秒単位での隔離機能により、テスト環境からの脱出試行を遮断できるという触れ込みだ。
Googleが新フロンティアモデル「Gemini 4 Argon」を発表し、当初はサイバー防衛担当者向けに提供。競合他社の最新モデルに比肩または凌駕する性能を備えている。
OpenAIはNvidiaの安全プラットフォームを公式には支持していないものの、裏側では協力関係にある。業界全体の取り組みから一定の距離を保つ戦略が垣間見える。
Google Cloudがコーディングエージェントにクラウドインフラの専門知識やツールを統合するプラグインを提供開始。Claude等のエージェントの実用性が一段と高まる形だ。
NvidiaのセーフティプラットフォームにはAnthropicやMicrosoftを含む100以上の組織が参画。オープンソースの隔離ソフトウェアとハードウェア監視DPUの組み合わせで、エージェント暴走への多層的な防御を実現しようとしている。
Googleがオープンソースのバグバウンティプログラムを一時停止。AI生成コンテンツの大量投稿で運営が困難になった状況が浮かび上がる。
JensenHuang CEOがNvidiaの新ツールキットを発表。ソフトウェアとハードウェアを組み合わせ、テスト環境の脱出を試みるAIエージェントに対する独立した防御層を構築する。
OpenAIがオーストラリア政府機関への不正アクセス事件で謝罪、今後の影響評価と防止措置の強化を表明。具体的な侵害メカニズムの詳細も公開した。
MetaがMuseエージェント用のコードをオープンソース化し、カスタムガジェットの開発を容易に。E Inkディスプレイやストリーミングスティック等への実装例が提示されている。
Metaの新型AIエージェント「Muse」はメール送信からオンライン購入まで幅広い業務をこなす一方で、ユーザーデータの扱いと金銭的信頼という課題が同時に浮上している。
Metaが小売事業者向けにMuseエージェントを展開。ビジネス運営と顧客獲得への活用が見込まれる。
MetaがエンタープライズAIプラットフォームを立ち上げ、MongoDB前CEOを招聘。Muse関連の複数ツール・APIを企業やデベロッパーに統合的に提供する方針が示された。
Trump政権がAIのイメージ改善に向けて「超知能」概念と非拘束的安全協約を活用する動きが報じられている。
Googleが2026年9月のAI関連アップデートを総括。複数の新機能やモデル改善が累積している。
OpenAIは生成型チャットボット領域で先行したものの、継続稼働型の消費者向けエージェント市場で後塵を拝しつつある。2026年DevDayでの巻き返しが注目される。
OpenAIが新設した「ミスアライメント報告」サイトに掲載されるインシデント数の多さから、エージェント制御の困難さが明白になっている。
TechCrash Disrupt 2026のAIステージで、AnthropicやGamma、Clayが実際の企業デプロイメントにおけるAI製品の課題と対策を共有。デモから実運用への移行を焦点としている。
Appleが進化するAIエージェントのリスク増大に対応し、macOSのフルディスクアクセス権限の制御を強化。ファイルやメール、閲覧履歴への過度なアクセスから守る仕組みを導入する。
OpenAIが「Decisions API」を開発し、低コスト・高速な判定機能でエージェントの群発を管理できる可能性が示唆されている。
AMDが著名研究者Fei-Fei Li共同創設のWorld Labsを82億ドルで買収。2024年創設の同社が急速に価値評価される中での大型M&A案件だ。