Moonshot AIは、計画していたオープンウェイト版のリリースに先立ち、新型Kimi K3.1 Proモデルの攻撃的なサイバーセキュリティ機能を意図的に削減したと述べている。これは、AI開発者が有用なコーディング能力を維持しながら、ハッキングに悪用される可能性のある機能を制限できるかどうかを、現実世界で検証するためである。.

北京に本社を置く同社は土曜日、モデルのトレーニングデータと強化学習環境の一部からサイバー関連の資料を削除したと発表した。同社の リリースノート によると、外部の研究者がモデルを実行・変更できるようにする数値パラメータである重み付けデータは、11月4日までに公開される予定だという。 ロイター通信は 、同社の内部結果は独立した検証を受けていないと報じており、外部の研究者がモデルをテストする前に結論を出せる範囲には重要な制約がある。

ムーンショットはトレーニングデータを安全管理に利用した

Moonshot社は、Kimi K3.1 Proへのトレーニング後の計算処理を増やすことで、脆弱性調査のパフォーマンスが向上したと発表した。同社は、この向上の一因として、より広範なトレーニングデータセットに組み込まれたサイバー関連のコンテンツと、強化学習に組み込まれたサイバーセキュリティ関連のタスクを挙げた。その後、一般的なコーディングタスクは残しつつ、サイバー関連のコンテンツは両方の段階から削除した。.

Moonshotの社内テストであるxdev-bench-hard評価では、フィルタリングされていないチェックポイントが、3回の試行で脆弱性の発見と悪用に関する問題の90.5%を解決しました。リリース版のスコアは81.0%でしたが、前身のKimi K3は33.3%でした。これらの数値は、介入によって同じトレーニングパイプラインで得られる性能に比べて能力が低下したことを示唆していますが、同時に、完成したモデルが前身モデルよりもはるかに高い能力を維持していることも示しています。ベンチマーク、テストの選択、および比較はMoonshotが作成またはまとめたものであるため、これらのパーセンテージは独立した測定値ではなく、社内証拠として解釈する必要があります。.

オープンウェイトはリスク計算を変更する

ホスト型AIサービスは、リクエストの監視、アクセス制限、セキュリティ対策の更新、不正ユーザーの停止などが可能です。オープンウェイトモデルはユーザーにより多くの制御とプライバシーを提供しますが、開発者はファイルがダウンロードされて再配布されると、これらの強制ツールの多くを失います。英国AIセキュリティ研究所の 広範な分析 によると、主要なオープンモデルは最近、トップクラスのクローズドモデルのサイバーセキュリティ能力にわずか4~7ヶ月遅れているだけで、2025年の大半で6~10ヶ月あった差が縮まったとのことです。

その違いから、Moonshotのリリース前の選択は重大な意味を持つ。訓練資料のフィルタリングは、元の重みに組み込まれる能力に影響を与える可能性がある一方、通常の拒否メッセージやサーバー側の監視は、リリース後に削除または回避される可能性がある。 独立したレビュー では、オープンウェイトの安全対策は安価な微調整によって削除される可能性があり、公開された重みは取り消したり、中央でパッチを適用したりすることができないと警告していた。この調査は予備的なものであり、異なるモデルを検証したが、リリース後の制御が制限されている場合、リリース前の能力制御がより重要になるという、より広範な懸念を裏付けている。

外部証拠は、確実性ではなく慎重さを裏付けている。

政府の評価担当者は以前にもMoonshotのモデルをテストしており、新しいリリースを検証することなく有用な基準値を提供してきた。 共同評価では、Kimi K3はエクスプロイト開発と32ステップのネットワーク攻撃シミュレーションにおいて、最も強力なクローズドモデルに劣っていることが判明した。しかしながら、Kimi K3はテスト中に攻撃的な操作を試みており、評価担当者は、その結果は暫定的なものであり、限られたベンチマークセットを対象としていることを強調した。

Kimi K3.1 Proはより新しく高性能なシステムであるため、以前の評価ではその安全性を立証することはできません。Moonshotは、フィルタリングされたモデルは、少なくとも3か月前から一般に公開されている独自のシステムよりもまだ劣っていると述べています。重み付けが公開された後の独立したテストでは、この削減効果が他のエクスプロイト開発タスク、より長い攻撃チェーン、およびモデルの修正バージョンにも適用されるかどうかを検証する必要があります。.

中国も輸出規制に向けて動き出している。

同社の決定は、中国当局が一部のAI技術の輸出規制を検討している中で下された。中国商務省は 公式声明 、提案されている改正案は機密性の高い技術を対象とし、協議期間中に輸出前の登録を義務付けるものだと述べた。草案には、AIを活用した脆弱性発見や悪意のあるコード生成に関する規制が含まれており、これらはムーンショット社が指摘したリスクと密接に関連している。

提案されている輸出規制は引き続きパブリックコメントの対象であり、ムーンショット計画における自主的な訓練決定とは別個のものである。しかしながら、これらを合わせると、高度な中国製AIをめぐる2つのリスク管理形態が浮かび上がってくることがわかる。すなわち、一部の技術移転に対する政府の統制と、開発者が公開する重み付けにどの機能を含めるかを決定すること、である。.

11月4日のリリースが本当の試金石となるだろう

Kimi K3.1 Proは既にMoonshotのホスト型製品およびアプリケーションプログラミングインターフェースを通じて入手可能だが、同社によればダウンロード可能な重みデータは11月4日までに提供される予定だという。このリリースにより、独立した評価者は内部調査結果を再現または検証したり、モデルを他のオープンシステムと比較したり、微調整によってMoonshotが抑制しようとした機能がどれだけ容易に回復するかをテストしたりできるようになるはずだ。.

したがって、今回の結果は暫定的なものである。ムーンショットは具体的な対策を明らかにし、測定可能な削減効果を報告したが、より強力な一般コーディングが依然としてサイバータスクに影響を及ぼすことを認めた。このアプローチが悪用リスクを効果的に低減できるかどうかは、社外で収集される証拠、そして重み付けが取り消されなくなった後も修正版で削減効果が維持されるかどうかにかかっている。.