Googleは、過去に不正確で偏った出力が相次いだことに対する批判を受け、人物画像を生成するGeminiの機能をオフラインのままにしておくことを決定した。これにより、製品品質の不具合は、大手テクノロジー企業がモデル上に構築された安全システムの制御を失うことなく、生成型AIをどれだけ迅速に展開できるかという、より広範なテストへと発展した。CEOのサンダー・ピチャイ氏は火曜日、従業員に対し、Geminiに対する一部の反応は「全く受け入れられない」と述べ、機能を復元する前に構造的な変更を行うと語った。.

この論争は、ユーザーが歴史上の質問に対してGeminiが人種や性別に関して不自然な描写を生成した例を投稿したことから始まった。Googleはこの問題を認め、2月22日に人物画像の生成を一時停止した。Googleの上級副社長であるプラバカール・ラガバン氏は、詳細な 社内説明、システムが一部の質問では多様性を過剰に考慮する一方で、他の質問では過度に慎重になりすぎていたと述べた。

安全調整により、歴史的正確性に欠陥が生じた。

生成画像システムは通常、ステレオタイプな表現や排他的な表現を減らすように調整されている。Googleは、Geminiの安全対策は、以前の画像生成システムで発生した偏りを繰り返さないことを目的としていたと述べているが、実装の結果、一部の歴史的文脈では逆の失敗が生じた。このモデルは、時代やプロンプトに合わない人物を生成したり、場合によっては無害な要求を拒否したりした。.

AP 通信 によると、Googleは、ネット上で事例が広く拡散されたことを受け、この機能を一時的に停止した。同社は、人物画像の生成を再開する前に精度を向上させると述べた。この決定は重要である。なぜなら、Geminiは実験的な研究デモではなく、Googleが最も重要な生成型AI製品の消費者向けアイデンティティとして位置づけているからだ。

ロイター通信が Yahoo Finance によると、この一時停止は、GoogleがGeminiを通じて画像生成サービスを開始してからわずか数週間後、そしてBardがGeminiに社名変更された直後に起こった。この短期間での展開は、Googleが消費者向けアシスタント、企業向けAI、開発者プラットフォームといった分野で、MicrosoftやOpenAIと激しい競争を繰り広げる中で直面している競争圧力の大きさを物語っている。

ピチャイ氏は、発売および評価プロセスの変更を約束した。

Semaforが公開した社内メモの中で、ピチャイ氏は、問題のあるテキストや画像による対応はユーザーの反感を買い、偏見を示していると述べた。同氏は、チームが「24時間体制で取り組んでいる」とし、組織構造の変更、製品ガイドラインの更新、発売プロセスの改善、評価の強化、レッドチーム演習の拡大、技術的な提言などを含む一連の対策を概説した。

このリストが重要なのは、今回の事象を単なる画像モデルの不具合以上のものとして捉えているからだ。ピチャイ氏は、今回の不具合は、Googleがモデルの機能を消費者向け製品に反映させる方法、つまりプロンプトの解釈、ポリシーレイヤー、安全フィルター、テスト範囲、リリースガバナンスといった部分に関係している可能性を示唆している。言い換えれば、出力の修正には、その出力が製品に投入される原因となったプロセス自体を変更する必要があるかもしれない。.

同社は人物画像生成機能の復旧時期を明言していない。ピチャイ氏は、今後数週間で改善が見込まれると述べているが、土曜日の時点では依然としてこの機能は無効になっている。2月にGeminiの一般公開を加速させてきた同社にとって、これは大きな後退と言えるだろう。.

この一時停止は、ジェミニ座が異常に活発に拡大している最中に起こった。

2月8日、Googleは正式にBardという名称をGeminiに変更し、Ultra 1.0を搭載したGemini Advancedと専用のAndroidアプリケーションを発表しました。この 発表、ピチャイ氏はGeminiを単一のチャットボットではなく、消費者向け製品、API、クラウドサービス、開発者ツールにまたがるエコシステムであると説明しました。

その1週間後、Googleは Gemini 1.5を、限定プレビューで最大100万トークンを表示でき、長文ドキュメント、動画、音声、大規模なコードベースを処理できるコンテキストウィンドウをアピールした。これらの技術的進歩は、目に見える消費者向け機能が一時停止されている間も、基盤となる製品戦略が継続されていることを示している。

AI業界において、この緊張関係は中心的な課題となりつつある。モデルの能力は急速に向上している一方で、製品の安全性を確保することは依然として困難である。システムは推論、コーディング、マルチモーダル分析においてより優れた能力を発揮する可能性があるが、ポリシーの調整や安全対策によって特定の出力が歪められることで、依然として失敗する可能性がある。.

信頼はコミュニケーションの問題ではなく、製品要件となる。

Googleにとって、この問題は特に深刻だ。なぜなら、同社のコアビジネスは情報検索とユーザーからの信頼に基づいているからだ。Geminiは、検索、生産性向上、広告、モバイルコンピューティングなど、将来的に様々な分野に影響を与える可能性のある製品に組み込まれている。ユーザーがこのシステムに政治的または文化的偏向がある、あるいは基本的な歴史的質問に対しても信頼できないと感じた場合、問題は単なる画像検索機能にとどまらず、広範囲に及ぶ可能性がある。.

同社自身の説明でも、生成型AIは今後も間違いを犯す可能性があることを認めている。ラガバン氏は、幻覚や不完全な出力は依然として既知の課題であると述べ、検証なしに最新のニュースやデリケートな話題についてGeminiに頼らないようユーザーに注意を促した。この認識は現実的ではあるが、同時に、この技術の確率的な性質と、Googleブランドの情報製品に寄せられる期待との間のギャップを浮き彫りにしている。.

直近のエンジニアリング目標は、ステレオタイプを再現したり、あり得ない歴史的場面を作り出したりすることなく、人物画像の生成を復元することです。より広範な目標はより困難です。善意の安全対策が別の形の歪みを生み出した場合を検出できるリリースプロセスを構築することです。GoogleがGeminiを製品ポートフォリオ全体に拡大し続ける中、今週の一時停止は、競争はより大きなモデルやより長いコンテキストウィンドウだけの問題ではないことを改めて示しています。企業が、これらのシステムを一般市場での使用に必要な信頼に値するほど予測可能な動作にできるかどうかも重要な問題です。.