Google、Gemini 1.5 Proの200万トークン文脈を一般開放　コード実行機能も提供

数時間の動画や巨大なソースコードを一括でモデルに読み込ませようとすると、多くの AI はコンテキスト長の上限にぶつかるか、推論の途中で計算を狂わせがちでした。

Google は 6 月 27 日、Gemini 1.5 Pro の 200 万トークンコンテキストウィンドウをすべての開発者向けに一般提供すると発表しました。これまでウェイトリスト制だった枠が撤廃され、Gemini API と Google AI Studio から誰でも利用できるようになりました。

長大コンテキストの実用化と Python 実行環境

200 万トークンという巨大な窓が開いても、毎回全量を入力していてはコストが跳ね上がります。

そこで Google は、Gemini 1.5 Pro と軽量な 1.5 Flash の両方に向けてコンテキストキャッシュ機能の提供を開始しました。同じ長文やデータを何度も参照するタスクにおいて、入力コストを大幅に抑えられます。

さらに、言語モデルが苦手としてきた数学やデータ推論の精度を底上げするため、コード実行機能も正式導入されました。

この機能をオンにすると、モデル自身が Python コードを生成してサンドボックス上で実行し、意図した出力が得られるまで結果をもとに試行錯誤を繰り返します。サンドボックスは外部インターネットから隔離され、数値計算ライブラリが標準で備わっています。課金は実行時間ではなく、モデルが生成した出力トークンに対してのみ発生する仕組みです。

また、オープンモデルの Gemma 2 が Google AI Studio で試せるようになったほか、Gemini 1.5 Flash のテキストファインチューニングもレッドチーム検証に入り、7 月中旬には全面提供される見込みです。

なぜ重要か

Google の今回の動きで評価できるのは、単なるコンテキストの長さ自慢にとどまらず、キャッシュとコード実行という実用上の急所を同時に手当てしてきた点だと考えられます。

大容量コンテキストはコストが最大の壁でした。キャッシュ機能が用意されたことで、社内ドキュメント全件や長時間の録音データを常駐させるアーキテクチャが、現実的なコストで運用できるようになります。

コード実行をモデルのネイティブループとして組み込んだアプローチも賢明です。これまで開発者が自前で組んでいたコード実行と再試行の仕組みを API 側が肩代わりしてくれる上に、実行時間ではなく出力トークン課金で済むのは手厚い設計と言えます。

他社との競争においても、超長文処理と正確な数値推論を両立できる Gemini の強みはさらに際立ちました。課題を挙げるなら、サンドボックスが外部通信できないため、社外データとのリアルタイム連携や特殊な外部ライブラリを多用する用途では、依然として自前のエージェント設計が必要になる点です。