クラウドインテグレーション事業部の片山です。
2026年10月26日〜28日（現地時間）にラスベガスで開催されたイベント、Oracle AI World 2026に今年も現地参加してきました！

今回は、展示会場「Oracle AI World Hub」のオープンシアターで行われた20分のHub Theaterセッションから、「May the Best Model Win: Compare Generative AI on OCI」のレポートをお届けします。

セッション表紙スライド「Model Comparator for Generative AI on OCI」

セッション概要

本セッションは、OCIで提供される複数の生成AIモデルを横並びで比較し、ワークロードに合うモデルを選ぶ方法を紹介する入門者向けのセッションです。登壇者はOracle Cloud InfrastructureのJulien Lehmann氏で、前半はOCIのAIサービスの全体像、後半はOCIコンソールのデモ動画と、Lehmann氏のチームが作ったモデル比較アプリのデモという構成でした。Oracleの公式ブログ「What’s New in Oracle AI? October 2026 Edition」でも、推奨Hubセッションの1つに挙げられていました。

セッション内容：「最適なモデル」を自分の文脈で比べ続けるための仕組み

1. OCI Enterprise AIは「モデルを選ばない」プラットフォーム

OracleのAIの使い方は3段階。「ゼロから作る」「ツールを組み合わせて作る」「アプリに組み込まれたAIを使う」

Lehmann氏はまず、OracleのAIの使い方を3段階で整理しました。自前のGPUクラスタでモデルを学習する層、Fusion Applicationsなどに組み込まれたAIを使う層、そしてその中間の「自社データとセキュリティを管理しながら独自のチャットボットやエージェントを作りたい層」です。本セッションの対象は3つ目で、そのための中核サービスがOCI Enterprise AIです。OpenAIのモデル学習もOCIが担っていると語られていましたが、この点は弊社新川のレポートでも触れられていました。

OCI Enterprise AIで使えるモデル。OpenAI・Google・Meta・xAI・Cohereに加え、インポートしたモデル（BYOM）も同じ入口から呼び出せる

方針として繰り返されたのが「model agnostic（特定のモデルに依存しない）」という言葉です。主要ベンダーのモデルをフルマネージドで揃え、エンドポイントにモデルを指定するだけで呼び出せます。さらにOpenAIのResponses APIに対応しているため、OpenAI向けに書いたコードは接続先をOCIのエンドポイントに変えるだけで動くと強調されていました。

公開情報では、OCI Enterprise AIは2026年3月24日にGAが発表され、3月31日のリリースノートでOpenAI Responses互換の「OCI Responses API」が案内されています。なお、コンソールやリリースノートでは「OCI Generative AI」の名称も引き続き使われています。

2. コンソールのデモ：モデルIDを差し替えるだけで乗り換えられる

Playgroundで選べるモデルの一覧。各モデルの「Copy OCID」でモデルIDを取得できる

デモ動画では、OCIコンソールのPlaygroundでモデルを試し、「View code」で表示されるPythonのサンプルコードをコピーしてそのままチャットボットにする流れが紹介されました。コードにはエンドポイントとモデルIDが入っているので、モデルを替えたいときはモデルIDを差し替えるだけです。新しいモデルが出るたびに、コード全体に手を入れずに最新モデルへ切り替えられる点が強調されていました。

ほかにも、ベクトルストアを作るためのCohereとOpenAIの埋め込みモデル、Rerankモデル、Hugging Faceのモデルを専用クラスタに取り込んで使うモデルインポートが紹介されました。

なお、デモ画面のモデル一覧には2026年7月30日に提供が終わったCohereのモデル別名が表示されており、録画はそれ以前のものと思われます。その後も9月にxAI Grok 4.6とGrok 4.7が追加されたほか、9月23日にはリージョンごとに使えるモデルや廃止日をAPIで取得できるModel Discoveryが提供されています。

3. モデル比較アプリ：9モデルに同じ質問を投げる

モデル比較アプリ「OCI LLM Comparison」。業種別の質問テンプレートと、ベンダーごとのモデルを選んで比較する

セッションの目玉が、Lehmann氏のチームが作ったモデル比較アプリ「OCI LLM Comparison」です。OCIで多くのモデルを同じ入口から呼べることを生かし、同じプロンプトを複数のモデルに同時に投げて結果を並べます。

9モデルの回答が並んで流れ、モデルごとに最初のトークンまでの時間と総時間が表示される

デモでは、小売業向けテンプレートの「オンライン食料品店で動的価格設定を導入する場合の長所と短所を分析せよ」というプロンプトを、xAI・Meta・Cohere・Google・OpenAIの9モデルに投げていました。

Performance Statisticsの表。モデルごとのTTFT（最初のトークンまでの時間）・総時間・1秒あたりのトークン数・トークン数・コスト

同じ結果をグラフにした画面。コスト・TTFT・総生成時間・トークン数を並べる

結果の画面からは、指標ごとに得意なモデルがばらばらであることが読み取れます。最初の1文字が届くまで0.2秒台のモデルもあれば、推論に時間をかけて20秒以上かかるモデルもあります。また、1回あたりのコストは最も高いモデルと最も低いモデルで約50倍の開きがありました。回答の長さも600トークン台から2,400トークン超まで幅があり、Lehmann氏も「とても長い回答を返すモデルもあれば、要点だけを返すモデルもある」と語っていました。

4. 比較から見えたモデル選定の判断軸

アプリが並べる指標を整理すると、モデル選定の判断軸は次の4点になります。

  1. 最初の応答までの時間（TTFT）：チャット画面での体感速度に効く。対話型のアプリで重視する
  2. 書き切るまでの総時間と生成速度：バッチ処理やエージェントの多段処理で効く
  3. 回答の長さ（トークン数）：長いほど丁寧だが、コストと読む側の負担が増える。用途に合う長さかを見る
  4. 1回あたりのコスト：大量に呼び出す処理ほど差が積み上がる。品質が足りる範囲で安いモデルを選ぶ

一方でLehmann氏は、「いろいろ試したが、正直なところはっきりした結論は出せなかった」と率直に語っていました。これは1つの質問による比較にすぎず、最新モデルを入れながら定期的に比べ、自分のユースケースと文脈で判断するしかない、というのがセッションの結論です。モデルを簡単に入れ替えられるOCIなら、その比較を繰り返しやすいという主張につながっていました。

5. オンデマンドと専用AIクラスタの使い分け

OCIコンソールのGenerative AI概要画面。Dedicated AI clusters・Custom models・Imported models・Endpointsの入口が並ぶ

最後に、モデルの使い方として2つの選択肢が説明されました。

  • オンデマンド：全顧客で共有するインフラで、使ったトークン数に応じて支払う
  • 専用AIクラスタ（Dedicated AI Cluster）：自分専用のGPUに好きなモデルを載せ、時間単位で支払う。時間内は何回呼び出しても同額で、他の顧客から隔離されるため混雑の影響を受けない

判断軸は、利用量が安定して多いか（夜間バッチなどで使い切れるなら専用が有利）、隔離が必要か（セキュリティ要件から専用を選ぶ企業が多いとのこと）、インポートしたモデルを使うかの3点です。Lehmann氏は「時間単価をよく確認してほしい」と助言していました。

公開情報では、9月3日にIAMポリシーでグループごとに呼び出せるモデルを制限できるようになり、9月23日には承認したリージョン間でオンデマンド推論を振り分けるSmart Model Routerも提供されています。マネージドAIを含めた統制の作り方はOCI Landing Zonesのレポートもご覧ください。

おわりに

以上、「May the Best Model Win: Compare Generative AI on OCI」に現地参加してのセッションレポートをお届けしました。

20分の短いセッションでしたが、「最適なモデルは一度選べば終わりではなく、比べ続けるもの」というメッセージがはっきり伝わってきました。セッション後の動きを見ても、Model Discovery、Smart Model Router、IAMによるモデル単位の制御、そしてセッション当日の10月27日に限定提供が始まったOracle Cost Advisor for AIと、OCI側で「比べて選ぶ」を運用として回すための仕組みが揃いつつあると感じています。

AIを使う際、モデル選定についてはどれが適切なのか悩みどころですね。実際に私も業務でAIを活用する際はどれを選ぶのがいいのか迷いますし、本当に最適なものを使えているのか、という部分は怪しいです。
今回紹介があった様に幅広いモデルを、実際に使い比べて判断することができれば、AIをより有効に活用できるのではないかと思います！

最後までお読みいただきありがとうございました！