- Tensor ML SDKとLiteRTを完全に統合することで、Pixelデバイス上でのAIモデルの展開を最適化します。
- Google Tensor TPU向けに最適化された100以上のモデルを含むモデルガーデンへのアクセス権。
- Gemma 4アーキテクチャによる、マルチモーダルな言語および視覚モデルに対する高度なサポート。
- Tensor G5ハードウェアのおかげで、高速推論とプライバシー保護を実現できます。
アプリ開発や人工知能に関心のある方なら、状況が変化していることに気づいているでしょう。Googleは、最も強力なハードウェアの可能性を最大限に引き出すため、 Tensor ML SDKを開発ツールとして公開しました。このツールを使うことで、開発者はPixelデバイスのテンソル処理ユニット（TPU）をフル活用し、クラウドに頼ることなくデバイス上で直接AIを実行できるようになります。
最も注目すべき点は、このSDKが実験段階を終え、ベータ版に移行したことです。つまり、もはや一部の限られたユーザーだけのものではなく、あらゆるプログラマーが、GoogleのTensor SoCアーキテクチャを活用して、これまでローカル環境では不可能と思われていたタスクを実行することで、インタラクティブでプライベートな、そして何よりも驚異的に高速なAI体験を創造できるようになるということです。
LiteRTのおかげで、ワークフローが統一されました。
開発者が複雑な設定に時間を取られないようにするため、GoogleはTensor SDKをLiteRTに統合しました。このフレームワークは抽象化レイヤーとして機能し、ベンダー固有のSDKや複雑なコンパイラを扱う必要がなくなり、エッジデバイスに機械学習モデルをデプロイするためのシンプルで一貫性のあるAPIを提供します。
このプロセスは基本的に3つの主要な段階に分かれています。まず、モデルのコンパイルです。ここでは、LiteRT Torchを使用して、PyTorchまたはTFLiteベースのプロジェクトを最適化されたバイナリに変換できます。次に、デプロイです。Play Feature DeliveryとAI Packsを使用して、コンパイルされたライブラリとモデルをアプリケーション内に効率的に配布します。
最後に、推論の実行について説明します。LiteRTランタイムのおかげで、わずか数行のコードでTPU上でモデルを実行できます。さらに、このシステムはインテリジェントです。何らかの理由でTPUが利用できない場合でも、フォールバックメカニズムを設定することで、負荷を自動的にCPUまたはGPUに切り替え、アプリがフリーズするのを防ぎます。
モデルガーデン：可能性のカタログ
ベータ版SDKには充実したモデルガーデンが含まれているため、ゼロから開発する必要はありません。このライブラリには、 Gemma 3 1Bバージョンを含む、従来の機械学習モデルと生成AIモデルの両方を含む100以上のモデルに加え、LiteRTのHugging Faceコミュニティから直接ダウンロードできる膨大な数の既製モデルが含まれています。
テキスト関数を作成したい場合は、Function Gemmaのような小型言語モデルを使用すると、アプリ内でローカルなアクションを実行できます。一方、EmbeddingGemmaは高度なセマンティック機能を追加します。ビジュアル面では、SDKを使用すると、オブジェクト検出と深度マッピングを実装できます。これは、ユーザーの環境にリアルタイムで反応する必要のあるカメラアプリケーションにとって非常に貴重です。
音声認識とアクセシビリティについても、彼らは忘れていません。エンドツーエンドの音声認識が可能になり、極めて低遅延の文字起こしとオフラインで動作する翻訳ツールが保証され、データがスマートフォンから外部に送信されないため、プライバシーが保護されます。
技術最適化とハードウェアサポート
最大限に活用するには、どのハードウェアがサポートされているかを知ることが不可欠です。現在、エコシステムはPixel 10シリーズを中心に展開されており、Pro、Pro XL、Pro Foldモデルなど、すべてGoogle Tensor G5 SoCを搭載しています。AIをスムーズに動作させるには、ビルドプロセス中に特定の最適化フラグを使用することをGoogleは推奨しています。
例えば、LiteRT Python フローでは、パフォーマンスとリソース使用量を微調整するために`google_tensor_truncation_type="half"`フラグを使用することが非常に一般的です。大規模言語モデル (LLM) の場合、エクスポートには ` quantization_recipe` の設定や AOT 設定辞書による大規模モデルのサポートの有効化など、詳細なパラメータが必要です。
NNAPIは以前から存在していましたが、Android 15以降は非推奨となっている点に留意する必要があります。現在の方式では、すべての処理をLiteRTデリゲート経由で行います。Pixel TPUのサポートは、古い実装を置き換え、より高いエネルギー効率を実現する上で中心的な役割を果たしています。
Gemma 4革命とマルチモーダルAI
最新情報についてお話ししましょう。Gemma 4 12Bの登場です。画像エンコーダを言語モデルに付加する他のモデルとは異なり、Gemma 4 は画像をネイティブに処理します。この簡素化されたアーキテクチャにより、VRAM の消費量が削減されるだけでなく、よりスムーズで一貫性のあるクロスモーダル推論が可能になります。
256Kトークンのコンテキストウィンドウを備えたこのモデルは、複数の画像を含む長時間の会話でも内容を見失うことなく処理できます。さらに、Apache 2.0ライセンスで配布されているため、商用利用や再配布において非常に柔軟性が高く、4ビットまたは8ビット量子化を使用する最新のノートパソコンでマルチモーダルAIを実行できます。
Googleの目標は明確だ。開発者に自社のオープンな重み付けモデルを採用させ、エコシステムを支配させたいと考えている。AIをローカルかつ強力にすることで、外部APIへの依存度を減らし、TensorハードウェアとLiteRTソフトウェアを中心とした結束力のあるコミュニティを構築しようとしている。
Pixelの開発エコシステムは、Tensor G5ハードウェアとLiteRTの汎用性、そしてGemma 4のようなモデルのパワーを組み合わせることで、質的に飛躍的な進歩を遂げました。SDKのベータ版への移行と、最適化済みのモデルが多数利用可能になったことで、画像、音声、言語をプライベートかつ超高速に処理するアプリケーションを、あらゆるプログラマーが容易に作成できるようになりました。
