- INTELLECT-2 は、分散型強化学習を使用してトレーニングされた 32.000 億のパラメータ モデルであり、世界中のあらゆる貢献者に公開されています。
- 完全性と効率性を確保するために、PRIME-RL フレームワーク、SHARDCAST 配信ネットワーク、TOPLOC 検証システムなどの革新を導入しています。
- このシステムは、コンピューティング リソースの貢献に報酬を与え、インセンティブと共同検証を通じて誠実性を保証します。
- オープンで参加型のアプローチにより、高度な AI の開発が民主化され、コミュニティがその進歩に貢献して恩恵を受けることができるようになります。
INTELLECT-2を探る：業界に革命を起こす協調型・分散型AI
今日、人工知能は飛躍的な進歩を遂げており、この分野に革命をもたらす可能性を秘めた新しいモデルや技術が次々と登場しています。こうした革新の中でも、INTELLECT-2は特に注目を集めています。このプロジェクトは、その画期的なアプローチと、言語モデルのトレーニングと展開におけるゲームチェンジャーとなる可能性の両方で、大きな話題を呼んでいます。INTELLECT-2について耳にしたことはあるものの、それが一体何なのか、どのように機能するのか、あるいは他のものと何が違うのかよく分からないという方は、ぜひこの記事をお読みください。
次のいくつかのセクションでは、INTELLECT-2 について知っておくべきすべてのこと、つまり基本的な概念から、その背後にある独自の技術アーキテクチャ、協調的かつ分散的なトレーニング方法、達成された結果、解決された課題、そしてそれがもたらす将来の可能性までを詳しく説明します。世界中の何千もの GPU を組み合わせることで、大企業やクローズド インフラストラクチャに依存せずに、大規模で強力なモデルをトレーニングできる方法をご確認ください。
INTELLECT-2とは何ですか？
INTELLECT-2は、32.000億個のパラメータを持つ言語モデルであり、計算能力を提供したい貢献者であれば誰でも参加できる、完全に分散化された強化学習システムを用いて学習されています。このプロジェクトは、個人、企業、機関を問わず、あらゆる主体が（主にGPUなどの）リソースを次世代人工知能モデルのグローバルな学習に提供できる可能性を提示することで、画期的な進歩を遂げました。
INTELLECT-2は、従来の中央集権型アプローチではなく、ネットワーク構造を採用し、処理を数千ものノードに分散させます。これらのノードは、高性能GPUを搭載した個人から大規模なデータセンターまで多岐にわたり、すべてこのタスク専用に設計されたプロトコルとソフトウェアによって連携されます。その目的は、推論、数学、プログラミングといったタスクにおいて最先端のパフォーマンスを実現し、高度なモデルへのアクセスと、それらを学習させる能力を民主化することです。
起源と動機: どのような問題を解決するのか?
AI の世界で最も大きな問題の一つは、権力と知識が少数の大規模組織に集中していることです。よく知られている GPT、Gemini、Llama などの大規模モデルのほとんどは、テクノロジー大手だけが利用できる大規模なインフラストラクチャとリソースを必要とします。これにより、コミュニティに障壁が生まれ、透明性が損なわれ、オープンな実験が制限されます。
INTELLECT-2 は、トレーニングが集中クラスターや単一のエンティティに依存せず、世界中に分散している参加者の集合的かつ協調的な取り組みに基づいて行われる代替モデルを提案します。
これにより、次のことが可能になります。
- AI研究の真の分散化、 知識とモデルに影響を与える能力が少数の人に限定されなくなります。
- コスト削減、 複数の GPU を搭載した家庭用コンピューターからデータ センターまで、誰もが利用可能なパワーを投入できるからです。
- 検閲、操作、クラッシュに対する耐性が向上 システムは単一障害点に依存しないからです。
- 透明性、協力、オープンアクセスを促進し、 より倫理的ですべての人にとって有益な AI に移行するための鍵です。
技術的構造: INTELLECT-2の内部構造
INTELLECT-2 の背後には、分散トレーニングの調整、結果の検証、参加者への報酬を可能にするコンポーネントの優れたアーキテクチャがあります。以下に主要な要素を説明します。
PRIME-RL: 分散型トレーニングエンジン
このシステムの核となるのは、異種ノードが存在し、ノード間に事前の信頼関係がない環境における強化学習（RL）管理のために特別に設計されたオープンソースフレームワークであるPRIME-RLです。何が特別なのでしょうか？それは、ロールアウト生成プロセス（タスク環境でのモデルテスト）、実際のトレーニング、および新しい重みの配布を分離し、各フェーズを非同期かつ高効率で管理できる点にあります。
実際には、これは次のことを意味します。
- トレーニング データとエクスペリエンスは、世界中のさまざまな場所から並行して生成され、トレーニング セッションから切り離されて送信されます。
- モデルの重みと勾配は、PyTorch FSDP などの最先端技術を使用してチャンク単位で保存および管理され、情報交換は Parquet ファイルと堅牢なプロトコルを通じて実現されます。
- このシステムは、参加者の接続性とインフラの変動に適応することができる。 プロセスの効率や安全性を損なうことなく。
SHARDCAST: 効率的なモデル配布
すべてのノードが常に最新バージョンの学習済みモデルを保持し、最新の推論を実行できるようにするために、SHARDCASTが作成されました。このライブラリは、HTTPを使用して、ツリー構造のサーバーネットワーク全体に大きなファイル（モデルのチェックポイントなど）を分割して分散します。これにより、次のことが可能になります。
- 新しい重みの伝播時間を大幅に短縮わずか数分で参加者全員に届きます。
- ネットワーク パスを飽和させることなく、冗長性、整合性制御 (SHA-256)、およびスケーラビリティを実装します。
- 各ノードの機能に合わせてトラフィックを調整します (レート制限、パフォーマンスに基づいた動的なリレー選択)。
TOPLOC: 推論における検証とセキュリティ
共同システムと分散システムにおける主な懸念事項の 1 つは信頼です。各ノードの貢献が有効であり、不正行為、操作、エラーがないことをどのように保証するのでしょうか。
ここで登場するのがTOPLOCです。TOPLOCは位置情報に基づいたハッシュベースの検証システムで、作業者が行ったすべての推論を検証し、改ざん、エラー、不正行為の試みを検出します。その機能は以下のとおりです。
- 操作中にハードウェアまたはソフトウェアによって結果が変更されていないことを確認します。
- 現在の GPU に典型的な非決定性にも関わらず、堅牢性を維持します。
- これにより、データを再生成するコストよりもはるかに迅速に検証が可能になり、世界規模での監視が可能になります。
プライム・インテリクト・プロトコル：オーケストレーションとコラボレーションの経済
プライム・インテレクト・プロトコルと呼ばれる調整プロトコルは、登録、認証、タスク割り当て、インセンティブ管理、および作業追跡を可能にするコンポーネントです。その主な貢献は以下のとおりです。
- 各ノードのパフォーマンスと貢献を記録する分散型台帳システム (ブロックチェーンにヒントを得たもの)。
- 参加者が空き状況を伝え、結果を送信し、更新を受信し、Docker を使用して分離された環境で操作するための特定のソフトウェア。
- 経済的インセンティブと評判インセンティブのメカニズム。参加者は報酬（テストネット上ではまだ実際のトークンではありません）を受け取ることができ、一定額をコミットする必要があり、不正行為があった場合にはその額が取り消されます。
- 提出された作品ごとに 24 時間の検証期間があり、その期間中に誤りや不正行為が検出された場合は、比例した罰則が適用される場合があります。
INTELLECT-2トレーニング：最新情報と結果
モデルトレーニングは最先端の方法に着想を得ており、独自のソリューションを組み込むことで学習の品質、適応性、効率性を最大限に高めます。最も重要な革新は次のとおりです。
長さ制御による強化学習
現在の言語モデルにおける大きな課題の一つは、複雑なタスクにおいて品質を損なうことなく、推論にかかる時間とコストを最適化することです。この課題に対処するため、「思考予算」システムが実装されました。このシステムでは、プロンプトを通して、モデルが回答を提供する前に使用するトークンの数を調整できます。
この機能のおかげで、処理ハードウェアの能力に応じて、単純な問題には少額の予算を、複雑な課題には多額の予算（より多くの「推論トークン」）を割り当てることができます。これにより、効率と速度が向上するだけでなく、異種ネットワークリソースのより効果的な活用が可能になり、より柔軟な実世界の展開にモデルを適応させることができます。
インテリジェントなデータフィルタリング：量より質
データセットとトレーニング戦略を設計する際に、開発者は重要な点を認識しました。それは、モデルがすでに完璧に解決している問題でモデルをトレーニングしても意味がないということです。したがって、二重フィルタリングが適用されます。
- オフライン フィルタリング: 多くの問題が分析され、いくつかの答えが得られ、モデルにとって真の課題となるものだけが残される（解決率が75%以下 以前のテストでは、
- オンラインフィルタリング: トレーニング中に、タスクのすべての試行が同じ報酬になった場合、その問題は学習を提供しないと見なされ、モデルの更新には使用されません。この方法により、本当に有益なタスクとサンプルが常に優先され、リソースの使用率とシステムの最終的な品質が向上します。
レシピ、ベンチマーク、他のモデルとの比較
ベースモデルとしてQwQ-32Bが用いられ、これにGRPO（一般化強化ポリシー最適化）、数学およびプログラミング分野からの検証可能な報酬、非同期分散トレーニングのために特別に設計された安定化メカニズムなどの高度な技術が適用されている。
数学とコーディングの問題で正解した場合の報酬（0または1）と、目標とする推論の長さに近い場合の報酬という、2つの目的を持つシステムが採用されています。更新を安定させるために、トークンの確率に双方向クリッピングが導入され、得られた利点に基づいて増加と減少の両方が制限されます（デルタやイプシロンなどのパラメータを使用してマージンを調整します）。
公開されたデータによると、INTELLECT-2 は数学とプログラミングのタスクでは QwQ-32B を大幅に上回っていますが、データセットの特定の構成が原因で、IFEval などのベンチマークでは若干の低下が見られます。
参加：誰もが貢献し、利益を得ることができる方法
INTELLECT-2の最も革新的な点の1つは、そのオープン性です。適切なGPUさえあれば誰でもネットワークに参加し、計算能力を提供し、最先端のAIモデルのトレーニングに積極的に貢献できます。プロセスはシンプルに設計されています。専用ダッシュボードの指示に従い、必要なソフトウェアをインストールすれば、タスクを受け取り、結果を検証し、報酬を獲得できます。
これはつまり：
- 大規模モデルの開発への民主的かつグローバルなアクセス、 伝統的に大企業には禁止されています。
- 小規模なグループ、大学、または独立した開発者が、集合的な技術の進歩に貢献し、その恩恵を受ける機会。
- 協力して問題に対処し、バグを修正し、テクノロジーを改善できる自立したコミュニティを作成します。
セキュリティ、検証、経済：完全性と誠実性がどのように保証されるか
不正行為、操作、システムを「操作」する試み（偽のデータの提出、ハードウェアの偽装、結果の水増しなど）を防ぐために、INTELLECT-2 では複数のセキュリティ対策を導入しています。
- 各ノードは一定量のトークンをコミットする必要があり（現時点ではテストネット）、不正行為が検出された場合はそのトークンが取り消されます。
- TOPLOC 検証やログレビューなど、他のノードとプロトコルによる継続的な検証。
- 24 時間以内に作業をレビューし、必要に応じてペナルティを適用します。
このシステムの背後にある経済学は、暗号通貨とブロックチェーンの哲学にヒントを得ていますが、協力的な AI トレーニングの現実に適応しています。つまり、うまくいった仕事にはインセンティブが与えられ、妨害行為や操作の試みには抑止力があります。
INTELLECT-2の現在の用途と応用
現在、INTELLECT-2は主に数学的推論、プログラミングによる問題解決、および高度な論理ベンチマークに重点を置いています。これは偶然ではありません。これらの分野は計算負荷が高く、構造化された長期的な「思考」が可能なモデルを必要とするからです。人工知能の基礎とその基盤について詳しく知りたい場合は、「人工ニューラルネットワーク」のページをご覧ください。
しかし、INTELLECT-2のインフラストラクチャとアプローチは、科学研究や複雑なコンテンツ生成から、不確実な環境下での意思決定まで、他の多くの分野にも完全に適用可能です。特にコミュニティが成長し、応用分野を拡大し続ければ、その将来的な可能性は事実上無限大と言えるでしょう。
協働型AIの未来：次のステップと課題
INTELLECT-2 の開発者は、現在の展開は始まりに過ぎないことを発表しました。計画されている次のステップは次のとおりです。
- コードインタープリタや科学アプリケーションなどの外部ツールの使用方法を学習できる AI エージェントのエンドツーエンドのトレーニング。
- タスクライブラリと検証環境の拡張と改善により、解決すべき問題の選択と品質管理におけるコミュニティの貢献を促進します。
- インフラストラクチャの継続的な最適化により、レイテンシ、推論およびトレーニングのコスト、および新しい参加者のオンボーディングの難しさをさらに最小限に抑えます。
課題としては、パフォーマンスを犠牲にすることなく拡張性を確保すること、潜在的な攻撃に対するセキュリティを強化すること、そしてますます多様化するコミュニティの積極的な参加を維持することなどが挙げられます。インフラストラクチャの拡張性の管理方法について詳しく知りたい場合は、専門資料をご参照ください。
INTELLECT-2 は、高度な人工知能をオープンでグローバルなコラボレーションの領域に導入する、最も野心的で将来性のある取り組みの XNUMX つです。分散化、透明性、コミュニティ報酬への取り組みにより、これは次世代の AI のモデルとなり、最先端のテクノロジーと民主的で協調的な精神が融合されていることを示しています。 AI に興味があり、コンピューティング リソースをお持ちの場合は、ためらわずに参加の可能性を検討してください。人工知能の未来は文字通りあなたの手の中にあるかもしれません。