AI 分野のビッグネームが Apple に加わり、有望なプロジェクトに参加

後OpenAIへの投資AI への野望を新たな高みに推し進めるために、Apple は新たなパートナーシップを発表しました。会社グラフィックプロセッサ大手と提携(そして現在は AI): NVIDIA、ジェンスン・ファン率いる企業、文字通り学年度の初めに株式市場で急騰した。人工知能の専門知識によって正確に説明できる金融市場の結果。

高性能 GPU を備えた Huang の会社は、データセンター、研究所、AI アプリケーションを開発する企業にとっての究極のプロバイダーになりました。 NVIDIA とのこの新しいパートナーシップは、Appleに良い後押しを与えるかもしれないと責める彼女。このセクターでは一定の遅れが発生している競争に直面して。

前例のないハードウェアとソフトウェアの相乗効果

Apple と NVIDIA の間の技術協力は、TensorRT-LLM 環境での ReDrafter (Apple が開発した大規模言語モデルを使用してテキストを生成する新しい方法) の統合に基づいています。 NVIDIA によって最適化された Python ライブラリであり、大規模言語モデル (LLM) を実行できるようになります。GPU 上で非常に高速。

この統合を可能にするために、NVIDIA は TensorRT-LLM フレームワークで新しい特殊なオペレーターを開発しました。これらのソフトウェアコンポーネントは最適な通信を保証しますApple のアルゴリズムと NVIDIA グラフィックスプロセッサの間。この適応は、特に 2 つのフェーズで、ReDrafter によって生成されたデータ構造の効率的な管理に焦点を当てました。

1つ目はビームサーチ、AI で使用されるヒューリスティックな手法。広い探索空間を効率的に探索する、最も有望なパスに焦点を当てます。 2つ目は動的なツリーベースの注意。これは、AI モデルが情報の最も関連性の高い部分に注意を集中させ、この注意をコンテキストと後者の進化に応じて適応させ、優先順位を付けることを可能にするメカニズムです。

エンジニアは、異なる GPU コア間で計算を効率的に分散できる同期メカニズムを実装しました。このマルチレベルの最適化では、モジュール式アーキテクチャを維持しながら、NVIDIA プロセッサのテンソルコンピューティングユニットを最大限に活用します。将来の発展に合わせて進化できる。

すでに目に見えるパフォーマンス

NVIDIA エコシステムへのこの統合は、すでに実を結んでいます。実験室では、数百億のパラメータを備えた大規模なニューロン構造に対してテストが実行されました。、パフォーマンスが大幅に向上していることがわかります。。貪欲なアルゴリズムは、言語モデルによるテキスト生成の古典的な方法を表しており、アルゴリズムが各ステップで最も高い確率でトークン (テキスト単位) を選択します。

ReDrafter によってもたらされた改善により、このプロセスを大幅にスピードアップすることが可能になりました。従来のシステムでは 1 秒あたり一定数のトークンが生成されていましたが、ReDrafter の統合により、2.7倍多くの生産が可能になります同じ時間間隔で。

生の数字を超えて、この技術の進歩はエンドユーザーのエクスペリエンスを変革します。アプリケーションの応答時間が大幅に短縮され、ハードウェアとエネルギーのフットプリントが削減されます。 Appleの研究者たちは実際的な問題を認識しており、この二重の改善を強調します: «言語モデルは運用環境でますます多くのアプリケーションを強化しており、推論効率の向上により、ユーザーの待ち時間を短縮しながら計算コストに影響を与えることができます。»。

間違いなく、このパートナーシップはアップルに翼を与えるだろうAI市場における地位を強化します。私たちにできることは、そう願うことだけですアップルインテリジェンス いつかこの相乗効果の恩恵を受ける日が来るだろうか。