Appleの機械学習フレームワークがNVIDIA GPUをサポートc

Apple Silicon向けに設計されたAppleのMLX機械学習フレームワークが、CUDAバックエンドを採用することになりました。これは非常に大きな意味を持ちます。その理由をご紹介します。

この作業はGitHubの開発者@zcbenz（ AppleInsider経由）が主導しており、彼は数か月前にCUDAサポートのプロトタイプ作成を開始しました。それ以来、彼はプロジェクトを小さな部分に分割し、徐々にAppleのMLXのメインブランチに統合してきました。

バックエンドはまだ開発中ですが、行列乗算、ソフトマックス、削減、ソート、インデックス作成などのいくつかのコア操作はすでにサポートされ、テストされています。

ちょっと待ってください、CUDA とは何ですか?

基本的に、CUDA (Compute Unified Device Architecture) は NVIDIA ハードウェアの真髄であり、同社が自社の GPU 上で実行し、高性能な並列コンピューティングタスクに最大限活用するために特別に作成したコンピューティングプラットフォームです。

多くの人にとって、CUDAはNVIDIA GPU上で機械学習ワークロードを実行する標準的な方法であり、学術研究から商用展開まで、機械学習エコシステム全体で使用されています。PyTorchやTensorFlowといったフレームワークは、機械学習の専門分野以外でもますますよく知られるようになり、GPUアクセラレーションを利用するためにCUDAを利用しています。

では、なぜ Apple の MLX は現在 CUDA をサポートしているのでしょうか?

MLXはもともとApple SiliconとMetal向けに最適化されていましたが、CUDAバックエンドの追加によって状況は一変しました。研究者やエンジニアは、MLXを使ってMac上でローカルにCUDAベースのモデルのプロトタイプを作成し、それを機械学習トレーニングのワークロードの主流である大規模NVIDIA GPUクラスターにデプロイできるようになりました。

とはいえ、まだ制限事項は残っており、そのほとんどは現在開発中です。例えば、MLX演算子はまだすべて実装されているわけではなく、AMD GPUのサポートもまだ先の話です。

それでも、MLX と NVIDIA GPU を近づけることで、テスト、実験、研究ユースケースの高速化が可能になります。これは AI 開発者が期待していることのほぼすべてです。

自分で試してみたい場合は、詳細は GitHub で確認できます。