NeuRRAM チップは、同等の精度を維持しながら、他のプラットフォームが消費する電力のほんの一部を使用して、幅広い AI アプリケーションを実証する最初のインメモリ コンピューティング チップです。
メモリ内で直接計算を実行し、幅広い AI アプリケーションを実行できる新しいチップである NeuRRAM は、国際的な研究者チームによって設計および構築されました。それを際立たせているのは、汎用 AI コンピューティング プラットフォームが消費する電力のほんの一部でこれらすべてを実行できることです。
ニューロモーフィックな NeuRRAM チップにより、クラウドから切り離されたさまざまな周辺機器で AI を実行できるようになります。これは、中央サーバーへのネットワーク接続に依存することなく、いつでもどこでも複雑な認知タスクを実行できることを意味します。このデバイスのアプリケーションは、世界中のあらゆる場所で、私たちの生活のあらゆる面であふれています。それらは、スマートウォッチからバーチャル リアリティ ヘッドセット、スマート ヘッドフォン、工場のスマート センサー、惑星探査用のローバーまで多岐にわたります。
NeuRRAM チップは、インメモリ コンピューティングを実行する革新的なクラスのハイブリッド チップである今日のインメモリ コンピューティング チップの消費電力効率が 2 倍以上であるだけでなく、従来のデジタル チップと同じくらい正確な結果を提供します。従来の AI プラットフォームははるかに大規模であり、一般に、クラウドで実行される大規模なデータ サーバーの使用に限定されています。
さらに、NeuRRAM チップは非常に用途が広く、さまざまなニューラル ネットワーク モデルとアーキテクチャをサポートしています。その結果、このチップは、画像認識と再構成、音声認識など、さまざまなアプリケーションに使用できます。
メモリ コンピューティングの効率を高めるには汎用性が犠牲になると考えるのが一般的ですが、当社の NeuRRAM チップは汎用性を犠牲にすることなく効率を実現します」と、論文の筆頭著者である Weyer Wang は述べています。
現在、AI コンピューティングはエネルギーを大量に消費し、計算コストが高くなります。エッジ デバイス上のほとんどの AI アプリケーションでは、データをデバイスからクラウドに移動し、そこで AI がデータを処理および分析します。その後、結果がデバイスに転送されます。これが必要なのは、ほとんどの周辺機器がバッテリ駆動であり、その結果、コンピューティングに使用できる電力が限られているためです。
エッジでの AI 推論に必要な電力消費を削減することで、NeuRRAM チップは、より信頼性が高く、よりスマートで、手頃な価格のエッジ デバイスとよりスマートな製造を実現できます。
また、デバイスからクラウドにデータを転送するとセキュリティ リスクが高まるため、データのプライバシーが高まる可能性もあります。
AI チップでは、メモリからコンピューティング デバイスへのデータの移動が主要なボトルネックの 1 つです。これは、1 日 2 時間の労働時間に対して 8 時間の通勤に相当します」と Weier Wang 氏は述べています。
データ転送に関するこの問題を解決するために、研究者はいわゆる抵抗性ランダム アクセス メモリを使用しました。このタイプの不揮発性メモリを使用すると、個別の計算ユニットではなく、メモリ内で直接計算を実行できます。
チップ性能:
研究者は、EDP (エネルギー遅延積) として知られる測定基準でチップのエネルギー効率を測定しました。
EDP は、各操作で消費されるエネルギー量と、操作を完了するのにかかる時間の両方を組み合わせたものです。この指標によると、NeuRRAM チップは、EDP を 1.6 ~ 2.3 分の 1 に削減し (少ないほど良い)、最新のチップよりも 7 ~ 13 倍高い計算密度を提供します。
エンジニアは、チップ上でさまざまな AI タスクを実行しました。手書きの数字認識タスクで 99% の精度を達成しました。画像分類のタスクで 85.7%。 84.7% は Google の音声コマンドを認識するタスクでした。
さらに、このチップは、画像復元タスクで画像再構成エラーを 70% 削減することも達成しました。これらの結果は、同じ精度で計算を実行する既存のデジタル チップに匹敵しますが、消費電力が大幅に高くなります。
研究者は、研究の重要な結果の 1 つは、提示されたすべての結果が機器で直接得られたことであると述べています。メモリ コンピューティング チップに関するこれまでの研究の多くでは、AI のテスト結果の一部がソフトウェア シミュレーションから導き出されていました。
次のステップには、アーキテクチャと回路の改善、およびより高度なテクノロジを使用したノードへのプロジェクトのスケーリングが含まれます。エンジニアは、インパルス ニューラル ネットワークなどの他のアプリケーションも検討する予定です。
ジャーナル Nature でオープンアクセスを公開しました。
2022-08-22 16:40:46
著者: Vitalii Babkin