NeuRRAM 칩은 동일한 정확도를 유지하면서 다른 플랫폼에서 소비하는 전력의 적은 비율만 사용하여 광범위한 AI 애플리케이션을 시연하는 최초의 인메모리 컴퓨팅 칩입니다.
메모리에서 직접 계산을 수행하고 광범위한 AI 애플리케이션을 실행할 수 있는 새로운 칩인 NeuRRAM은 국제 연구팀에 의해 설계 및 구축되었습니다. 차별화된 점은 범용 AI 컴퓨팅 플랫폼이 소비하는 전력의 일부로 이 모든 작업을 수행한다는 것입니다.
뉴로모픽 NeuRRAM 칩은 AI를 클라우드에서 분리된 다양한 주변 장치에서 실행하는 데 더 가깝게 만듭니다. 즉, 중앙 집중식 서버에 대한 네트워크 연결에 의존하지 않고 언제 어디서나 복잡한 인지 작업을 수행할 수 있습니다. 이 장치에 대한 응용 프로그램은 전 세계 곳곳과 우리 삶의 모든 측면에서 풍부합니다. 스마트워치부터 가상 현실 헤드셋, 스마트 헤드폰, 공장의 스마트 센서, 행성 탐사용 탐사선에 이르기까지 다양합니다.
NeuRRAM 칩은 인메모리 컴퓨팅을 수행하는 혁신적인 하이브리드 칩 클래스인 오늘날의 인메모리 컴퓨팅 칩보다 전력 소비 측면에서 두 배 이상 효율적일 뿐만 아니라 기존 디지털 칩만큼 정확한 결과를 제공합니다. 기존 AI 플랫폼은 훨씬 더 크고 일반적으로 클라우드에서 실행되는 대용량 데이터 서버를 사용하는 것으로 제한됩니다.
또한 NeuRRAM 칩은 매우 다양하며 다양한 신경망 모델과 아키텍처를 지원합니다. 결과적으로 이 칩은 이미지 인식 및 재구성, 음성 인식을 비롯한 다양한 애플리케이션에 사용할 수 있습니다.
메모리 컴퓨팅 효율성이 높아지면 다용도성을 희생한다고 생각하는 것이 일반적이지만 NeuRRAM 칩은 다용성을 희생하지 않으면서 효율성을 제공합니다.”라고 논문의 제1저자인 Weyer Wang이 말했습니다.
현재 AI 컴퓨팅은 에너지 집약적이며 계산 비용이 많이 듭니다. 에지 장치의 대부분의 AI 애플리케이션에는 데이터를 장치에서 클라우드로 이동하는 작업이 포함되며, 여기서 AI는 데이터를 처리하고 분석합니다. 그런 다음 결과가 장치로 다시 전송됩니다. 이는 대부분의 주변 장치가 배터리로 구동되며 결과적으로 컴퓨팅에 사용할 수 있는 전력이 제한적이기 때문에 필요합니다.
에지에서 AI 추론에 필요한 전력 소비를 줄임으로써 NeuRRAM 칩은 더 안정적이고 스마트하며 저렴한 에지 장치와 더 스마트한 제조로 이어질 수 있습니다.
또한 장치에서 클라우드로 데이터를 전송하면 보안 위험이 증가하므로 데이터 개인 정보 보호가 향상될 수 있습니다.
AI 칩에서 메모리에서 컴퓨팅 장치로 데이터를 이동하는 것은 주요 병목 현상 중 하나입니다. 이는 하루 2시간 근무 시 8시간 통근에 해당합니다.”라고 Weier Wang은 말했습니다.
데이터 전송과 관련된 이 문제를 해결하기 위해 연구원들은 소위 저항성 랜덤 액세스 메모리를 사용했습니다. 이러한 유형의 비휘발성 메모리를 사용하면 별도의 컴퓨팅 장치가 아닌 메모리에서 직접 계산을 수행할 수 있습니다.
칩 성능:
연구원들은 EDP(에너지 지연 제품)로 알려진 측정 단위로 칩의 에너지 효율을 측정했습니다.
EDP는 각 작업에 소비되는 에너지 양과 작업을 완료하는 데 걸리는 시간을 모두 결합합니다. 이 지표에 따르면 NeuRRAM 칩은 EDP가 1.6~2.3배 감소하고(적을수록 좋음) 최신 칩보다 7~13배 높은 계산 밀도를 제공합니다.
엔지니어들은 칩에서 다양한 AI 작업을 수행했습니다. 필기 숫자 인식 작업에서 99%의 정확도를 달성했습니다. 이미지 분류 작업에 85.7%; Google 음성 명령 인식 작업에서 84.7%.
또한 이 칩은 이미지 복원 작업에서 이미지 재구성 오류를 70% 줄였습니다. 이러한 결과는 동일한 정확도로 계산을 수행하지만 훨씬 더 높은 전력 소비로 계산을 수행하는 기존 디지털 칩과 비교할 수 있습니다.
연구원들은 작업의 주요 결과 중 하나가 제시된 모든 결과가 장비에서 직접 얻어졌다는 점에 주목합니다. 메모리 컴퓨팅 칩에 대한 이전 작업의 대부분에서 AI 테스트 결과는 종종 소프트웨어 시뮬레이션에서 부분적으로 파생되었습니다.
다음 단계에는 아키텍처와 회로를 개선하고 프로젝트를 고급 기술을 갖춘 노드로 확장하는 작업이 포함됩니다. 엔지니어들은 또한 임펄스 신경망과 같은 다른 응용 프로그램도 조사할 계획입니다.
네이처 저널에 오픈 액세스 출판.
2022-08-22 16:40:46
작가: Vitalii Babkin