【Endpoint AI】 누보톤 머신 러닝 모델 배포 툴 - NuML Toolkit

인공지능(AI) 기술이 계속해서 발전함에 따라 개발자들은 임베디드 시스템에 머신러닝 모델을 빠르게 배포하는 것을 목표로 합니다. 하지만 기존 AI 개발 환경과 리소스가 제한된 마이크로컨트롤러(MCU) 유닛 플랫폼 간의 상당한 차이로 인해 모델 배포는 복잡하고 시간이 많이 소요됩니다. 개발 장벽을 낮추기 위해 누보톤은 NuMicro® M55M1 시리즈 마이크로컨트롤러를 위해 특별히 설계된 Microsoft Windows® 툴인 NuML Toolkit을 출시했습니다. 이 툴킷을 사용하면 사전 학습된 AI 모델을 Arm® Keil®과 호환되는 실행 코드로 빠르게 변환하여 배포 프로세스를 간소화할 수 있습니다.

NuML Toolkit은 Arm® Cortex®-M55 코어를 탑재하고 Ethos™-U55 신경 처리 장치(NPU)를 통합하여 AI 추론 성능을 크게 향상시키는 NuMicro® M55M1 마이크로컨트롤러에 최적화되어 있습니다. 또한 M55M1에는 1.5MB의 SRAM과 2MB의 플래시 메모리가 장착되어 있어 AI 애플리케이션을 위한 충분한 연산 및 저장 리소스를 제공합니다.

NuML Toolkit은 Keil µVision®5 / Arm Compiler 6(armc6), Make/GCC를 통합하며, 완전히 INT8로 정량화된 AI 모델을 Keil 예제 코드로 변환할 수 있습니다. 개발자는 더 이상 PC로 학습된 모델을 MCU 실행 가능한 형식으로 변환하는 것에 대해 걱정할 필요가 없으며, AI 모델을 MCU 개발 프로젝트에 직접 통합하고 카메라, 오디오 처리 및 디스플레이 출력과 같은 주변 장치 제어 코드 작성에 집중할 수 있습니다.

예를 들어 개발자가 특정 물체를 인식하기 위해 물체 감지 모델을 훈련하거나 음성 제어를 위한 키워드 스팟팅(KWS) 모델을 설계하거나 이상 동작을 모니터링하기 위해 이상 감지 모델을 생성한 경우, NuML Toolkit을 사용하면 이러한 AI 모델을 M55M1 플랫폼에 원활하게 배포하여 MCU에서 실시간으로 실행할 수 있습니다. 이러한 변환 프로세스를 통해 개발자는 애플리케이션 개발에 집중할 수 있으므로 프로젝트 개발 효율성이 향상됩니다.

특히 AI 애플리케이션을 임베디드 시스템에 빠르게 통합하고자 하는 개발자는 NuML Toolkit을 통해 보다 직관적으로 AI를 배포할 수 있습니다. 이 툴을 사용하면 AI 모델 변환을 손쉽게 완료하고 MCU 기능 구현 및 하드웨어 통합에 집중할 수 있습니다.

이 툴에 관심이 있으시면 누보톤 AI 웹페이지 www.nuvoton.com/ai “문의하기” 양식을 통해 누보톤 팀에 문의하여 자세한 정보를 얻으시기 바랍니다.