클라우드 좀 한다 하는 기업은 인공 지능 전용 칩 정도는 다 가지고 있어야 되는 시대인가 봅니다. 구글, 알리바바 등 AI 전용 하드웨어 만들기 경쟁에 이제 마이크로소프트의 이름까지 올라갑니다. 마이크로소프트는 인텔과 손잡고 프로젝트 브레인웨이브(Brainwave)를 추진합니다. 인텔의 FPGA(Field Programmable Gate Array) 기술과 마이크로소프트의 애저 머신 러닝 서비스가 접목되는 것인데요, 두 회사는 브레인웨이브가 실시간 인공 지능 시대를 열 것이라고 장담합니다.
성능이 어느 정도냐 하면 업계 표준 딥러닝 신경망 중 하나인 ResNet 50 모델을 돌릴 때 필요한 처리량(throughput)을 지원할 정도라 합니다. ResNet 50은 업계에서 딥러닝 연산 능력을 벤치마크할 때 흔히 적용되는 데요, GPU를 쓰면 되지 않나?라고 생각할 수 있을 것입니다. 인텔 FPGA는 전력 소모와 경제성을 모두 확보한다고 하는 것으로 보아 GPU와 비교할 때 가성비가 좋을 것으로 예상됩니다.
브레인웨이브를 텐서플로우를 당연히 지원하고요, 애저 코그니티브 툴킷(Cognitive Toolkit) 등 널리 쓰이는 딥러닝 프레임워크를 지원한다고 합니다.
엣지 단에서 실시간 인공 지능을 구현하기 위한 개념 검증은 이미 시작되었네요. 마이크로소프트는 제조 솔루션 전문 기업인 Jabil과 함께 스마트 공장에 장착된 다양한 엣지 장치를 대상으로 실시간 딥러닝 추론 작업을 하는 것을 평가하고 있습니다. 이를 통해 첨단 공장의 설비 운영과 유지보수를 다운타임 없이 하는 것을 목표로 한다고 하네요.
프로젝트 브레인웨이브를 이끄는 멤버들이 마이크로소프트 검색 엔진 팀과 협력해 FPGA 상에서 딥러닝 신경망 기반의 검색 기술을 구현하는 프로젝트인 캐터펄트(Catapult) 프로젝트를 추진해, 밀리초 단위의 검색 결과를 제시할 수 있는 속도를 유지하면서 더 나은 답을 사용자에게 제공하는 성과를 거두었다고 합니다.
정리하자면 프로젝트 브레인웨이브는 기술 로드맵이 아니라 이미 현장에서 다양하게 검증이 이루어지고 있는 현재 진행형 기술이라고 봐야 할 듯합니다. 그리고 이 기술은 애저 머신 러닝의 강력한 무기가 될 것으로 보입니다. 덧붙여 마이크로소프트가 FPGA를 선택한 이유는 인공 지능 관련해 더 다양한 수요, 즉 더 다양하고 복잡한 모델을 하드웨어 맞춤형으로 수용하려는 것이 아닐까 추측해 봅니다.
프로젝트 브레인웨이브에 대한 더 자세한 내용은 깃허브 페이지에서 확인할 수 있습니다.