생성형 AI 활용이 클라우드 중심에서 기업 내부 환경으로 옮겨가면서, 데이터 보호와 현장 처리 성능을 동시에 확보하려는 수요가 빠르게 커지고 있다. 이런 흐름에 맞춰 대만-일본 산업 협력 촉진 조직(TJIC, 정보산업연구소 산하)의 지원 아래 Neuchips, Netiotek, ShareGuru 3사가 손잡고 통합형 온프레미스 AI 솔루션을 내놨다.
이번 패키지는 고성능 AI 추론 가속 카드, 산업용 엣지 서버, 그리고 지식 기반 문서 Q&A 시스템을 한데 묶어 기업이 사내 인프라에서 생성형 AI를 보다 쉽게 운영하도록 설계됐다.
3사 협업으로 ‘로컬 AI’ 기반 구축
공동 솔루션은 각 기업의 핵심 역량을 결합해 구성됐다. 전시 기간에는 ShareGuru와 Netiotek가 중심이 되어 통합 데모와 적용 시나리오를 상세히 소개할 예정이다.
Netiotek는 산업 현장에 맞춘 엣지 컴퓨팅 플랫폼 ‘NERMPC-265K’를 제공한다. 장시간 운용을 전제로 한 높은 안정성과 열 설계가 강점으로, 사내형 AI 시스템의 하드웨어 토대로 활용된다.
ShareGuru는 기업용 의미 기반 문서 검색 및 질의응답 시스템을 맡는다. 자체 ShareQA 기술을 통해 사내 문서와 자료를 실시간 고정밀 지식베이스로 전환해, 업무 환경에서 바로 질문하고 답을 얻는 형태로 사용할 수 있도록 한다.
Neuchips는 트랜스포머(Transformer) 구조에 최적화된 AI 추론 가속 카드를 제공한다. 낮은 전력 소모와 간편한 구축을 내세워, 기업이 대규모 언어모델(LLM)을 도입·운영할 때 부담되는 비용을 줄이는 데 초점을 맞췄다.
차세대 하드웨어 로드맵도 예고
Neuchips 측은 연산 병목을 해소하는 데 역량을 집중하고 있으며, 생성형 AI에 최적화된 차세대 하드웨어도 준비 중이라고 밝혔다. 더 큰 모델 구성을 지원하는 아키텍처를 바탕으로 온프레미스 추론의 처리 속도와 정확도를 한 단계 끌어올리는 것이 목표다. 또한 현장에서 1세대 솔루션을 직접 체험한 업계 의견을 수렴해 차기 제품 고도화에 반영하겠다는 계획도 덧붙였다.
전시 안내
3사는 일본 IT 위크에서 고성능 온프레미스 AI 기술과 적용 사례를 소개하며, 현장에서 전문가들과의 상담도 진행한다.
- 행사: Japan IT Week (Embedded, Edge & IoT Computing Expo)
- 일정: 4월 8일 ~ 4월 10일
- 장소: 일본 도쿄 빅사이트 West Hall 3, 4F, W20-22 (TAIWAN TECH PAVILION)
참여 기업 소개
Netiotek는 OT–IT 연계, AIoT, 로컬 LLM 환경에 적합한 견고한 엣지 컴퓨팅 분야를 주력으로 한다. ShareGuru는 AI 기반 지식관리와 시맨틱 검색 기술에 강점을 가진 기업이며, Neuchips는 생성형 AI 시대에 맞춘 고효율 AI ASIC 솔루션을 공급하는 업체로 소개됐다.
출처: Neuchips
댓글
0