“AI 쓸수록 회사 노하우 유출?”… 사티아 나델라 MS CEO, ‘데이터 주권’ 경고
-
프롬프트·피드백 등 사용자 데이터, 기업의 핵심 자산으로 떠올라
-
"AI 서비스 이용 과정에서 고유한 운영 노하우가 학습에 반영될 가능성"
-
데이터 보안 우려에 오픈소스 및 온프레미스(자체 서버) 전환 수요 확산
생성형 인공지능(AI)이 기업들의 필수 업무 도구로 자리를 잡아가고 있는 가운데, 서비스 이용 과정에서 각 기업의 독자적인 기술과 운영 노하우가 AI 개발사에 유출될 수 있다는 기술업계의 우려가 다시금 도마 위에 올랐다.
최근 마이크로소프트(MS)의 사티아 나델라(Satya Nadella) 최고경영자(CEO)는 공식 블로그를 통해 기업들이 AI 도입 비용을 지불할 뿐만 아니라, 자사의 고유한 지식 자산까지 함께 제공하고 있을 수 있다고 지적하며 '데이터 주권(Data Ownership)' 확보의 중요성을 강하게 피력했다.
"AI 사용료 지불하며 기업 고유 노하우까지 넘겨주는 꼴"
나델라 CEO의 설명에 따르면, AI의 성능을 극대화하기 위해 기업들은 질문(프롬프트) 입력부터 내부 업무 절차, 결과물 수정 및 피드백 등 다양하고 구체적인 정보를 AI 시스템에 주입하게 된다. 문제는 이 과정에 기업의 고유한 업무 전략과 노하우가 고스란히 담긴다는 점이다.
그는 AI 모델이 사용자와 주고받는 대화 데이터 및 수정 이력을 바탕으로 성능을 개선한다는 특징을 짚으며, 상호작용 과정에서 발생하는 이러한 정보가 곧 기업 경쟁력의 핵심 자산이라고 강조했다. AI 업계에서는 사용자의 입력값과 피드백 데이터를 '사용 데이터(exhaust data)'로 정의하고, 이것이 차세대 모델의 성능 고도화에 활용될 수 있다는 점을 두고 지속적인 논의를 이어가고 있다.
실리콘밸리의 투자가들과 기술기업 경영진들 사이에서도 이 같은 경고음이 커지고 있다. OpenAI, Anthropic 등 대형 AI 공급업체들이 고객사의 내부 데이터를 지속적으로 접하게 되면, 장기적으로는 고객이 속한 산업군 전체를 누구보다 깊이 이해하게 되는 역전 현상이 나타날 수 있다는 분석이다. 이는 향후 AI 서비스 제공업체가 주요 고객사의 잠재적 경쟁자로浮上할 수 있음을 의미한다.
다만, 현재 주요 AI 기업들은 기업용 서비스(Enterprise)에 한해 고객 데이터 학습 활용을 제한하거나 계약 옵션에 따라 보안 수준을 다르게 설정할 수 있는 방침을 적용하고 있다.
통제권 강화 움직임… 오픈소스 및 자체 인프라 구축 늘어
나델라 CEO는 이러한 위험에 대응하기 위해 기업이 AI 활용 과정에서 생성되는 정보의 소유권과 통제권을 직접 행사해야 한다고 당부했다. 특정 AI 플랫폼에 종속되지 않고 다양한 모델을 자유롭게 연동하는 '오케스트레이션(Orchestration)' 환경을 구축하는 한편, 독자적인 AI 운영 역량을 갖추는 멀티 AI 전략(Multi-Model Strategy)이 시급하다는 지적이다.
이에 따라 최근 기업들의 AI 도입 방식에도 변화의 바람이 불고 있다. 외부 클라우드 대신 자체 데이터센터에 시스템을 구축하는 온프레미스(On-Premises) 방식이나 오픈소스 AI 모델을 채택하는 사례가 눈에 띄게 늘었다. 데이터 유출 방지는 물론 보안, 개인정보 보호, 비용 효율성 측면에서 우위를 확보하기 위한 차원이다.
엔터프라이즈 AI 인프라 업계 관계자들은 초기에는 상용 AI 서비스를 도입했던 기업들이 점차 보안과 통제권 확보를 위해 오픈소스 모델 기반의 자체 구축 환경으로 이동하는 추세라고 전했다. 이와 함께 여러 AI 모델을 효율적으로 제어하고 교체할 수 있도록 돕는 'AI 게이트웨이(AI Gateway)' 솔루션 시장 역시 가파른 성장세를 보이고 있다.
기업 AI 시장의 새로운 화두: 단순 성능에서 ‘데이터 거버넌스’로
생성형 AI 시장의 경쟁 축이 단순한 '모델 성능 비교'를 넘어 '데이터 주권(Data Sovereignty)'과 보안 체계 확보로 이동함에 따라, 향후 기업들의 AI 도입 기준도 대대적인 전환을 맞이할 전망이다.
전문가들은 기업들이 앞으로 AI 도입을 결정할 때 단순히 알고리즘의 우수성만을 보지 않을 것이라며, ▲고객 데이터 활용 및 학습 정책 ▲자체 보안 시스템와의 연동성 ▲플랫폼 간 전환의 유연성 ▲온프레미스 지원 여부 등을 다각도로 검토하게 될 것이라고 내다봤다.
댓글
0