생성형 AI가 파일럿을 지나 실제 업무에 투입되는 사례가 늘면서, 업계의 관심도는 ‘얼마나 똑똑한 모델인가’에서 ‘현장에서 얼마나 안정적으로 돌아가는가’로 옮겨가고 있다. 이제 기업들이 마주한 과제는 더 뛰어난 AI를 만드는 것보다, 복잡한 운영 환경에서도 예측 가능하게 작동하고 안전하게 통제되는 AI 시스템을 구현하는 데 있다는 평가가 나온다.
이클릭테크(eclicktech)는 최근 에이전틱 AI(Agentic AI) 구축 과정에서 축적한 엔지니어링 방식들을 공유하며, 기업 규모의 도입을 위해 컨텍스트 엔지니어링, 멀티클라우드 기반 인프라, 계층형 보안·거버넌스 체계를 어떻게 결합하는지 소개했다.
회사 측은 전 세계 230개 이상 국가·지역을 대상으로 운영을 지원하기 위해, AWS와 구글 클라우드, 알리바바 클라우드, 텐센트 클라우드, 화웨이 클라우드 등 다양한 사업자를 묶는 멀티클라우드 아키텍처 위에 자사 Cycor 플랫폼을 구성했다고 설명했다. 이를 통해 특정 클라우드 벤더에 대한 의존도를 낮추는 한편, 대규모 쿠버네티스(Kubernetes) 클러스터와 AI 워크로드를 보다 유연하게 오케스트레이션할 수 있도록 했다는 주장이다.
에이전트 개발 초기 단계에서 얻은 중요한 결론으로는, 프롬프트 엔지니어링만으로는 기업 환경에서 요구되는 수준의 일관성과 재현성을 확보하기 어렵다는 점이 제시됐다. 이에 이클릭테크는 제한된 토큰 자원을 효율적으로 쓰면서도 필요한 순간에 정확한 정보를 제공하는 ‘컨텍스트 엔지니어링’으로 무게중심을 옮겼다고 밝혔다.
구체적으로 회사의 프레임워크는 활성 세션, 단기 메모리, 장기 시맨틱 저장소, 지식 그래프, 운영 경험, 재사용 가능한 조직 역량 등 6개 층위로 컨텍스트를 관리하도록 설계됐다. 또한 ‘사전 컨텍스트 주입’ 기능을 통해 민감한 작업이 실행되기 전에 관련 이력과 리스크 정보를 자동으로 제시함으로써, 의사결정과 실행 과정에서의 위험을 낮추는 데 초점을 맞췄다고 덧붙였다.
추론 비용과 효율 개선을 위해서는 ‘계층형 토큰 거버넌스’와 ‘점진적 도구 로딩’ 메커니즘을 도입했다. 필요할 때만 도구와 정보를 동적으로 불러오도록 구성해, 복잡한 운영 워크플로에서 도구 선택의 정확도를 높이고 불필요한 토큰 소모를 줄였다는 설명이다.
보안과 통제는 전체 아키텍처의 전제 조건으로 유지된다고 강조했다. 이클릭테크의 거버넌스 체계에는 네임스페이스 격리(namespace isolation), 모의 실행 기반 검증, 사람 승인 절차, 규칙 기반 검증, 롤백(rollback) 메커니즘 등이 포함돼 AI 자동화가 초래할 수 있는 운영 리스크를 관리하도록 설계됐다고 밝혔다.
회사 측은 향후 기업 AI 경쟁력의 핵심이 모델 성능만이 아니라, 엔지니어링 신뢰성, 인프라 오케스트레이션 능력, 컨텍스트 관리 체계, 조직 지식 시스템의 성숙도에 의해 좌우될 것이라고 전망했다.
한편, 이번에 공개된 기술적 내용은 내부 엔지니어링 관행을 바탕으로 정리된 것으로, 업계 참고를 위한 정보 제공 목적이라는 점도 함께 안내됐다.
출처: eclicktech
댓글
0