본 포스팅은 Jeetu Patel이 작성한 Deploying AI You Control Doesn’t Need to be So Hard 포스팅을 번역한 글입니다.
시스코는 팔란티어와 협력하여, Secure AI Factory with NVIDIA를 통해 팔란티어의 ‘사이버 보안 온톨로지’를 팔란티어의 ‘소버린 AI OS(Sovereign AI OS)’를 위한 권장 풀스택 기반으로 제공한다고 발표했습니다. 이를 통해 정부 기관 및 규제 산업 분야의 대기업을 포함한 고객들은 AI 구축 과정에서 자사의 독점 데이터와 핵심 인프라에 대한 운영 통제권을 훨씬 더 쉽게 확보할 수 있게 될 것이며, 선도적인 기술 조직을 위한 기초 인프라와 IT 온톨로지를 제공할 수 있게 될 것입니다. 이는 고객들이 AI 사용 사례를 확장하기 시작할 때 자주 제기하는 요청이었으며, 저희는 이것이 업계에 있어 의미 있는 진전이라고 생각합니다.
또한 이 모든 것을 가능하게 하는 AI 분야의 최신 동향에 대한 제 관점을 공유하고자 합니다.
지능, 비용, 제어
AI 전략에 있어 핵심 요소는 지능, 비용, 그리고 제어라고 생각합니다.
먼저, 지능에 대해 살펴보겠습니다. 모델은 믿기 어려울 정도로 강력해지고 있으며, 역사상 가장 어려운 수학 문제조차 해결하고 있습니다. 하지만 순수한 지능이 항상 정답은 아닙니다. 종종 NVIDIA Nemotron과 같은 오픈 모델을 비즈니스 데이터로 사후 학습하면 더 낮은 비용으로 더 높은 정확도를 얻을 수 있습니다. 순수한 벤치마크 점수는 프레젠테이션 자료로는 훌륭하지만, 진정한 척도는 특정 기업 환경에 기반한 적용된 지능입니다. 어떤 AI 배포에서든 우리는 스스로에게 다음과 같이 물어야 합니다. ‘이 사용 사례에서 우리 비즈니스에 중요한 핵심 업무를 모델이 얼마나 잘 수행하고 있는가?’ 이를 위해서는 맞춤형 평가, 독자적인 데이터를 활용한 모델 미세 조정, 그리고 실제 워크플로우와의 심층적인 통합이 필요합니다.
두 번째는 비용입니다. 토큰당 가격은 중요하며, 기업은 이를 엄격하고 정확하게 측정하고 추적할 수 있어야 합니다. 하지만 달러당, 와트당, 인프라 단위당 유용한 지능은 궁극적으로 기업의 장기적인 건전성을 보여주는 지표가 될 것입니다.
마지막으로, ‘제어’는 말 그대로의 의미를 지닙니다. 이는 모델을 맞춤화하고 클라우드, 엣지, 온프레미스 등 원하는 곳에 배포할 수 있는 능력으로, 데이터, 보안 상태, 운영 환경을 직접 통제할 수 있어야 합니다. 이는 규정 준수 요건을 충족하면서 독점 데이터, 지적 재산권, 경쟁 우위를 보호하기 위한 의미 있는 설계 요구 사항입니다.
따라서 이 모든 것을 종합해 보면, 여러분에게 가장 적합한 모델이 단순히 이론적으로 가장 뛰어난 모델인 경우는 거의 없다는 것이 분명해집니다. 핵심은 특정 워크로드에 대해 지능, 비용, 제어라는 세 가지 요소가 만나는 파레토 프론티어(Pareto frontier) 상의 적절한 지점에 위치한 모델입니다. 구체적으로 말하자면, 사기 탐지 파이프라인에는 고객센터 상담원용과는 다른 모델이 필요하며, 특정 건물 밖으로 절대 반출될 수 없는 기밀 워크로드에는 완전히 다른 모델과 아키텍처가 필요하다는 것을 우리는 알고 있습니다.
이 점이 지금 특히 중요한 이유는, 우리가 오픈소스 및 오픈 웨이트 AI 모델의 전환점에 도달했기 때문입니다. 사후 학습된 오픈 웨이트 모델은 오늘날 많은 실제 맞춤형 애플리케이션에서 탁월한 성능을 보이고 있습니다.
이는 정말로 고무적인 일이지만, 더 중요한 점은 이를 통해 고객이 운영 전반에 걸쳐 AI 전략을 다각화하고, 더 전략적이며 유연하게 대응할 수 있게 된다는 것입니다. 고객은 보다 일반적인 사용 사례에 대해서는 클라우드에서 고성능의 최첨단 모델을 활용하는 한편, 자사 전용 데이터로 오픈소스 모델을 맞춤형으로 훈련하는 데 투자하고, 높은 수준의 제어가 필요한 영역에서는 온프레미스 AI 팩토리를 운영하는 등, 그 중간에 존재하는 다양한 방식도 활용할 수 있습니다.
시스코, 팔란티어, 엔비디아와 함께하는 새로운 AI 아키텍처 정의
시스코, 팔란티어, 엔비디아는 협력하여 우리의 안전한 맞춤형 AI 플랫폼을 더 많은 기업과 국가로 확대해 나갈 예정입니다. 사이버보안을 중점으로 하는 시스코의 ‘Secure AI Factory with NVIDIA’는 NVIDIA Nemotron 오픈 모델을 탑재한 팔란티어의 ‘소버린 AI OS’를 위한 최적의 풀스택 기반이 되어, 팔란티어의 ‘사이버보안용 온톨로지’와 현대적인 IT 조직을 지원하고 제공할 것입니다. 이는 자체 데이터와 인프라에 대한 높은 수준의 통제력이 필요한 조직을 위해 구축된, 도입 첫날부터 생산용 AI로 전환할 수 있는 반복 가능하고 규제가 적용된 경로를 고객에게 제공할 것입니다.
시스코는 ‘Cisco Cloud Control’을 통한 통합 관리 기능을 갖춘 안전하고 가시성이 확보된 인프라를 제공할 것입니다. Nemotron은 기업이 자체 데이터를 활용해 사후 학습을 수행할 수 있는 플랫폼을 제공함으로써, 지적 재산권을 보호하는 동시에 정확도를 높이고 비용을 절감할 수 있도록 지원합니다. 팔란티어는 팔란티어 온톨로지를 기반으로 한 ‘팔란티어 파운드리’ 및 ‘인공지능 플랫폼(AIP)’을 통해 운영 AI 계층을 제공함으로써, 공급망 가시성을 확보하고, 제약 요인을 식별하며, 운영 전문 지식을 지속적으로 체계화하고, 온톨로지를 뒷받침으로 하여 보안 및 IT 조직에 중점을 두고 조직의 데이터를 의사결정, 워크플로우, 능동적 행동으로 전환하는 기계 속도의 의사결정을 안내할 것입니다.
이는 컴퓨팅, 네트워킹, 스토리지, 보안, 가시성 및 AI 워크플로우를 하나의 시스템으로 통합 검증된 레퍼런스 아키텍처 형태로 구현될 것입니다. 그 핵심은 고객이 자체적으로 구축하는 것보다 더 빠르게 배포되고, 운영이 더 간단하고 저렴하며, 더 안전한 아키텍처를 정의하는 데 있습니다. 현지에 파견된 엔지니어들은 기업과 국가가 맞춤형 AI를 구축하고 AI 경제에 참여할 수 있도록 지원할 것입니다.
모든 조직은 지능, 비용, 제어라는 핵심 요소를 깊이 이해해야 합니다. 이는 모든 사용 사례를 해결하는 데 있어 ‘일률적인 접근 방식’을 의미하지는 않겠지만, 우리는 AI 배포의 기반이 되는 인프라와 플랫폼이 훨씬 더 빠르고 쉽게 구축될 수 있다고 확신합니다.
이 아키텍처가 이미 성과를 내고 있다는 사실은 엔비디아와 팔란티어가 이를 세계에서 가장 복잡한 공급망 중 하나를 위한 청사진으로 활용하고 있는 사례에서 확인할 수 있습니다. 다음 단계는 전 세계 더 많은 산업 분야로 이를 확대해 나가는 것입니다.
Authors