*본 포스팅은 시스코 DJ Sampath가 작성한 Cisco AI Defense 포스팅을 번역한 글입니다.
우리는 지금 인공지능이 업무 방식을 지배하는 시대를 살고 있습니다.
시스코는 작년에 시스코 AI 준비 지수를 발표하여 기업의 AI 도입 현황에 대한 중요한 인사이트를 제공했습니다. 설문조사 결과 및 비즈니스 리더들과의 대화를 통해 한 가지 공통적인 트렌드를 발견했습니다. AI라는 혁신 기술을 활용해야 한다는 압박이 커지고 있음에도 불구하고, AI에 대한 준비 상태가 오히려 이번보다 못하다는 것입니다. 여기에는 여러 가지 원인이 있지만 안전과 보안을 둘러싼 우려가 가장 두드러지게 나타났습니다.
AI의 급격한 발전으로 인해 기존 사이버 보안 솔루션이 해결하지 못하는 위험이 생겨났습니다. 이러한 위험에는 의도치 않은 행동, 데이터 보호 침해, 알고리즘 편향, AI 시스템의 악용 가능성 등이 있으며, 기업에 평판, 재무, 법적인 측면에서 피해를 초래할 수 있습니다.
엔터프라이즈 AI 보안 분야에서 최초로 선보이는 종합 솔루션인 시스코 AI Defense를 소개합니다. 네트워킹과 보안에서 수십 년간 업계를 선도한 시스코의 경험을 바탕으로 개발된 AI Defense는 기업 전반에서 AI를 개발, 배포 및 사용하는 데 있어 탁월한 가시성과 보호 능력을 제공합니다.
엔터프라이즈 AI의 위험 요소는 크게 2가지입니다. 직원이 지적 재산, PII 및 기타 기밀 정보를 승인되지 않은 타사 AI 도구에 공유하여 민감한 데이터가 노출되는 것에 대한 실질적인 우려가 있습니다. 그와 동시에, 자체 AI 애플리케이션을 개발하고 배포하는 기업은 이러한 시스템이 고객에게 안전하게 제공될 수 있도록 여러 가지 취약성을 해결해야 합니다.
시스코 AI Defense는 기업이 사용자 및 애플리케이션 수준에서 위험을 파악하고 완화하는 데 도움이 되는 단일 종합 솔루션입니다. 앞에 언급한 위험 요소를 해소하기 위해 이 솔루션에는 AI 액세스, AI 클라우드 가시성, AI 모델 및 애플리케이션 검증, AI 런타임 보호의 4가지 기본 기능이 내장되어 있습니다.
AI Defense가 어떻게 보호 기능을 제공하는지 좀 더 자세히 살펴보겠습니다.
타사 섀도우 AI 사용 관리
최근 몇 년간 새로운 AI 도구가 많이 등장한 것과 더불어, 기존의 대부분 애플리케이션 공급업체에서도 자사 제품에 AI 기능을 추가하려고 시도했습니다. 조만간 모든 애플리케이션이 AI 애플리케이션으로 거듭날 것입니다.
직원들은 이러한 도구를 사용하여 아주 조금의 시간만 들여도 더 많은 결과물을 창출할 수 있습니다. 그러나 보안 팀은 완전히 새롭고 복잡하고 방대한 위험 표면을 관리해야 한다는 난제에 처하게 됩니다.
시스코 AI Defense는 보안 팀에 빠르게 늘어나는 섀도우 AI의 위협에 대한 종합적인 정보와 제어 기능을 제공합니다.
또한 AI 기반 애플리케이션을 자동으로 발견하고 평가하여 사용량 및 위험 심각도에 대한 중요한 컨텍스트를 제공합니다. 보안 팀은 이러한 인사이트로 정책을 세분화하여 기업 전반에서 민감한 데이터를 공유하지 못하게 차단하고, 승인되지 않은 AI 애플리케이션에 대한 액세스를 제한할 수 있습니다.
안전한 AI 애플리케이션 개발 및 배포
우리는 멀티 클라우드 시대에서 멀티 클라우드 및 멀티 모델의 시대로 향하고 있습니다. 공격 표면이 늘어나면서 공격이 미치는 잠재적 영향도 커졌습니다. AI 수명 주기의 모든 지점에 위험이 존재하기 때문에, 기업에서 AI 시대에 대비하려면 완전히 새로운 안전 및 보안 대책이 필요합니다.
두 가지 시나리오를 살펴보도록 하겠습니다.
첫 번째 시나리오의 경우, AI 개발자가 유명한 오픈 소스 모델을 미세 조정하여 AI 교육 어시스턴트를 개발합니다. 그런데 의도치 않게 내장된 보호 기능이 약화되었고, 애플리케이션이 학생에게 유해한 콘텐츠를 노출하기 시작합니다.
두 번째 시나리오에서는 AI 개발자가 공개된 데이터로 애플리케이션을 학습시켰는데, 그중 일부 데이터에 수천 명의 사용자에게 피싱 링크를 배포하라는 명령이 감춰져 있었습니다. 보안 침해에 대한 최종 책임은 AI 애플리케이션을 제공하는 기업에 있습니다.
시스코 AI Defense는 이 새로운 멀티 클라우드, 멀티 모델의 시대에 발생하는 안전 및 보안 문제에 대비하도록 설계되었습니다. IT 팀은 배포된 모든 클라우드 환경에서 알고리즘 취약성 테스트와 수백 개의 런타임 보호 카테고리를 통해 AI 자산을 찾아서 평가하고, 보호할 수 있습니다.
지금까지는 보안에 대한 우려로 인해 엔터프라이즈 AI 애플리케이션이 광범위하게 개발 및 배포되지 못했습니다. 물론, 이해합니다. 시스코 AI Defense는 전반적인 AI 위험을 해소하여 비즈니스와 보안 리더가 자신감 있게 AI 애플리케이션을 출시하도록 지원합니다.
시스코와 함께하는 더욱 안전한 인공지능의 미래
기업은 엔터프라이즈 AI 애플리케이션 개발을 이제 막 시작했습니다. 저희는 시스코 AI Defense를 활용하여 멀티 클라우드, 멀티 모델의 시대에서 발생하는 새로운 안전 및 보안 문제를 해결하도록 설계된 솔루션을 개발했습니다.
시스코가 지향하는 근본적인 목표는 바로 혁신적인 엔터프라이즈 AI 기술을 도입하지 못하게 방해하는 이 거대한 장벽을 없애는 것입니다.
AI Defense는 최근 시스코에서 인수한 AI 보안 기업 Robust Intelligence의 첨단 기술을 기반으로 합니다. Robust Intelligence는 공급망 보안, 알고리즘 탈옥 등 여러 가지 혁신 기술을 개발했고 업계 최초로 AI 방화벽을 출시하기도 했습니다. Scale AI를 기반으로 하는 세계적 수준의 탐지 모델과 Cisco Talos의 원격 측정 데이터가 내장된 AI Defense는 독보적인 보호 능력과 최고의 AI 보안 기능을 제공합니다.
이 솔루션은 Cisco Security Cloud의 기존 네트워크 가시성과 정책 시행 지점에 AI 특화 보안 기술을 내장하여 통합적으로 제공합니다. 이는 네트워크 수준에서 AI 보안을 구현함으로써, 보안 팀이 여러 클라우드와 다양한 모델에서 엔터프라이즈 AI 애플리케이션을 일관되고 신뢰성 있게 보호할 수 있도록 지원합니다. 이를 통해 개발자는 소중한 시간과 리소스를 절약하여 AI 혁신을 더욱 발전시키는 데 집중할 수 있습니다.
저희는 시스코가 지켜온 네트워크 분야에서의 선도적 입지를 기반으로, 광범위한 메시 네트워크를 활용하여 AI 트래픽을 탁월하게 관리할 수 있도록 합니다. 이는 시스코가 AI 및 AI 보안에 지속적으로 투자하고 전념하고 있다는 확실한 증거이기도 합니다.
앞으로도 AI 보안 관련 더 많은 소식을 전해드리겠습니다.
자세한 정보는 Cisco AI Defense 제품 웹사이트에서 확인하실 수 있습니다.
Authors