시스코 코리아 블로그

시스코, 기업의 AI 트랜스포메이션 지원하는 보안 솔루션 ‘AI 디펜스’ 출시

1 min read



  • 엔드투엔드 솔루션으로 기업의 안전한 AI 애플리케이션 개발 및 활용 지원

  • 기존 보안 솔루션으로 해결하기 어려웠던 AI 도구 오남용, 데이터 유출, 고도화된 보안 위협으로부터 기업을 보호

  • 시스코의 탁월한 네트워크 가시성 및 제어 기술로 진화하는 AI 안전 및 보안 위협에 선제 대응

[2025년 1월 16일] – 시스코(www.cisco.kr)가 기업의 AI 트랜스포메이션을 지원하는 보안 솔루션 AI 디펜스(Cisco AI Defense)를 발표했다. AI 기술이 빠르게 발전함에 따라, 기존 보안 솔루션으로 대응하기 어려운 새로운 안전 문제와 보안 위협이 전례 없는 속도로 대두되고 있다. 이에 따라, 시스코는 최신 보안 솔루션을 선보이며 기업 고객들이 안심하고 AI 애플리케이션을 개발, 배포 및 보호할 수 있도록 지원한다.

[사진자료] 시스코, 기업의 AI 트랜스포메이션 지원하는 보안 솔루션 ‘AI 디펜스’ 출시

 

지투 파텔(Jeetu Patel) 시스코 부회장 겸 최고제품책임자는 “기업이 AI를 도입하는 과정에서 속도를 추구하기 위해 안전을 희생해서는 안 된다. 경쟁이 치열한 환경에서는 속도가 기업의 성공을 좌우한다”라며, “시스코 AI 디펜스는 네트워크 패브릭에 통합되어 있어 AI 애플리케이션을 개발하거나 접근하는 과정에서 발생하는 위협을 효과적으로 탐지하고 방어할 수 있다”라고 설명했다.

AI로 인해 문제가 발생할 경우, 그 영향은 매우 심각할 수 있다. 2024 시스코 AI 준비지수(2024 AI Readiness Index)에 따르면, 설문조사에 참여한 국내 기업 중 14%만이 AI의 무단 변조를 감지하고 방지할 수 있는 충분한 준비가 되어있다고 답했다. 또한, AI 애플리케이션이 멀티모델과 멀티클라우드 환경에서 운영됨에 따라 보안 취약점도 더욱 새롭고 복잡해지고 있다. 보안 취약점은 모델 또는 애플리케이션 수준에서 발생할 수 있으며, 이에 대한 책임은 개발자, 최종 사용자(end user), 벤더 등 다양한 이해관계자들에게 나눠져 있다. 특히 기업이 공공 데이터를 넘어 내부의 민감한 데이터까지 AI 모델 학습에 활용하면서 위험은 더욱 커지고 있다.

기업이 AI 혁신과 도입을 성공적으로 실현하려면, 모든 사용자와 애플리케이션을 보호하는 통합적인 보안 계층이 필요하다. AI 디펜스는 다음의 두 가지 시급한 위험 요소를 해결함으로써 기업의 AI 트랜스포메이션을 지원한다.

 

안전한 AI 애플리케이션의 개발 및 배포

AI가 보편화됨에 따라 기업은 수백, 수천 개의 AI 애플리케이션을 활용하고 개발한다. 이에 개발자는 모든 애플리케이션에 적용할 수 있는 일관된 보안 및 가드레일을 필요로 한다. AI 디펜스는 다양한 플랫폼에 걸쳐 AI 시스템과 모델 행동(model behavior)을 보호함으로써 개발자들이 보다 빠르게, 더욱 큰 가치를 실현할 수 있도록 지원한다. AI 디펜스의 기능은 다음과 같다.

  • AI 시스템 파악: 보안 팀은 애플리케이션을 개발하는 주체와 그들이 사용하는 트레이닝 소스를 파악해야 한다. AI 디펜스는 공공 및 프라이빗 클라우드에서 승인, 인지 또는 감독 없이 사용되는 AI 애플리케이션을 탐지한다.
     
  • 모델 검증: 모델 튜닝은 유해하고 예기치 않은 결과를 초래할 수 있다. 자동화된 테스트를 통해 AI 모델이 가진 수백 가지의 잠재적 안전 및 보안 문제를 점검하고, AI 기반 알고리즘 레드팀이 취약점을 식별해 보안 팀에 적절한 가드레일을 추천한다.
     
  • 런타임 보안: 지속적인 검증을 통해 프롬프트 인젝션(prompt injection), 서비스 거부, 민감한 데이터 유출 등 잠재적인 안전 및 보안 위협을 지속적으로 방어한다.

 

AI 애플리케이션의 접근 보안 강화

사용자들이 생산성 향상을 위해 요약 툴과 같은 AI 애플리케이션을 빠르게 도입 후 사용함에 따라, 보안 팀은 데이터 유출과 기업 데이터 오염을 방지해야 한다. AI 디펜스는 보안 팀에 다음과 같은 기능을 제공한다.

  • 가시성 확보: 직원들이 사용하는 비인가 AI 지원 애플리케이션에 대한 포괄적인 가시성을 제공한다.
     
  • 접근 제어: 비인가 AI 도구에 직원의 접근을 제한하는 정책을 구현한다.
     
  • 데이터 및 위협 보호: 위협 및 기밀 데이터 손상을 방지하며, 규정 준수를 지원한다

 

개별 AI 모델에 내장된 가드레일과는 달리, 시스코는 멀티모델 환경에서도 일관된 제어 기능을 제공한다. AI 디펜스는 시스코의 독자적인 머신러닝(ML) 모델을 활용해 스플렁크와 시스코 탈로스의 위협 인텔리전스 데이터를 기반으로 끊임없이 진화하는 AI 안전 및 보안 문제를 탐지하며 대응한다.

AI 디펜스는 기존 데이터 흐름과 완벽히 통합되어 뛰어난 가시성과 제어를 제공한다. 시스코의 통합 AI 기반 보안 플랫폼인 시스코 시큐리티 클라우드(Cisco Security Cloud)에 탑재되어 있으며, 광범위한 시행 지점(enforcement points)을 활용해 네트워크 단에서 AI 보안을 구현한다. 이러한 방식은 오직 시스코만이 제공할 수 있다.

정확성과 신뢰성은 엔터프라이즈 AI 애플리케이션을 보호하는 데 필수적이다. 시스코는 미국 비영리 연구개발 단체 마이터(MITRE), 국제웹보안표준기구(OWASP), 미국 국립표준기술연구소(NIST)를 비롯한 글로벌 기관들과 협력해 AI 보안 산업 표준 개발에 적극적으로 참여해 왔다.

보안 전문가인 월드와이드 테크놀로지(World Wide Technology)의 켄트 노이스(Kent Noyes) AI 및 사이버 혁신 총괄 책임자는 “AI 도입으로 기업들은 기존의 사이버 보안 솔루션으로는 해결할 수 없는 새로운 위험에 노출된다”며 “시스코 AI 디펜스는 기업의 AI 자산에 대한 완벽한 가시성을 제공하고, 진화하는 위협으로부터 기업을 보호하는 획기적인 AI 보안 솔루션”이라고 밝혔다.

AI 디펜스는 작년 공개된 차세대 보안 아키텍처 시스코 하이퍼쉴드(Cisco Hypershield)에 이어 새롭게 공개된 시스코의 최신 AI 기반 보안 혁신 솔루션이다. 2025년 3월부터 기업들을 대상으로 제공될 예정이며, 보다 자세한 정보는 시스코 웹사이트에서 확인할 수 있다.

 

시스코코리아 블로그: gblogs.cisco.com/kr

시스코코리아 페이스북: facebook.com/ciscokorea

시스코코리아 유튜브: youtube.com/CiscoKorea

시스코, 시스코 시스템즈, 시스코코리아 및 시스코의 로고는 미국 및 다른 국가에서 Cisco Systems, Inc. 또는 그 계열사의 등록상표이다. 시스코 등록상표 목록은 웹사이트(www.cisco.com/go/trademarks)를 통해 확인 가능하다. 기타 이 문서에 언급된 다른 상표명, 제품명 또는 상표는 각 소유권자의 재산이다. 파트너라는 용어의 표현이 반드시 시스코와 기타 업체 간의 파트너쉽을 의미하지는 않는다.

댓글 쓰기