팔로알토 네트웍스 코리아(지사장 박상규 Palo Alto Networks)는 지난 19일 본사 발표를 인용, ‘시큐어 AI 바이 디자인(Secure AI by Design)’을 선보였다.

새로운 위협과 리스크에 대비할 수 있게끔 고안된 이 제품군을 활용하면 AI를 자산에 통합할 때 신뢰할 수 있는 기반에서 앱을 구축하고 사용할 수 있다.

‘AI 보안 프레임워크’의 무결성을 우선순위에 두고 개발에서부터 배포까지 안전하게 프로젝트를 진행하도록 돕는다.

최근 많은 기업들이 AI와 LLM(거대언어모델)을 비즈니스에 통합하는 사례가 늘어나며 AI 애플리케이션 보안의 필요성이 점점 더 중요해지고 있는 상황이다.

조직 내 구성원들이 빠른 속도로 AI 애플리케이션을 채택하고 다양한 산업 분야의 조직이 AI 기반 애플리케이션을 통해 경쟁 우위를 확보하고 있는 수요에 대비해, 팔로알토 네트웍스는 ‘시큐어 AI 바이 디자인’ 포트폴리오는 안전하게 AI 배포가 이루어질 수 있도록 지원한다.

‘시큐어 AI 바이 디자인’ 오퍼링을 사용하면 개발에서부터 배포까지 AI 보안 프레임워크의 무결성을 우선으로 하는 안전한 AI 에코시스템을 구축할 수 있다.

보안 침해 없이 AI의 잠재력을 극대화할 수 있도록 지원하는 이 오퍼링의 주요 사용 사례를 보면,

▲ (출처 : 팔로알토 네트웍스 코리아 제공)

◆생성형 AI 애플리케이션의 안전한 사용 = 조직 구성원들이 업무용으로 생성형 AI 앱을 사용하는 추세에 맞춰 ‘AI 액세스 시큐리티(AI Access Security)’를 통해 안심하고 AI 도구를 사용할 수 있는 환경을 제공한다.

보안 팀에서 완전한 가시성을 확보하고 애플리케이션 및 데이터 액세스 제어, 지속적인 데이터 위험 모니터링을 실시할 수 있다.

◆AI 공급망 강화 = 기업에서 발생 가능한 위험을 인지하고 이에 대비할 수 있다.

프리즈마 클라우드 보안 태세 관리(Prisma Cloud AI Security Posture Management, 이하 AI-SPM)를 통해 기업은 모델, 애플리케이션, 리소스의 취약성과 잘못된 구성을 식별해 AI 에코시스템을 보호할 수 있다.

이를 통해 규정 준수를 개선하고 데이터 노출을 최소화하여 AI 보안 프레임워크의 무결성을 향상시킨다.

◆엔터프라이즈 AI 애플리케이션 보호 = AI 애플리케이션, 모델, 추론 및 학습 데이터세트를 포함한 AI 앱 에코시스템의 모든 구성 요소를 파악할 수 있다.

‘AI 런타임 시큐리티(AI Runtime Security)’는 이러한 문제를 해결하고, AI 모델 및 애플리케이션의 데이터 유출과 같이 진화하는 제로데이 및 AI 관련 위협으로부터 보호하며, 오용 및 공격으로부터 모델을 보호하도록 설계됐다.

AI 애플리케이션, 모델 및 데이터를 탐색하고 보호하는 ‘AI 런타임 시큐리티(AI Runtime Security)’는 현재 구글 클라우드(Google Cloud)를 통해 사용할 수 있으며, 8월 말 아마존웹서비스(AWS)와 마이크로소프트 애저(Microsoft Azure)에서도 사용할 수 있도록 제공될 예정이다.

데이터 노출, 오남용, 모델 취약점 등 AI/ML, 생성형 AI 모델과 관련된 고유한 리스크로부터 조직을 보호하는 ‘AI-SPM(AI-Security Posture Management)’ 및 프롬프트에 의한 의도치 않은 데이터 유출 및 응답에 담긴 악성 콘텐츠로 인한 위험을 완화하는 ‘AI 액세스 시큐리티(AI Access Security)’는 현재 즉시 사용이 가능하다. 

박상규 팔로알토 네트웍스 코리아 대표는 “생성형 AI는 강력한 잠재력을 지녔지만 동시에 보안에 대한 위험이 너무도 커진다. 생성형 AI를 사용함에 있어 강력한 보안을 고려하지 않으면 아무리 비즈니스 효율을 높여도 한순간에 모든 것을 잃을 수 있다. 팔로알토 네트웍스는 이러한 고객의 걱정을 단번에 해결할 수 있는 AI 보안 솔루션을 이번에 출시함으로써 글로벌 1위 사이버 보안 기업으로 위치를 더욱 공고히 하게 됐다”고 말했다.

<김동기 기자>kdk@bikorea.net