브로드컴(NASDAQ:AVGO)은 28일, 소프트웨어 제공 가속화를 위한 클라우드 네이티브 애플리케이션 플랫폼 ‘VM웨어 탄주 플랫폼(Tanzu Platform) 10’을 발표했다.

‘VM웨어 탄주 플랫폼10’은 플랫폼 엔지니어링 팀에 향상된 거버넌스 및 운영 효율성을 제공하는 동시에 개발 팀의 부담과 복잡성은 감소시킨다.
또한 브로드컴은 ‘탄주 플랫폼’ 내 기능 세트 ‘탄주 AI 솔루션’도 도입했다.

이는 애플리케이션 팀이 생성형 AI로 구동되는 지능형 애플리케이션을 빠르고, 안전하며, 대규모로 제공하도록 돕는다.

‘탄주 플랫폼’ 10 및 ‘VM웨어 클라우드 파운데이션(Cloud Foundation)’은 이제 에어갭(air-gapped) 환경에 대한 셀프 구성 설정 및 지원을 통해 최단 기간에 완전한 프라이빗 클라우드로 전환하는 방법을 제공한다.

최근 IDC 연구 결과에 의하면, 전체 생성형 AI 예산 중 약 1/3(29%)가 새로운 소프트웨어 기반 비즈니스 오퍼링 개발 및 제공에 할당됐다.

그러나 S&P 글로벌 마켓 인텔리전스(S&P Global Market Intelligence)의 연구에 따르면, 절반 이상(52.6%)의 조직이 AI 및 머신러닝 관련한 기술적인 스킬 부족 문제에 직면해 이는 생성형 AI 혁신 수익화에 있어 중대한 장애물로 작용한다.

브로드컴의 탄주 부문 제너럴 매니저인 푸르니마 파드마나반(Purnima Padmanabhan)은 “비즈니스 리더는 애플리케이션 전략에 생성형 AI의 힘을 반영하길 원한다. 그러나 많은 경우 이들은 이러한 부상하는 기술과 관련해 복잡한 도전과제에 직면해 여러 팀이 단발성 실험으로 해결하려고 한다. 이는 사일로를 만들어내며 결과적으로 기술 부채와 리스크를 가중시키고 있다”며 “개발자는 이제 자신의 경험 수준 또는 Python 지식 유무에 상관없이 ‘탄주 플랫폼’에 사전 탑재된 AI 개발 프레임워크로 고성능 지능형 앱을 구축할 수 있다. 또한 개발 팀은 Tanzu AI Solutions로 소프트웨어 테스트 단계에서 엔터프라이즈에 준비된 지능형 애플리케이션을 생산 환경에 배포하는 단계로 자신 있게 나아갈 수 있다”라고 말했다.

◆새로운 ‘탄주 플랫폼10’…간소화 및 가속화된 클라우드 네이티브 애플리케이션 제공 = ‘탄주 플랫폼10’은 개발자 및 플랫폼 엔지니어를 대상으로 애플리케이션의 생산 환경으로의 배포에 이르는 표준화되고 성공적인 방법을 제공해 애플리케이션 제공을 가속화하려는 클라우드 파운드리(Cloud Foundry)의 접근방식에 기반한다.

개발자는 이제 간단한 운영을 통해 안전한 컨테이너 구축을 자동화하고, 서비스를 앱에 연동하며, 하나의 명령어로 코드를 배포하고, 애플리케이션을 손쉽게 확장할 수 있다.

또한 ‘탄주 플랫폼10’은 취약점 패치, 롤링 업그레이드, 광범위한 가시성 및 AI 통찰력 기반 정책 시행 등 애플리케이션 및 플랫폼 관리 작업을 자동화한다.

‘탄주 플랫폼10’은 자체 관리형 글로벌 제어창을 제공해 모든 애플리케이션 환경 전반에서 보다 훌륭한 자동화 및 가시성을 구현한다.

- 개발자에게 쿠버네티스(Kubernetes) 및 애플리케이션 스페이스(application spaces)에 대한 클라우드 파운드리와 같은 경험을 제공한다.

이는 애플리케이션 중심 추상화 레이어를 도입해 애플리케이션을 일관된 운영 거버넌스 및 규제준수에 부합하는 방식으로 운영하도록 지원한다.

추상화 모델은 이해관계자들의 우려를 해결하도록 돕는다. 개발자는 인프라의 세부적인 부분에 대해 걱정할 필요 없이 애플리케이션에 집중할 수 있다.

한편 플랫폼 및 운영 팀은 대규모 인프라 관리에 집중하고 구성을 규정해 조직적 거버넌스 및 규제준수 요구사항을 충족시킬 수 있다.

- 가용성 영역 전반의 클라우드 파운드리 기반 또는 쿠버네티스 클러스터에 걸쳐 향상된 맥락 기반의 앱-투-플랫폼(app-to-platform) 가시성 제공

- 강력한 ‘사전 탑재’ 서비스 연결(binding) 기능은 앱을 미들웨어 및 데이터베이스와 연결하며 자격증명 및 연결 문자열을 자동 관리해 업무 시간을 대폭 절감

- 새로운 애플리케이션 어드바이저(Application Advisor)를 통한 스프링(Spring) 애플리케이션 보안, 규제준수 감사, 정책 시행 및 자동화된 공통 취약성 및 노출(CVE) 해결

‘탄주 플랫폼’에 사전 탑재된 상용 스프링(Spring) 기능인 ‘탄주 스프링(Tanzu Spring)’의 향상된 자바(Java) 빌드팩(buildpack)으로 스프링 애플리케이션 시작 시간 대폭 감소

- 탄주 솔트(Tanzu Salt)를 통한 향상된 규제준수 시행 및 취약성 관리

- 자동 프로비저닝 및 강화된 오픈소스 소프트웨어(OSS) 데이터베이스 및 메시징

◆‘탄주 플랫폼10’ 상의 탄주 AI 솔루션, 개발자의 안전하고, 확장 가능하며, 엔터프라이즈에 준비를 갖춘 생성형 AI 애플리케이션 구축 지원 = ‘탄주 플랫폼’은 지능형 애플리케이션 개발을 대중화한다.

탄주 AI 솔루션 기능 세트를 새롭게 포함해 기업이 생성형 AI로 구동되는 지능형 애플리케이션을 안전하게 대규모로 개발, 운영 및 최적화하도록 돕는다.

또한 탄주 AI 솔루션은 생성형 AI 옵저버빌리티 및 모니터링 기능을 제공해 앱 및 대형 언어 모델(LLMs)을 대상으로 한 근본 원인 분석으로 정확도 및 성능 이슈 해결을 지원한다. 

탄주 AI 솔루션 주요 기능을 보면,

- 스프링 AI는 자바 개발자가 애플리케이션에 생성형 AI 기반 기능을 구축하는 데 사용하는 오픈소스 애플리케이션 프레임워크다.

스프링 AI는 개발자 친화적 자바 API를 통해 LLM 모델 액세스 및 보다 뛰어난 AI 및 앱 로직 패턴 구현을 지원한다.

스프링 AI로 자바 개발자는 파이썬(Python) 기반 교차 훈련 없이도 신규 또는 기존 애플리케이션에 생성형 AI 기능을 원활하게 통합할 수 있다.

- 젠(Gen) AI 온(on) ‘탄주 플랫폼’은 향상된 오픈AI와 호환 가능한 API 게이트웨이로 사전 탑재된 API 추상화, 로드 밸런싱, 복원력 및 캐싱을 제공하는 ‘탄주 플랫폼’에서 이용 가능하다.

이는 100여 가지의 상용 또는 OSS LLM을 안전하고 일관된 방식으로 실행 또는 연결하도록 한다.

‘탄주 플랫폼’은 데이터베이스 및 엔터프라이즈 API 등의 서비스처럼 LLM 서비스를 중개한다.

이를 통해 플랫폼 엔지니어링 담당 팀에서 역할 기반 액세스 제어를 적용해 AI 서비스를 큐레이션하고, 개발자 시크릿(secrets) 관리를 자동화해 보안 및 복원력을 지원한다.

- 옵저빌리티 포 젠AI(Observability for GenAI)는 앱 및 모델 응답을 모니터링 및 평가함으로써 성능 및 정확도를 향상시킨다.

이는 모델 정확도 확인을 통해 팀의 AI 앱 시각화, 테스트 및 이슈 해결을 지원한다. 또한 환각 현상을 스캔한다.

뿐만 아니라, 토큰 사용량 모니터링을 통해 LLM 호출 비용을 보다 손쉽게 통제하도록 한다.

- 엔비디아(NVIDIA) 기반 ‘VM웨어 프라이빗 AI 파운데이션(Private AI Foundation) 지원이 젠AI 온 ‘탄주 플랫폼’ 서비스 중개 기능에 쉽게 설정하거나 관리할 수 있도록 준비된 기능으로 사전 탑재됐으며, 애플리케이션 팀에게 드롭다운 선택지로 제공될 예정이다.

VM웨어 클라우드 파운데이션과 결합된 ‘탄주 플랫폼’ 10, 최단 기간에 완전한 프라이빗 클라우드로 전환하는 방법 제공

‘탄주 플랫폼’ 10은 VM웨어 클라우드 파운데이션 환경에 강력하고 배포에 준비된 첨단 서비스를 제공한다.

이는 컨테이너 운영 및 데이터 서비스를 포함하고, 최단 기간에 완전한 프라이빗 클라우드로 전환하는 방법을 제공한다.

프라이빗 클라우드 환경에서 현대적인 애플리케이션을 제공하는 속도를 높이기 위해 ‘탄주 플랫폼 10’의 신기능을 보면, 

- 에어갭 환경 지원은 외부 네트워크와 연결이 차단돼 있으며 자체적으로 관리되는 프라이빗 클라우드 환경을 구현한다. 

이는 간단한 셀프 구성 설치 환경에서 VM웨어 클라우드 파운데이션용 ‘탄주 플랫폼’을 사전 구성이 가능하다.

간단한 CLI 명령어로 쿠버네티스 클러스터 생성 및 네트워크 설정을 자동화할 수 있고, 이용 가능한 프라이빗 클라우드 개발자 플랫폼을 생성한다.

- ‘탄주 플랫폼’용 글로벌 서버 로드 밸런싱 및 첨단 네트워킹(Global Server Load Balancing and Advanced Networking)은 프라이빗 클라우드에 VMware Avi Load Balancer를 활용한 새로운 개선 기능들을 제공한다.

이는 로드 밸런싱 기반 라우팅 관리 및 소스-투-URL(source-to-url) 동적 네트워킹을 위한 클라우드 파운드리 배포 관련 사전 구성된 지원 및 쿠버네티스 환경을 위한 동적 DNS(Domain Name System)을 포함한다.

- 강화된 가상머신(VM) 및 OSS 이미지는 ‘탄주 애플리케이션 카탈로그(Tanzu Application Catalog)’를 통해 이용 가능하며 ‘탄주 플랫폼’ 허브에 직접 통합됐다.

이로써 ‘탄주 플랫폼’을 기반으로 강화된 VM 및 OSS 이미지를 배포할 수 있다.

IT 운영팀이 프라이빗 클라우드 환경에 오직 검증된 안전한 패키지 이미지만을 배포하도록 보장할 수 있게 한다.

또한 VM 및 OSS 이미지 대상의 지속적인 취약성 스캔을 통해 고객이 안전한 워크로드를 실행할 수 있도록 보장한다.

◆SB 페이먼트 서비스(SB Payment Service) = SB 페이먼트 서비스 시스템 부문 제너럴 매니저 타카시 타카라모토(Takashi Takaramoto)는 “SB 페이먼트 서비스는 클라우드 파운드리용 ‘VM웨어 탄주 플랫폼10’(옛 탄주 애플리케이션 서비스-Tanzu Application Service)의 지원 덕분에 일본 최대 규모의 결제 대행 서비스를 호스팅하고 있다. 탄주 팀과 파트너십을 맺은지 5년이 됐으며, 앞으로도 탄주 팀의 지원을 받아 IT 환경을 확장하고, 8조엔(한화 약 74조 896억원) 규모의 트랜잭션을 다운타임 없이 제공할 것이다. 브로드컴과 관계를 지속하고 레거시 애플리케이션을 리팩토링해 ‘탄주 플랫폼’에서 호스팅할 수 있게 된 것을 기쁘게 생각한다”고 강조했다. 

<김동기 기자>kdk@bikorea.net