KT(대표 김영섭)는 2일 발표를 통해, 3~5일까지 스페인 바르셀로나에서 열리느 ‘MWC25’에서 광화문빌딩 WEST 사옥을 모티브로 전시 부스 내 ‘K-오피스’ 존을 마련하고 K-AI 모델을 활용해 업무 효율화를 돕는 AI 에이전트 솔루션을 공개했다.

실무자들이 일상 업무에서 AI와의 협업을 통해 업무를 효율화 하고 성과를 높일 수 있는 다양한 기업용 AI 에이전트 활용 사례들을 경험할 수 있다.

◆통신시장 경쟁분석 에이전트…텔코 마켓 인사이트 에이전트(Telco Market Insight Agent) = 이 에이전트는 기업이 보유한 방대한 내부 데이터를 수집하고 정리해 각 도메인 영역에 맞는 맞춤형 분석 결과와 인사이트를 제공해준다.

사용자의 질문을 받은 후 적절한 답변을 생성하기 위해 어떤 데이터를 활용해야 하는지 스스로 판단하고 직접 분석하며 유용한 정보를 발굴해 낸다.

이를 바탕으로 보다 깊이 있는 답변을 제공하고 필요한 경우 이를 바탕으로 이메일 발송이나 일일 보고서 작성 등의 업무를 대행하는 역할도 수행할 수 있다.

최종적으로 실무자의 신속하고 효율적인 의사 결정을 도울 수 있도록 개발 중이다.

이번 MWC25 전시 부스에서는 관람객이 무선 통신 시장 관련 데이터를 토대로 그려진 여러 그래프를 놓고 에이전트와 질의응답을 주고받으며 시장 현황에 대한 깊이 있는 해석과 인사이트를 얻는 상황을 체험해 볼 수 있다.

관람객이 던지는 질문에 따라 에이전트가 다소 일반적이고 원론적인 답변을 하거나 내부 데이터에 기반한 구체적이고 통찰력 있는 답변을 내놓기도 한다.

이 과정에서 관람객들은 어떤 방식으로 질문하는가에 따라 에이전트의 답변 수준이 달라질 수 있다는 것을 직접 경험할 수 있다.

◆GPU 할당 에이전트…오토노머스 GPU 스케줄링 에이전트(Autonomous GPU Scheduling Agent) = 이 에이전트는 기업이 보유한 GPU 자원을 효율적으로 운영하고 관리할 수 있게 도와준다.

▲ GPU 할당 에이전트 이미지.(출처 : KT 제공)

실시간 GPU 자원 현황과 사용자의 수요에 따라 능동적으로 GPU 자원을 할당하고 스케줄링한다.

이 과정에서 에이전트가 사용자의 프로젝트 우선순위와 GPU 활용률 등의 정보를 종합적으로 분석한다.

기존에는 GPU 자원이 부족할 경우 운영 관리자가 직접 GPU 사용자들의 수요를 확인하며 수동으로 할당량을 조율해야 했지만 에이전트를 도입하면 최소한의 관리자 개입 만으로도 GPU 자원 효율은 20% 가량 향상된다.

프로젝트 개발자들이 GPU 자원이 부족한 상황에서 긴급하게 GPU 할당 요청을 해도 언제 GPU가 배정될지 알 수 없는 상태에서 대기가 이어지며 이로 인한 개발 지연 상황도 빈번하게 발생했다.

관람객들은 전시 부스의 대시보드를 보며 개발 진행 중인 프로젝트 정보와 GPU 현황을 확인하고, 에이전트에게 특정 ‘프로젝트에 GPU 자원이 부족한 상황’이라는 긴급 요청을 보낸다. 

에이전트는 곧바로 현재 GPU 자원 점유 상황이나 프로젝트의 긴급성을 분석해 GPU 자원을 할당하기 위한 스케줄링 작업을 수행하기 시작한다.

그 과정에서 에이전트가 다양한 대안을 마련하고, 전체 GPU 활용 현황과 자원 할당 정책을 종합적으로 고려한 최적의 방안을 결정한다.

스케줄링이 완료된 후 자원이 확보되면 에이전트가 개발자에게 GPU 할당 여부를 알려준다. 

또 유휴 자원이 풍부한 상황에서는 에이전트가 프로젝트 정보를 바탕으로 GPU 사용을 선제적으로 제안해주기도 한다.

이를 통해 사용자는 적절한 시점에 별도의 요청 없이도 GPU를 활용할 수 있도록 있게 된다.

◆고객센터 상담사 지원 에이전트…커스터머 서비스 컨설턴트 서포트 에이전트(Customer Service Consultant Support Agent) = 이 에이전트는 고객서비스 상담원의 상담 기록을 실시간으로 기록, 요약해주고 상담에 필요한 업무 지식을 추천해주는 기능을 제공해 고객 문의를 정확하고 신속하게 처리할 수 있다.

▲ 고객센터 상담사 지원 에이전트 이미지.(출처 : KT 제공)

특히 ‘지식 추천 에이전트’는 KT의 제품관련 업무지식에 특화된 RAG 구조를 가지고 있으며, 마이크로소프트 서비스를 결합해 상담원이 업무 지식을 검색하고 추출하는 데 걸리는 시간을 획기적으로 줄여 신속한 안내가 가능하다.

상담원의 정보 검색 수고를 줄이고 상담 시간을 약 10초 이상 단축할 수 있을 것으로 기대한다.

관람객은 고객서비스 상담원 입장에서 휴대폰 요금제 변경, 결합 문의, 멤버십 혜택 문의, 로밍 부가서비스 등의 통신사 KT의 상품에 관한 고객 문의를 받은 경우 이 에이전트를 통해 직접 상담 업무를 처리하는 과정을 경험할 수 있다.

고객의 문의 사항에 대해 지식 추천 서비스가 적확한 지식을 검색해 상담원에게 빠르게 제공하며, 실시간으로 대화록을 저장해 요약 정보를 생성해 상담원의 후처리 업무도 도와준다.

◆탄소 공시 에이전트…카본 디스클로저 어시스티브 에이전트(Carbon Disclosure Assistive Agent) = 탄소 배출량 변화 원인을 분석하고 감축 가이드를 제공하며 신제품이 추가될 경우 해당 제품의 탄소 배출량을 손쉽게 산출할 수 있도록 해당 분야 전문가들의 작업을 자동화하는 에이전트다.

▲ 탄소 공시 에이전트 이미지.(출처 : KT 제공)

KT는 MSM(MS Sustainability Maneger)를 기반으로 마이크로소프트와 협업을 통해 기존 기업들의 탄소 배출량 계산(Scope 1,2) 뿐만 아니라 공급망의 탄소 배출량(Scope 3)까지 관리할 수 있도록 에이전트를 개발했다.

이를 통해 2~3개월 걸리던 작업 시간이 50% 이상 단축됐다.

KT는 국내 탄소 공시 업무에 최적화된 탄소 인벤토리*와 국내외 다양한 탄소 배출량 산정 지침을 지식화 하여 에이전트에 학습시켰다.

이후 RAG 기술을 연계해 탄소 공시 전문가의 업무를 보다 효과적으로 지원할 계획이다. 

※탄소 인벤토리 = 조직의 경계 내외에서 발생하는 온실가스를 파악하기 위해 배출원 목록별로 구축한 데이터베이스.

대시보드에서 기업의 탄소 공시 추이 변화를 분석한 결과를 살펴볼 수 있다.

탄소 배출량의 증가 추이에 이상 상황 발생 시 원인을 분석하고 이를 절감할 수 있는 방안을 마련해 답변을 제시한다.

또 신규 제품을 출시했을 때 탄소 발자국 데이터를 수집하고 분석해 예상되는 탄소 배출량을 제시하는 과정을 살펴볼 수 있다. 

<김동기 기자>kdk@bikorea.net