테스트웍스(대표 윤석원 www.testworks.co.kr)는 25일 발표를 통해, 한국소프트웨어테스팅협회(회장 장일수)가 주관하는 소프트웨어 테스팅 컨퍼런스 ‘베스트콘(BeSTCon, Better Software Testing Conference) 2024’에 참가해 ‘AI·SW 안전성 인증(AISC)’에 대해 소개했다고 밝혔다.

이번 행사에서 테스트웍스는 ‘AI 신뢰 및 안전을 위한 AI·SW 세이프티 앤 테스팅(Safety & Testing)’을 주제로 홍보 부스를 운영하고 발표 세션에 참가했다.

테스트웍스 AI 기능 안전 센터를 리드하고 있는 김병철 센터장(동아대학교 산업경영학과 교수)은 “AI 기술이 발전하고 사회 전반에 걸쳐 더 많은 영향을 미치면서 신뢰할 수 있는 AI를 구축하는 것이 더 중요한 이슈가 되고 있다”며 발표 세션을 진행했다.

‘신뢰할 수 있는 AI’는 AI 시스템이 안전하고 윤리적이며 공정하게 설계되고 운영될 수 있도록 보장하는 개념이다.

김병철 센터장은 이와 관련, ▲공정성 ▲책임성 ▲투명성 ▲안전성 ▲프라이버시 및 보안 ▲윤리적 사용 ▲지속 가능성을 포함한 15개 리스크 항목에 대해 짚어가며, 각 항목이 부족할 경우 초래될 수 있는 AI 리스크와 해결하고자 하는 노력에 대해 설명했다.

▲ 테스트웍스 김병철 센터장의 '베스트콘 2024' 발표 모습.(출처 : 테스트웍스 제공)

특히, 그는 “안전하지 않은 AI는 생명과 직결된 사고로 이어질 수 있기 때문에 AI 시스템이 예측 불가능한 행동을 하지 않도록 설계되는 것이 중요하며, 동시에 사용자의 안전을 위협하지 않아야 한다”라며 “예를 들어, 자율주행차나 의료 시스템 등의 산업에서는 특히 높은 안전 기준을 충족해야 한다”고 강조했다.

이어 김 센터장은 이를 배경으로 AI에 대한 시스템적 결함 및 랜덤 하드웨어 결함 없이 안전성이 확보되고 있는지 시험, 심사, 평가해 적합성 증서를 부여하는 AISC(AI•SW SAFETY CERTIFICATION) 제도에 대해서도 소개했다.

AISC는 AI와 SW의 안전성을 보장하기 위해 AI•SW 전문 검증 및 KOLAS 국제공인시험기관인 테스트웍스, 네덜란드 인증기관인 Kiwa, SW 관련 협회인 한국정보산업연합회 3개 기관이 공동으로 글로벌 표준에 근거해 ‘안전성 무결성(Safety Integrity Level)’ 수준에 따라서 인공지능 안전경영 프로세스, 인공지능 안전수명주기, 품질레벨 요구사항인 안전성수준, 성능수준, 공정성 수준(AISL, AIPL, AIFL)에 적합할 경우 인증서를 발행하는 인증 제도이다.

테스트웍스는 AI 초기 시장부터 ‘신뢰할 수 있는 AI’를 위한 기술적, 윤리적 측면을 다각도로 고려하며, AI가 사회 전반에 걸쳐 긍정적인 영향을 미칠 수 있도록 개발과 운영에 도움이 될 수 있는 AI 학습용 데이터 구축, AI 데이터 및 모델 검증, AI 모델 개발, SW 테스팅, AI 반도체 검증과 관련한 솔루션 및 서비스를 제공하고 있다. 

<김동기 기자>kdk@bikorea.net