생성형 AI 보안 기술 스타트업 에임인텔리전스(대표 유상윤)가 주식회사 케이티(이하'KT')와 ‘AI 기반 모델의 Security&Safety 검증 체계 기술 공동연구 및 위협 대응 기술 구축을 위한 업무 협약(MOU)’ 을 체결했다고 밝혔다.
 

양 사는 KT 판교빌딩에서 업무 협약식을 열고, ▲생성형 AI 기반 모델의 Security&Safety 검증 체계 기술 공동연구, ▲식별된 취약성을 해소할 수 있는 모델 방어 및 강화 기술을 개발, ▲사이버보안 위협에 대응하고 안전한 생성형 AI 모델 보급 추진 등의 분야에서 상호 협력하기로 합의했다.
 
에임인텔리전스는 안전한 생성형 AI 모델 보급 추진을 위해 생성형 AI Safety 진단(레드티밍)을 제공하고, 취약점 자동 탐지 및 차단/방어 기술(가드레일) 을 접목할 것이라고 밝혔다.
 
양사는 이번 협약을 통해 생성형 AI 안전성 및 보안을 위한 다양한 활동을 전개한다. 에임인텔리전스와 KT 레드팀 상호 간 협업을 통해 생성형 AI모델의 안전성 평가 기준인 벤치마크를 공동 개발할 예정이다.
 
KT 정보보호 최고 책임자(CISO) 황태선은 “이번 에임인텔리전스와의 업무협약을 통해 생성형 AI 상용화를 위한 안전성을 공고히 할 수 있었다. 안전한 생성형 AI 모델 보급을 위해 양사 협력에 최선을 다할 것.”이라고 말했다.
 
에임인텔리전스 유상윤 대표는 “생성형 AI 상용화에 가장 큰 병목은 안전성 및 보안이다. 누구나 믿고 사용할 수 있는 안전한 생성형 AI 서비스를 제공할 수 있도록 케이티와 함께 노력하겠다.”라고 의견을 밝혔다.