TTA 대표홈페이지

- AI 위험관리·경영시스템 등 국제표준 기반 시험 기준 고도화… 산업 실정 맞춘 인증 체계 제공-

한국정보통신기술협회(회장 손승현, 이하 TTA)는 국내 AI 기술의 글로벌 신뢰도 제고와 함께 산업 현장의 수요에 부합하는 실효적 인증 제도 운영을 위해 '인공지능 신뢰성 검·인증' 제도(이하 CAT)를 국제표준 기반으로 고도화하여 운영한다고 9일 밝혔다.

  CAT는 민간 주도로 AI 신뢰성 확보에 대한 글로벌 요구에 선제적으로 대응하기 위해, 2023년 국내 최초로 제정된「인공지능 시스템 신뢰성 제고를 위한 요구사항(TTAK.KO-10.1497)」단체표준을 기반으로 설계되었으며, 2024년 정식 운영 이후 현재까지 7건의 인증부여 및 39건의 검증 서비스를 제공하였다.

  9일 이루어진 이번 CAT 제도 고도화는 국내 AI 산업 실정을 반영한 맞춤형 검·인증 서비스 제공을 위해 기업 규모와 기술의 위험도에 따라 심사·시험 기준을 차등 적용함으로써 기업의 과도한 부담을 완화하고 실효적인 신뢰성 확보를 지원케 한 것이 핵심이다. 또한 글로벌 호환성 확보를 위해 국제표준(ISO/IEC 23894: AI 위험관리, 42001: AI 경영시스템, 38507: AI 거버넌스)을 기반으로 시험 기준을 분류 및 고도화하였다.

  세부적으로는 인증 대상을 ▲인공지능 시스템 ▲AI 사업자 ▲AI 이용자로 세분화하고, 각 대상에 따라 ▲AI 시스템의 위험관리 체계 ▲인공지능 경영시스템 ▲AI 거버넌스 요소에 대해 표준 적합성을 평가한다. 또한, 기존 문서·절차 심사 위주의 평가에서 나아가 AI 시스템이 내포한 위험요소 평가를 위한 실 운영 환경에서의 시스템 대응 능력을 평가하는 기능·성능 시험이 강화되었다. 

 이를 통해 기업은 자사의 기술 수준과 운영 여건에 맞춰 AI 신뢰성을 확보할 수 있으며, 이를 기반으로 AI 시스템 및 기업의 신뢰성을 대외적으로 입증할 수 있을 것으로 전망된다. 특히 기술, 조직 운영 및 책임 체계에 걸쳐 AI 안전·신뢰성 확보를 위한 핵심 사항 위주의 점검을 통해, 기업 내·외부의 기술·경영·거버넌스 체계를 강화하는 데 실질적인 도움이 될 것이다.

  이외에도, TTA는 2021년부터 과학기술정보통신부와 함께 ‘신뢰할 수 있는 인공지능 개발 안내서’ 개발 및 배포, 국내 최초 생성형 AI 레드팀 챌린지 운영 등 국내 AI 안전·신뢰성 기반 조성을 위한 다양한 활동을 수행해왔다. 최근에는 AI 기본법 하위법령 정비 TF에 참여하여 실효성 있는 제도 설계를 지원하고 있으며, AI안전연구소, 국가인공지능위원회 등과도 협력 체계를 지속 확대하고 있다.

  TTA 손승현 회장은 "CAT 제도는 국내·외 AI 산업과 기술 발전에 따라 지속적으로 평가 기준을 고도화하며, 민간의 자율적인 신뢰성 확보 노력을 적극 뒷받침하는 등 시장 변화에 선제적으로 대응해 온 인증 제도이다. 

  앞으로도 TTA가 보유한 시험·인증 분야의 전문성을 바탕으로 시장 요구에 맞춰 품질, 보안 등 AI 전 분야를 통합적으로 지원하는 국내 대표 AI 검·인증 브랜드로 만들어 나가겠다."고 밝혔다.

※ 자세한 사항은 첨부 파일을 참고하시기 바랍니다.