금융위원회는 지난 2022년 8월, 금융권의 인공지능(Artificial Intelligence, AI) 활용을 지원하기 위해 ｢ 금융분야 인공지능 활용 활성화 및 신뢰확보 방안 ｣을 발표하였다. 해당 방안의 후속조치로 신뢰받는 인공지능 활용 환경 을 구축하기 위해 ｢ AI 기반 신용평가모형 검증체계 ｣와 ｢ 금융분야 AI 보안 가이드라인 ｣을 마련했다.
｢ AI 기반 신용평가모형 검증체계 ｣는 AI 특성을 고려하여 신용정보회사가 데이터 를 적절히 관리 하는지, 신용평가모형에 사용되는 알고리즘 과 변수 를 합리적 으로 선정 하였는지 점검하고, 신용정보회사가 개발한 신용평가모형이 통계적으로 유의 한지 확인한다. 또한, 신용정보회사가 금융소비자 에게 신용평가모형 과 신용평가 결과 에 대해 충분히 설명 할 수 있는지 검증한다.
개인신용평가체계 검증위원회는 ｢ AI 기반 신용평가모형 검증체계 ｣를 활용하여 연내 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사 에 대한 검증 을 수행할 예정이다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획이다.
｢ 금융분야 AI 보안 가이드라인 ｣은.
- AI 모델 을 개발 할 때 고려해야 할 보안사항 을 개발단계별 로 제시하고,
- AI 챗봇 서비스 에 대한 보안성 체크리스트 를 추가로 제공한다.
- AI 모델 개발단계별 보안 고려사항 은 “학습 데이터 수집→ 학습 데이터 전(前)처리 → AI 모델 설계·학습 → AI 모델 검증·평가” 단계에 따라 구성되어 있다. 학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협 에 대해 대응할 수 있도록 데이터 관리·처리 방법, 모델 설계 기법, 보안성 검증 방법 등을 제시한다.
- 금융분야에서 AI가 가장 활발히 사용되는 서비스 중 하나인 챗봇에 대해서는 ｢ AI 챗봇서비스 보안성 체크리스트 ｣를 별도로 마련하였다. 보안성 확보에 필요한 사항들을 체크리스트 형태 로 구체화 하여 제공해 현장 실무자 가 쉽게 활용 할 수 있을 것으로 기대된다.
(참고) ｢ AI 챗봇서비스 보안성 체크리스트 ｣ 문항 예시 분류 소분류 연번 보안성 체크리스트 공통 입력제한 6 개인정보를 처리하지 않는 챗봇의 경우 입력창에 개인정보를 입력하지 않도록 이용자에게 사전에 안내하는가? ｢ 금융분야 AI 보안 가이드라인 ｣은 ｢ 금융보안 레그테크 포탈
｣에 게시 되어 있으며, 앞으로 새로 등장 하는 보안위협·대응기법 등을 고려하여 지속적으로 개선·보완 해나갈 계획이다.
자율보안 평가, 침해사고 대응훈련, 보안 정보 제공 등을 위한 홈페이지(금보원 운영) https://regtech.fsec.or.kr 금융위는 AI 가 초지능·초연결·초융합 시대에 혁신적 서비스 개발 의 핵심 기술 이며, 금융분야 는 고품질 데이터 가 풍부해 AI 활용의 잠재력이 매우 큰 분야라고 언급하며, 앞으로 ｢ 금융분야 인공지능 활용 활성화 및 신뢰확보 방안 ｣의 다른 세부 추진과제 에 대해서도 차질없이 추진 해 나가겠다고 밝혔다. 참고 : ｢AI 신용평가모형 검증체계｣ 및 ｢금융분야 AI 보안 가이드라인｣ 주요내용 별첨 : ｢금융분야 AI 보안 가이드라인｣