◈ 제 1 차 ｢ 디지털 금융협의회 데이터 분과회의 ( 도규상 부위원장 주재 ) ｣ 를 통해 AI 활성화 및 신뢰제고를 위한 ｢ 금융분야 AI 가이드라인 ｣ 발표 ◈ 금융분야 AI 가이드라인은 다음의 주요내용으로 구성 ∎ AI 윤리원칙 -AI 전담조직 - 위험관리정책 수립 의 3 重 내부통제장치 마련 ∎ AI 학습 데이터에 대한 조사 · 검증 강화 , 개인신용정보 오 · 남용 방지 ∎ 불합리한 소비자 차별 등이 없도록 시스템 위험관리 및 공정성 제고 ∎ 소비자에 AI 서비스에 대한 충분한 설명 및 권리행사를 보장 1 디지털금융협의회 개요
금융위원회 도규상 부위원장은 ‘21.7.8.( 목 ) 14:00 제 1 차 ｢ 디지털금융협의회 데이터 분과회의 ｣ 를 개최하였습니다 .
- 일시 / 장소 : ‘21.7.8.( 목 ) 14:00~15:00 / 온라인 영상회의
- 참석 : 금융위 부위원장 ( 주재 ), 금감원 김동성 부원장보 - ( 분과위원 ) 동국대 강경훈 교수 , KCB 이욱재 상무 , 신한은행 김철기 디지털혁신단장 - ( AI 활성화 T/F 위원 ) 서울대 고학수 교수 , 농협은행 김봉규 센터장 , 하나금융 TI 이성만 실장 , 에이젠글로벌 강정석 대표 - ( 금융유관기관 ) 신용정보원 심현섭 센터장 , 지능정보산업협회 임선경 국장 , 보험개발원 양경희 팀장
금번 회의에서는 인공지능 (Artificial Intelligence, 이하 AI) 기반 금융 서비스 개발 을 위한 ｢ 금융분야 AI 가이드라인 ｣ 이 발표되었습니다 . 2 부위원장 모두말씀 ( ☞ 모두말씀 원문 별첨 )
도규상 금융위 부위원장 은 모두발언 을 통해 이하 내용을 언급 .
- 최근 우리 금융산업 은 금융규제 혁신 과 새로운 혁신적 Player 들에 의해 금융의 외연 이 확장 되는 양적 변화 를 경험
- 앞으로는 AI 등 기술혁신 이 금융의 질적변화 를 주도 할 전망 - AI 를 통해 비정형 · 비금융 데이터 활용이 활성화 되면서 금융데이터 가 부족 한 금융소외계층 을 포용 할 수 있게 되고 , - 데이터 처리의 속도와 정확성 이 제고 되면서 금융거래비용 은 낮아지고 금융 중개기능 의 효율성 은 높아질 것임
美 10 대 대형은행 주택담보대출 심사시간 단축 (1 시간 → 5 분 ), 英 Monzo 사 AI 사기방지시스템 운영으로 직불카드 사기율 하락 (0.84% → 0.01%)
- 반면 , AI 기술 의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼 , ｢ 금융분야 AI 가이드라인 ｣ 을 통해 AI 금융서비스에 대한 사회적 신뢰 를 공고히 하고 지속가능한 금융혁신 환경 조성 추진
｢ AI 가이드라인 ｣ 에서는 4 가지 핵심가치 를 구현 하고자 하였음
- 금융산업의 책임성 강조 - 서비스 개발 · 운영에 따른 발생가능한 위험 을 명확히 인지 하고 금융서비스 목적 에 맞게 위험을 통제 하기 위한 전사적 노력 추진
- AI 학습용 데이터의 정확성 · 안전성 확보 - 안전하고 효율적인 데이터 관리 를 위해 AI 학습데이터 의 품질 을 엄격히 관리 하고 개인정보보호 체계 도 한층 강화
- AI 금융서비스의 투명성 · 공정성 담보 - 금융서비스가 합리적 이고 공정한 기준 에 따라 제공 · 관리 된다는 금융소비자의 믿음을 확보할 수 있도록 일반적이고 건전한 상식 · 사회규범 에 어긋나지 않는 AI 서비스 운영 도모
- 금융소비자 권리의 엄격한 보장 - 사람에 의한 금융서비스를 제공받을 때와 같이 , 금융소비자 가 서비스 를 이해하고 , 자신의 권리를 불편함없이 행사 토록 지원
AI 기술혁신의 과실이 금융소비자 에게 돌아갈 수 있도록 금융권 의 지속적 인 협조 와 노력 을 당부 3 금융분야 AI 가이드라인 주요내용 ( ☞ 가이드라인 원문 별첨 )
- AI 서비스의 책임있는 운영을 위해 AI 윤리 원칙 마련 , AI 조직 구성 , 위험관리정책 수립 의 3 重 내부 통제장치가 마련됩니다 .
( 대상 ) AI 를 금융거래 및 대고객서비스 에 적용 한 全 금융업권
- 비금융업 이라도 AI 활용의 결과가 금융거래에 미치는 영향 이 큰 경우 ( 예 : 신용평가회사의 개인신용평점 개발 ) 확대 적용
( AI 윤리 ) 금융회사는 회사별 가치 , AI 활용 상황 ( 고객군 , 서비스 내용 등 ) 등에 따라 AI 서비스 개발 · 운영시 준수해야할 원칙 · 기준 수립
( AI 조직 ) AI 의 잠재적 위험 을 평가 · 관리 할 구성원 의 역할 · 책임 · 권한 을 서비스 全 단계 ( 기획 · 설계 · 운영 · 모니터링 ) 에 걸쳐 구체적 정의
( 위험관리 ) AI 서비스 자체 평가 · 관리정책 을 마련 하고 , 개인권리 에 중대한 위험 을 초래 할 수 있는 서비스에는 강화된 위험관리 적용
- ( 고위험 AI) AI 의사결정이 개인의 금융거래계약 의 체결 · 유지
에 중대한 영향 을 가져오는 경우 , 이에 대한 내부통제 · 승인절차 등을 마련 하고 별도의 책임자 를 지정
예 : 신용평가 , 대출심사 , 보험심사 , 카드발급 심사 등
- ( 통제가능성 ) AI 가 사람의 의사결정과정 을 대체 하는 경우 , 필요시 사람 에 의한 AI 시스템 감독 · 통제가 가능
하도록 시스템 설계
이자율 산정 등 금융관련 중요 의사결정을 대체한 AI 에 대해 결과의 설명 및 사후검증을 할 수 없다면 금융거래 투명성 및 신뢰성 저하 발생
- ( 모니터링 ) AI 시스템 성능을 주기적으로 모니터링 하고 , AI 개발 환경의 보안취약성 점검 시스템 마련 등 위험완화 조치 시행 ☞ AI 가이드라인 적용 例
- AI 를 통한 신용평가 및 여신심사시스템 을 운영하고자 하는 경우 , - ( 1 단계 ) AI 의 결정이 금융거래계약 체결 · 유지에 중대한 영향을 미치므로 미리 지정된 승인책임자 가 위험관리정책 에 비추어 AI 가 신용평가시스템에 활용 되어도 효율성 · 안정성 · 신뢰성 에 영향 이 없는지 내부점검 후 활용승인 - (2 단계 ) AI 의 결정이 기존 사람의 신용평가결정을 대체하므로 , 사람에 의한 통제가능성 확보를 위해 필요시 사람에 의한 신용평가의 적정성 점검 · 보완 등이 가능 토록 하고 , 외부 이의제기시 사람에 의한 신용평가 절차 등 마련
- AI 개발 · 학습단계에서 질 좋은 데이터가 활용 되도록 하고 , 개인신용정보 오 · 남용 이 없도록 정보보호를 강화 하겠습니다 .
( 학습데이터 관리 ) AI 학습에 사용되는 데이터의 출처 · 품질 · 편향성 · 최신성 등을 조사 · 검증 하고 개선노력 지속 문제상황의 인식 선제적 개선
- AI 시스템의 성능 은 학습데이터 에 좌우 - 데이터에 오류 · 불균형 · 편향성이 존재 할 경우 , AI 시스템이 잘못된 학습을 통해 오류 · 불균형 · 편향성 확대 재생산 예 ) ‘21. AI 챗봇 ’ 이루다 ‘ 개발과정에서 편향된 데이터 , 혐오발언 등이 정제되지 않고 AI 학습에 활용되면서 , 여성 · 장애인 · 동성애 등에 대한 다양한 차별 · 혐오발언을 생산
- 금융회사가 AI 학습 데이터의 품질 을 지속조사 하고 개선 하는 시스템 구축
데이터 출처 파악 , 규격 문서화 , 품질 검증 ( 누락 , 중복 , 불일치 등 ), 편향되지 않은 충분한 데이터 확보 , 무결성 검증 , 주기적 갱신 등 → AI 시스템의 오류 · 불균형 · 편향성 발생 가능성을 시스템적 으로 통제 가능하며 , AI 결과에 대한 객관성 · 신뢰성 제고
( 개인정보 보호 ) AI 개발 과정에서 개인신용정보 오 · 남용을 방지 하고 , 불필요한 개인신용정보 처리 를 최소화 하는 시스템 마련
- 특히 , 사생활정보 등 민감정보 를 활용하고자 하는 경우 , 비식별 조치 등 안전한 정보 활용 을 위한 충분한 조치를 거친 뒤
- 해당 정보 미사용시 AI 시스템에 성능 저하가 발생하는지 , 해당 정보 사용시 효과와 혜택을 보는 집단은 누구인지
등 정보활용 필요성 을 면밀히 평가하고 재식별 · 유출 등 방지
예 : 해당 정보를 활용하지 않는 경우 보호대상 집단에 불이익이 초래되는 경우 등에는 해당 정보를 활용해야 할 정당성이 인정 문제상황의 인식 선제적 개선
- AI 학습에 활용된 다양한 개인신용정보 의 처리과정에서 동의없는 정보처리 등 정보 오 · 남용 , 과도한 프라이버시 노출 등 다양한 개인정보 문제 발생 가능
- AI 학습용 데이터는 동의받은 데이터 , 엄격한 비식별조치를 갖춘 데이터 등으로 안전하게 관리 · 활용 됨에 따라 개인 신용정보 오 · 남용 사례 축소
- 사생활정보 등 민감정보 는 사생활 노출 우려 등이 없도록 안전하게 처리 되고 금융소외계층 등 다수의 금융 소비자 편익 을 제고 할 수 있는 경우 등 필요 최소한의 범위 에서 처리
- AI 활용결과 불합리한 소비자 차별 등이 나타나지 않도록 서비스 특성별로 위험요인을 통제 하고 , 서비스 공정성을 제고 하겠습니다 .
( 성능평가 ) AI 시스템 운영과정에서 나타날 수 있다는 다양한 위험요인
을 서비스 특성 에 맞게 합목적적 으로 통제
은행이 대출부적격자를 걸러내기 위해 여신심사를 강화하는 경우 대출 적격자 (True) 에 대한 여신이 거절 (False) 되는 경우도 증가
- 소비자 에게 금융거래 기회 를 제공 하는 서비스
는 적격자 의 금융거래 가 거절 될 수 있는 위험을 최소화 하는데 초점
신용평가 , 대출심사 , 신용카드 발급 심사 등
- 사기탐지 , 규제 미준수 등 위법 · 부당사례 를 탐지 하는 서비스의 경우 , 사기 · 불법 거래 등을 탐지 하지 못하는 위험을 최소화
( 공정성 제고 ) AI 에 따른 집단 간 차별 등 기본권 침해행위 가 발생하지 않도록 서비스 특성별 공정성 기준 을 설정 · 평가
- 금융소외계층 에 대한 금융접근성 제고 를 목적으로 한 정책금융 상품 등 결과적 평등 이 중요 한 금융상품의 경우 , 집단간 대출 승인율 등 인구통계적 동등성 지표 를 기준으로 공정성 평가
- 소속 집단 등과 무관하게 자격이 있는 소비자 를 판단해야 하는 신용평가 , 카드발급심사 등의 경우 , 집단간 재현율
등 기회의 균등 기준 을 기준 으로 공정성하게 서비스가 개발되었는지 평가
재현율 (True Positive Rate) : 전체 대출적격자 중 AI 가 대출적격자로 예측한 비율 문제상황의 인식 선제적 개선
- AI 평가 등이 특정집단 차별 등 공정성 을 담보하지 못한다는 지적이 제기 예 ) ‘19.11. 애플사가 발급한 애플카드가 동일 신용도에도 불구 남성의 신용카드한도를 여성 대비 10~20 배 이상 높게 설정했다는 이슈가 제기되어 AI 차별이 이슈화
- AI 금융서비스에 따른 예기치 못한 차별 발생 가능성 을 선제적 으로 차단 → 금융소비자 의 금융신뢰 를 확보 하고 , 정확하고 공정한 신용평가 등으로 자금의 효율적 배분 기능 제고
- 금융소비자가 AI 서비스에 대한 충분한 설명 을 듣고 , 자신의 권리를 충분히 행사 할 수 있도록 지원하겠습니다 .
금융소비자에게 AI 가 활용된다는 사실 을 사전고지 하고 , 소비자 의 권리 및 이의신청 · 민원제기 등 권리구제 방안 등을 알기쉽게 안내
- 특히 , AI 를 통해 신용평가 , 보험가입 등 금융거래 · 계약체결 여부 결정 등을 한 경우 ‘ 설명요구 · 정정요구권
’ 이 있음을 고지
｢ 신용정보법 ｣ 제 36 조의 2 ‘ 프로파일링 (Profiling) 대응권 ’ - 소비자는 AI 평가결과 및 주요 평가기준 , 사용된 기초정보 에 대한 설명 을 들을 수 있고 , AI 평가에 활용된 자신에 대한 정보의 정정 · 삭제요구 , 결과 재산출 등을 요구할 수 있음 ☞ AI 가이드라인 적용 例
- AI 를 통한 신용평가 및 여신심사 시스템 을 운영하고자 하는 경우 , - ( 1 단계 ) 대출신청 단계에서부터 ‘ 신용평가가 AI 에 의해 이루어진다는 사실 ’ 을 안 내하고 , AI 평가결과에 불만족할 경우 이의제기 · 설명요구 를 할 수 있다는 사실 및 이의제기 · 민원제기 채널 등을 고지 - ( 2 단계 ) 금융회사는 미리 마련된 위험관리정책 등에 따라 금융소비자에게 신용 평가결정의 기준 , 사용된 정보의 종류 등에 대한 충분한 설명 을 제공 하고 , 필요시 금융소비자가 제공한 신규 데이터 를 반영 하여 재평가 · 재심사 등 실시
- AI 서비스 외부위탁 개발 · 운영시에도 금융회사가 직접 개발 · 운영 할 때와 똑같이 안전한 개발 · 운영 이 가능하도록 하겠습니다 .
( 위험관리 ) 외부기관에 대한 AI 시스템 개발 · 운영 위탁시 수탁기관 이 준수하여야 할 위험관리지침을 마련 하고 , 주기적 보고 · 점검
( 손해배상 ) AI 서비스로 인한 소비자 피해 발생 시 조속한 피해 구제 가 가능하도록 명확한 손해배상 처리 절차 등을 마련
예 : 문제사례별 명확한 책임주체 및 손해배상 절차 등을 상세히 마련 4 향후 추진계획 가 . 가이드라인 등 시행
( 가이드라인 ) 금융권의 내실있는 ｢ 금융분야 AI 가이드라인 ｣ 이행을 위하여 충분한 준비기간 을 거쳐 가이드라인이 연내 시행 되도록 할 계획입니다 .
( 실무지침 ) 금융업권 및 기능 · 서비스별 특성 을 고려하여 가이드라인 을 구체화 한 세부 실무지침 도 마련할 계획입니다 .
- 가이드라인은 AI 활용 활성화 를 위해 AI 서비스 신뢰제고 에 필요한 필요최소한 의 준칙 을 제시 하는데 초점을 맞추었습니다 . - 반면 , AI 서비스 개발 · 운영 과정에서의 규제 불확실성 등을 해소 하기 위해서는 업권 · 기능 · 서비스 특성 등을 고려한 보다 구체적 행위지침 이 필요하다는 금융권 실무자들의 의견이 있었습니다 .
- 이에 금융업권협회 등을 중심 으로 실무지침 제정반 을 구성 · 운영 하여 3 분기 내 실무지침 을 마련할 예정입니다 . - 금융서비스 특성 등에 맞추어 실무지침 을 세부적으로 마련하고 , 금융업법상 규제 를 AI 서비스에 적용할 때 나타날 수 있는 규제 불확실성 을 해소
할 수 있도록 지원하겠습니다 .
예 : AI 챗봇을 통한 금융상품 설명시 금융업법상 설명의무를 이행한 것으로 간주될 수 있는 적정한 AI 설계 · 운영 절차 등 나 . 금융분야 AI 활성화 추가방안
금융권의 AI 활용을 촉진 · 지원하기 위한 ｢ AI 인프라 정비 방안 ｣ 도 Working Group 논의 등을 거쳐 3 분기 중 발표 할 계획입니다 .
- AI 개발 데이터를 제공하는 ‘ 데이터 인프라 (Data Library) ’ 와 소규모 핀테크 회사 등도 손쉽게 AI 서비스 를 개발 하고 검증 할 수 있도록 지원 하는 ‘ AI 테스트베드 ’ 등이 구축될 예정입니다 .