디지털의료기기 전자적 침해행위 보안 지침 제12조 (인공지능 보안)

디지털의료기기제조업자등은 다음 각 호의 사항을 고려하여 디지털의료기기 및 그 운영 환경의 인공지능 보안 방안을 마련(인공지능기술이 적용된 디지털의료기기에 한한다)하여야 한다.1. 데이터 중독 공격, 회피 공격 등과 같은 데이터 공격에 대한 방어 수단2. 학습 데이터 수집, 구축 및 보관 과정에서의 데이터 변형, 데이터 조작 등의 위변조 행위에 대한 방어 수단3. 반복된 질의 조회 차단, 적대적 공격 판단 모델 구현 등 인공지능 모델 추출/회피 공격 대응 방안4. 인공지능 시스템 운영 중 문제 발생 시 피드백 제공 화면 전환, 이용자 안내 메시지 제공, 인공지능 기술이 적용된 주요 기능의 중단 등 운영 대응 방안