• Legalinsight
  • Legaledu
  • 법률신문 법률정보

    광장

    디지털 금융의 현안과 법(2) - 금융분야 인공지능(AI) 가이드라인 제정

    입력 :
    글자크기 : 확대 최소
  • 인쇄
  • 메일보내기
  • 기사스크랩
  • 스크랩 보기
  • [2021.07.27.]



    법무법인(유) 광장의 디지털금융팀은 “디지털금융의 현안과 법”이라는 주제의 뉴스레터 시리즈의 두 번째 뉴스레터로 최근 금융위원회가 발표한 「금융분야 인공지능(AI) 가이드라인」의 주요 내용과 시사점에 대해 설명드립니다.


    AI에 대한 한 연구결과에 따르면 AI로 인해 2030년 글로벌 GDP는 14% 가량 증가할 것으로 추산된다고 합니다. 2016년에는 구글이 AI기술을 활용하여 개발한 알파고(AlphaGo)가 이세돌 9단과의 바둑 대결에서 압승하면서 전세계를 놀라게 한 바 있습니다. 이와 같이 큰 잠재력을 가진 AI 기술에 대한 연구 및 투자는 계속되어 왔고, 금융산업에서도 AI의 활용은 점차 확대되어 왔습니다. 금융분야에서 AI 기술은 알고리즘 매매(algorithmic trading), 로보어드바이저(robo-advisor)를 통한 자산관리, 챗봇과 가상비서를 통한 고객 상담·응대, 리스크 분석·관리, 사기거래 탐지 등에서 활용되고 있으며, 의사결정 및 자료분석 비용 등을 현저히 감소시키는데도 기여하고 있습니다.


    AI의 활용은 데이터 자체의 편향성과 정확성 부족 등으로 인한 한계 및 문제점도 내포하고 있으며, 이에 따라 해외 각국은 AI 사용에 따른 문제점 및 위험을 관리하는 한편, 책임있는 AI(Responsible AI)를 위한 거버넌스를 정립하기 위하여 비규제적 지침·가이드라인을 제정하고 있고, EU 등은 법률적 규제 도입도 추진하고 있습니다.


    이러한 움직임에 발맞추어 금융위원회는 2020년 이후 금융분야 AI Working Group을 결성하여 금융업권의 AI 실제 활용현황 및 애로사항, 규제시 고려사항 등을 논의하고 AI 가이드라인을 마련하기 위한 연구 작업을 해 왔으며, 2021. 7. 8. ‘제1차 디지털 금융협의회 데이터 분과회의’를 통하여 「금융분야 인공지능(AI) 가이드라인」(이하 가이드라인)을 발표하였습니다. 이하에서는 가이드라인의 구체적 내용에 대해 설명드리겠습니다.



    1. 금융위원회의 「금융분야 인공지능(AI) 가이드라인」

    ■ 핵심가치

    가이드라인에서는 AI 금융서비스에 대한 사회적 신뢰를 공고히 하고 지속가능한 금융혁신 환경조성을 추진하고자 하는 목적에서 다음과 같은 4가지 핵심가치를 발표하였습니다.


    (1) 금융산업의 책임성 강조

    서비스 개발 및 운영에 따라 발생가능한 위험을 명확히 인지하고 금융서비스 목적에 맞게 위험을 통제하기 위한 전사적 노력 추진


    (2) AI 학습용 데이터의 정확성·안전성 확보

    안전하고 효율적인 데이터 관리를 위해 AI 학습데이터의 품질을 엄격히 관리하고 개인정보보호 체계 강화


    (3) AI 금융서비스의 투명성·공정성 담보

    금융서비스가 합리적이고 공정한 기준에 따라 제공·관리된다는 금융소비자의 믿음을 확보할 수 있도록 일반적이고 건전한 상식·사회규범에어긋나지 않는 AI 서비스 운영 도모


    (4) 금융소비자 권리의 엄격한 보장

    사람에 의한 금융서비스를 제공받을 때와 같이 금융소비자가 서비스를 이해하고 자신의 권리를 불편함 없이 행사하도록 지원


    ■ 가이드라인의 주요 내용

    (1) 내부통제장치 마련

    AI 서비스의 책임있는 운영을 위해 회사별 가치, AI 활용 상황 등에 따라 AI 서비스 개발·운영 시 준수해야 할 AI 윤리 원칙을 수립하고, AI의 잠재적 위험을 평가·관리할 AI 조직의 역할·책임·권한을 서비스 전단계(기획·설계·운영·모니터링)에 걸쳐 구체적으로 정의하도록 하였으며, AI 서비스 자체 평가·관리 정책을 마련하고 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리를적용하도록 하였습니다.


    (2) 정보보호 강화

    AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하고 개선노력을 지속하게 하였으며, AI 개발 과정에서 개인신용정보 오·남용을 방지하고 불필요한 개인신용 정보 처리를 최소화하는시스템을 마련하도록 하였습니다.


    (3) 시스템 위험관리 및 공정성 제고

    AI 시스템 운영과정에서 나타날 수 있는 다양한 위험요인을 서비스 특성에 맞게 합목적적으로 통제하도록 하였으며, AI에 따른 집단간 차별 등 기본권 침해 행위가 발생하지 않도록 서비스 특성별 공정성 기준을 설정하고 그에 따라 평가하도록 하였습니다.


    (4) 소비자에 대한 충분한 설명 및 권리행사 보장

    금융소비자에게 AI가 활용된다는 사실을 사전고지하고, 소비자의 권리 및 이의신청·민원제기 등 권리구제 방안 등을 알기 쉽게 안내하도록하였습니다.


     적용대상 및 추진계획

    가이드라인은 2021년 내에 전금융업권에 적용하여 시행될 계획으로서, 구체적인 실무지침은 은행, 보험, 금융투자업권 등 금융업권 위주로 마련될 예정입니다. CB사의 신용평가 또는 전자금융업자의 금융상품 추천과 같이 AI 활용에 따라 금융서비스 등에 미치는 위험이 크다고 판단되는 경우에는 확대 적용될 수 있습니다.


    또한, 금융위원회는 AI 활용을 촉진·지원하기 위하여 「AI 인프라 정비 방안」도 Working Group 논의 등을 거쳐 2021년 3분기 중 발표할 계획이며, 그에 따라 AI 개발 데이터를 제공하는 ‘데이터 인프라(Data Library)’와AI 서비스 개발을 지원하는 ‘AI 테스트베드’등이 구축될 예정입니다.



    2. 시사점

    AI 기술은 이미 우리 일상생활의 모습을 변화시켜 오고 있고 금융 경험도 그 예외가 아닙니다. AI는 국가와 기업의 경쟁력을 좌우할 만큼 높은 잠재력을 가지고 있는 반면, 윤리적 문제와 데이터 활용에 따른 각종 위험, 그리고 비대면 거래에 따른 책임 역시 간과할 수 없습니다. 정부의 자율적 규제기준 도입은 이러한 위험의 관리를 위한 방향성을 제시하는 것으로서, 이는 금융위원회의 위 가이드라인뿐만 아니라 개인정보보호위원회가 2021. 5. 31. 발표한 「인공지능(AI) 개인정보보호 자율점검표(개발자·운영자용)」 및 방송통신위원회가 2021. 6. 30. 발표한 「인공지능 기반 미디어(매체) 추천 서비스 이용자 보호 기본원칙」등 여러 영역에서 도입되고 있습니다.


    앞으로 금융업 내에서도 각 업권별 서비스의 특성과 기능 등을 고려하여 가이드라인에 기반하여 내실있으면서도 현실적인 실무지침이 만들어질 필요가 있고, 또한 AI도입에 따른 소비자 피해가 발생할 경우 이에 대한 금융업권의 책임에 대해서도 미리 대비할 필요가 있습니다. 이에 따라 AI와 관련된 여러 인프라 및 제도가 정비되는 경우 업계의 목소리가 반영될 필요가 있으며, 이 모든 과정을 위하여 여러가지 법률적 검토가 수반되어야 합니다.



    고환경 변호사

    강현구 변호사

    이정명 변호사