• Legalinsight
  • Legaledu
  • 법률신문 오피니언

    내가 쓴 책

    [내가 읽은 책] '대량살상 수학무기'

    알고리즘의 결론은 과연 정당하고 공정한가

    김도엽 변호사 (법무법인 태평양) 입력 :
    글자크기 : 확대 최소
  • 인쇄
  • 메일보내기
  • 기사스크랩
  • 스크랩 보기
  • 159227.jpg

    제목부터 흥미롭다. 대량살상 ‘수학’ 무기(Weapons of Math Destruction, “WMD”)에서 ‘수학(Math)’은 ‘대량(Mass)’의 의미도 있다. 업무상 사업자가 데이터를 통해 유의미한 패턴을 찾아 분류(segment)하는 과정을 살펴보며, 빅데이터·인공지능(Artificial Intelligence, “AI”)·IoT와 광고플랫폼 등의 법률검토를 수행하다 보니, 알고리즘의 강력한 효과에 대해서는 신뢰가 있었다. 


    문제는 알고리즘의 결론은 과연 정당하고 공정한가이다. 우리는 대부분 알고리즘의 결정을 신격화하고 공정한 것으로 믿고 있다. 그러나, 알고리즘에도 인간의 편견이 개입될 수 있다. 즉, 알고리즘은 유입되는 데이터의 항목에 따라 특정한 편향성을 지닐 수 있고, 알고리즘의 오류를 피드백을 통해 미세조정을 하는 경우에도 오히려 기존의 알고리즘의 편견을 강화하는 방향으로 나아갈 수 있다. 알고리즘도 스스로 실수를 학습의 기회로 삼을 수는 있겠으나, 이는 알고리즘이 스스로 실수를 인정하고, 이에 대한 피드백을 받아 들일 때만 적용될 것으로 생각된다. 그렇지 아니한 경우, 기업은 유사한 성향을 가진 직원만을 채용하게 되고, 도박에 빠진 사람은 도박 관련 광고만 접하게 되고, 진보?보수 성향을 가진 사람들의 각 정치적 성향을 더욱 강화하는 알고리즘이 탄생할 위험이 있다. 이에 따라, WMD를 예방하기 위해서는 알고리즘의 투명성을 확보하고, 지속적인 인간의 조정을 통해 공정성을 확보를 위한 노력이 진행되어야 한다.

    실제로 구글 CEO인 순다 피차이(Sundar Pichai)는 2020년 1월 22일 스위스 다보스에서 열린 세계경제포럼(World Economic Forum)에서 인공지능의 중요성과 ‘위험성’을 강조하며 글로벌 거버넌스 프레임워크를 강조했다. 유럽연합 의회(European Parliament)도 2020년 1월 23일자로 인공지능 및 자동화된 의사결정(Automated Decision Making, “ADM”)에 대한 결의문을 채택하였다. 나아가 유럽의 GDPR(General Data Protection Regulation)에서는 ADM 관련 정보주체의 권리를 보장하고 있고, 최근의 국회를 통과한 데이터 3법 중 신용정보법에서도 자동화 평가에 대한 투명성과 피드백을 반영한 조항을 두고 있다.

    수학에는 선·악이 없다. 알고리즘의 이용은 그 혜택을 고려하면 거부할 수 없는 큰 흐름일 것이다. 그러나 알고리즘의 능력이 강화될수록 인류가 이를 경계하고 감시하여야 지속가능하고, 인류의 복지를 위한 성장이 가능할 것이라 생각한다. 나아가 알고리즘을 관리하고 통제하는 일이 이세돌의 알파고 대전 제4국 78수처럼, 영화 메트릭스의 네오처럼 인공지능 시대에 인류에게 남겨진 중요한 할 일이자, 가치라 상상해본다.


    김도엽 변호사 (법무법인 태평양)

    최근 많이 본 기사