2019년 10월 ‘설리’라는 25세 연예인이, 2019년 11월에는 ‘구하라’라는 28세 연예인이 연달아 스스로 목숨을 버렸다. 그들이 그런 선택을 하게 된 이유를 정확히 알지는 못하지만, ‘악플’이라는 인신공격성 댓글이 그러한 선택을 하는 것에 상당한 영향을 미쳤다는 이야기가 많이 나온다.

그래서인지 카카오는 2019년 10월부터 연예 뉴스 댓글과 인물 키워드에 대한 관련 검색어 기능을 폐지하였고, 네이버도 11월부터 인공지능 (Al) 기술을 사용한 필터링 기능을 강화한다고 밝혔다. 이미 해외에서는 Al 기술을 이용한 유해 콘텐츠 차단이 실시되고 있었는데, 예컨대 인스타그램은 2019년 7월 AI 기술을 이용한 ‘댓글 취소’와 ‘제한하기’기능을 도입하였고, 페이스북 도 지난 5년간 AI 기술을 통해 유해 콘텐츠를 사전에 대부분 감지하고 있다고 발표하면서 2019년 3분기에만 자살 관련 콘텐츠 250만건을 삭제하였다고 하였다. 이러한 조치에 대해 표현의 자유를 막거나, 여론을 왜곡시키거나 정치적인 목적으로 오용이 될 가능성에 대한 염려의 목소리가 있는 것도 사실이다. 개인적으로는 같이 살아가고 상생할 수 있는 ‘포용 사회’라는 측면에서 충분히 공감할 만한 조치라고 생각한다. ‘포용 사회’는 굳이 정부가 ‘질적 성장을 하면서도 공존과 상생이 가능한 혁신 사회를 이룬다’는 의미로 사용하는 ‘혁신적 포용 국가’를 떠올리지 않더라도, ‘포용(包容)’이 ‘남을 너그럽게 감싸 주거나 받아들임’을 의미한다는 점을 고려하면, ‘나와 다르지만 감싸 주고 받아들이는 사회’ 정도라고 생각하면 될 것 같다.

다만 AI 기술은 알고리즘에 따라 결과값이 왜곡될 수도 있고, 그러한 문제점 때문에 EU의 일반 개인정보 보호법(GDPR, General Data Protection Regulation)은 프로파일링(Profiling) 등 자동화된 처리에만 근거한 결정의 적용을 받지 않을 권리를 정보주체에게 보장함과 동시에 정보처리자에게는 자동화된 처리에만 근거한 결정의 존재 및 관련 로직의 유의미한 정보제공을 요구하고 있다. 그러한 점에 착안하여 ICT 업체가 Al 기술을 사용하여 잘못된 댓글이나 유해 콘텐츠 차단 기능을 적용할 때, 개별적인 사안에 대해 이해 당사자나 사회가 의문을 제기할 경우, 최소한 ‘어떻게 해서 그러한 결과가 나오는지에 대한 적절한 정보 제공’은 하면 좋겠다.

이근우 변호사 (법무법인 화우)