2020년 2월 19일 유럽연합(EU) 집행위원회 'AI 규제에 대한 White Paper' 발표, 4월 미국 FTC의 'Al와 알고리즘 사용에 대한 지침' 발표, 5월 대한민국의 'AI 법제정비단 발족 및 법제정비 작업' 착수, 7월 금융위원회의 '금융분야 AI 활성화 워킹그룹' 발족 등 2020년 들어 AI와 관련해서 다양한 입법 내지 활용을 위한 가이드라인 등의 작업이 전 세계적으로 확산되고 있다. 

AI 규제에 대해 지금까지 나온 자료 중에서는 미국 FTC의 'Al와 알고리즘 사용에 대한 지침'이 가장 구체적이고 명확한 것으로 보여, 그 주요 내용을 확인해 보는 것이 의미가 있다. FTC는 기업이 AI 및 알고리즘을 사용할 때 ① 투명성 ② 설명 가능성 ③ 공정성 ④ 견고성과 실증적 타당성 ⑤ 책임성을 갖추도록 하였다. ① 투명성은 AI 기반 서비스 제공 시 소비자를 기만하지 않고, 민감한 정보 수집 시 투명하게 고지하며, 자동화된 의사 결정으로 발생한 불리한 조치에 대해서는 통지하고 정보 접근 권한과 부정확한 정보를 수정할 권리를 부여한다는 것이다. ②설명 가능성은 소비자에게 불리한 결정을 내릴 때 그 이유를 구체적으로 설명할 수 있어야 하고, 그 주요한 요인을 공개해야 하며 AI에 의해 거래조건이 변경될 때도 알려야 한다는 것이다. ③공정성은 결과의 공정성을 보장하면서 특정 집단이나 계층에 대한 차별적 결과가 나오지 않도록 하고, 의사결정에 사용되는 정보에 대한 접근 권한과 수정 기회를 소비자에게 제공하는 것이다. ④ 견고성과 실증적 타당성은 정보의 정확성과 최신성을 유지하면서, AI 모형이 설계 의도에 맞게 작동하고 불법적 차별을 일으키지 않도록 검사하고 재확인해야 한다는 것이다. ⑤ 책임성은 AI나 알고리즘 사용 전부터 자가 점검을 하고, 악용 및 무단 이용 가능성과 대비책에 대해 검토하며, 개발한 AI에 대해 책임을 다해야 한다는 것이다. 

전 세계적으로 AI 또는 AI를 위한 알고리즘이 무엇을 갖추어야 하는지 기준을 마련하기 위해 고심하고 있는데 아직 정답은 없다. 하지만 우리나라를 포함한 다양한 나라에서 AI에 대한 가이드라인 또는 규제의 방향성을 정하는데 있어 미국 FTC의 지침을 참조할 수 있을 것으로 보인다. AI를 우리 미래와 따로 떼어놓고 생각할 수 없으니, 아무쪼록 솔로몬의 지혜를 발휘해서 적정한 AI 활용과 통제의 기준이 우리나라 현실에 맞게 마련되기를 바란다.

이근우 변호사 (법무법인 화우)