그림 생성 초거대 AI 모델에 대한 법적 이슈

기사 메일 보내기
보내는 기사	그림 생성 초거대 AI 모델에 대한 법적 이슈
보내는 사람	이름 손님
이메일
받는사람	이름
이메일
제목	그림 생성 초거대 AI 모델에 대한 법적 이슈
내용	[2023.03.02.] 최근 디지털 미술 업계에서는 그림 생성 초거대 AI 모델들이 기술 혁신을 주도하고 있는데, 기존 디지털 미술 업계와의 이해 충돌도 발생하고 있습니다. 특히 그림 생성 초거대 AI모델의 최선봉에 서 있는 Stable Diffusion 모델에 대하여 미국 등에서 소송이 제기되기도 하였습니다. 이번 뉴스레터에서는 해당 소송의 배경에 있는 Stable Diffusion 모델에 대해서 살펴보고, 소송에서는 어떠한 점이 문제가 되었는지를 살펴보겠습니다. 또한, 소송 외에 현재 시점에서 바라보는 Stable Diffusion 모델의 동향과 이슈를 살펴보고, 이를 종합하여 우리에게 시사하는 바가 무엇인지 짚어보겠습니다. 1. 배경 OpenAI의 ChatGPT와 함께 또 다른 생성 AI 모델로 사람들의 관심이 집중되며 재조명되고 있는 그림 생성 초거대 AI 모델, ‘Stable Diffusion’ 모델과 관련하여 2023. 영국, 미국에서 연이어 소송이 제기되고 있습니다. ‘Stable Diffusion 모델’은 문자 입력으로 그림을 생성하는데 특화되어 있는 초거대 AI 모델입니다. Stable Diffusion 모델은 독일 뮌헨 대학교의 CompVis 연구실에서 만든 잠재 확산 모델(Latent Diffusion Model, 'LDM’)을 기반으로 하여, 영국 소재의 Stability AI 등의 업체들과 협업을 통하여 대량의 이미지 데이터를 학습한 결과 탄생한 초거대 AI 모델입니다. Stable Diffusion은 2022. 8. 오픈소스 소프트웨어로 공개된 이후 다양한 버전의 개량 모델이 나오면서, 지금은 널리 알려진 Midjourney 와 같은 업체의 그림 생성 서비스 모델이 기반으로 사용될 뿐만 아니라, 최근에는 각 개인들이 사용하는 그림 도구로 인기를 끌면서 이용자 수가 빠르게 늘어나며 널리 활용되고 있습니다. 현재 국내에서 각종 인터넷 커뮤니티에서 공유되고 있는 초거대 AI 모델 기반 그림들은 대부분 Stable Diffusion 모델의 개량 버전으로 제작되었다고 보아도 무방할 정도입니다. 사건은 다른 초거대 AI 모델에 대한 소송 사건과 마찬가지로, 학습이 완료된 Stable Diffusion 모델이 공개되고 일반 사용자들이 그림 생성 초거대 AI 모델을 직접 경험해볼 수 있게 된 이후, 해당 모델의 학습 과정에서 저작권자의 동의 없이 인터넷에서 공개된 미술 저작물이 수집된 사례가 있다는 점이 밝혀지면서 촉발되었습니다. Stable Diffusion 모델이 공개된 이후, 여러 온라인 플랫폼들이 해당 모델을 자신의 그림 생성 서비스에 접목하여 상업적인 목적으로 운영하기 시작하면서, 디지털 미술 업계에서 기존에 시장 수요를 담당하던 플레이어들과 이해 충돌이 발생하고 갈등이 유발되었 것으로 보입니다. 이로써 다시 한번, 인터넷에서 누구나 쉽게 열람할 수 있는 공개 자료를 해당 자료에 대한 권리자의 동의 없이 초거대 AI 모델의 학습 데이터로 사용하고, 그렇게 학습이 완료된 초거대 AI 모델을 단순 연구 성과를 넘어 상업적인 도구로 사용하는 것을 적법한 행위로 인정할 수 있을지에 대한 문제가 수면 위로 떠오르게 되었습니다. 2. 그림 생성 초거대 AI 모델 관련 소송의 개요 가. 게티 이미지(Getty Images) vs. 스테빌리티 AI(Stability AI) 게티 이미지는 영국에 본사를 둔 스테빌리티 AI를 상대로 2023. 1. 17. 영국 법원에 소송을 제기한 이후 2023. 2. 3. 델라웨어주 지방법원에도 소송을 제기하였습니다. 스테빌리티 AI가 2022. 8. Stable Diffusion 모델을 오픈소스 소프트웨어로 공개하고, 자신은 해당 모델을 이용하여 Dream Studio 라는 플랫폼에서 유료 그림 생성 서비스를 제공한 지 불과 6개월이 채 지나지도 않았는데 소송이 제기된 것입니다. 짧은 시간에 불과하지만 Stable Diffusion 모델이 그림, 사진 공급 시장에 불러일으킨 파급력은 위협적이었고, 그로 인해 게티 이미지가 영국, 미국 2개의 국가에서의 동시 소송으로 전면전에 나서게 된 것으로 보입니다. 소장에 따르면 게티 이미지가 밝힌 사실관계는 아래와 같습니다. * 게티 이미지는 세계 최대 규모의 시각 자료 보유 업체로서, 디지털 미술 업계에서 사진, 그림을 공급하는 주요 공급자 중 하나임 * 게티 이미지는 보유한 대다수 사진, 그림 자료에 대해 저작권을 보유하거나 독점 이용권을 부여 받았고, 그 사진, 그림 자료를 사용자에게 라이선스를 제공하여 이용하도록 하는 방식으로 사업을 영위하고 있음 * 게티 이미지의 각 사진, 그림 자료에는 제목, 캡션, URL 등 각종 메타 데이터 정보가 연계되어 있고, 이를 데이터베이스화하고 검색 시스템을 구축하는데 상당한 시간과 노력을 투입하였음 * 게티 이미지 이용 약관에 라이선스 없이는 웹사이트 내 어떠한 자료도 다운로드, 복사, 재전송을 받을 수 없고, 데이터 마이닝, 로봇 등의 데이터 수집, 추출 방법에 사용될 수 없다고 명시되어 있어, 해당 자료들은 AI 학습 데이터로 사용될 수 없음 * Stable Diffusion 모델은 독일 업체 ‘LAION’으로부터 제공 받은 5억개에 이르는 학습 데이터로 학습이 이뤄지고, 해당 학습 데이터에 포함된 게티 이미지의 자료는 적어도 1,200만개에 이르는데, 게티 이미지는 이에 대해 허락한 바 없음 * 스테빌리티 AI는 Stable Diffusion 모델의 위 학습 과정에 관여하였고, 이후 오픈소스 소프트웨어로 Stable Diffusion 모델을 공개한 당사자임 * 스테빌리티 AI가 Stable Diffusion을 최초 공개한 이후, 스테빌리티 AI를 포함한 기존 개발자들은 Stable Diffusion 모델을 개량하여 상위 버전의 모델도 계속하여 배포해왔음 * 게티 이미지가 구축한 데이터베이스는 사진, 그림 자료와 그에 대응되는 정확한 문자 정보를 갖추고 있기 때문에 AI 모델 학습 데이터로 안성맞춤이고, 이는 Stable Diffusion 모델의 성능 향상에 크게 기여하였음 * 실제로 Stable Diffusion 모델로 생성된 출력물에는 ‘게티 이미지와 유사한 그림’이나 ‘게티 이미지의 상표, 워터마크 형체가 남아 있는 그림’이 발견되었음(아래 소장에 기재된 예시 참조) * 최근 논문에서도 Stable Diffusion 모델이 학습 데이터로 사용된 사진, 그림을 거의 그대로 혹은 극히 유사한 형태로 재생산하는 사례를 보고한 바 있음 * 스테빌리티 AI는 Stable Diffusion 모델에 기반하여 유료 그림 생성 서비스 플랫폼 Dream Studio을 운영하여 수익을 창출하고 있고, 이는 게티 이미지의 서비스 수요를 강탈하는 효과로 이어짐 * 스테빌리티 AI는 게티 이미지의 동의 없이 Stable Diffusion 모델을 오픈소스 소프트웨어로 배포하여 제3자가 이를 접근하고, 개량하도록 허용하였음 게티 이미지가 주장하는 스테빌리티 AI의 주요 위법 행위를 살펴보면 아래와 같습니다. * 게티 이미지의 저작물을 복제하거나 그 2차적 저작물을 만들어 내는 행위(미국 저작권법 제106조 이하 일반 조항) 17 U.S. Code § 106 - Exclusive rights in copyrighted works Subject to sections 107 through 122, the owner of copyright under this title has the exclusive rights to do and to authorize any of the following: (1)to reproduce the copyrighted work in copies or phonorecords; (2)to prepare derivative works based upon the copyrighted work; (...) * 게티 이미지의 워터마크를 변형하는 등, 고의로 또는 저작권 침해 은폐 등을 목적으로, 저작권 관리 정보(Copyright Management Information, ‘CMI’)를 허위로 제공하거나, 이를 제거 또는 변경하는 행위{디지털 밀레니엄 저작권법 제1202조(a), (b)} 17 U.S. Code § 1202 - Integrity of copyright management information (a)False Copyright Management Information.-No person shall knowingly and with the intent to induce, enable, facilitate, or conceal infringement- (1)provide copyright management information that is false, or (2)distribute or import for distribution copyright management information that is false. (b)Removal or Alteration of Copyright Management Information.-No person shall, without the authority of the copyright owner or the law- (1)intentionally remove or alter any copyright management information, (...) * 게티 이미지의 등록 상표 사용으로 수요자의 오인, 혼동을 초래한 행위{미국 상표법 제1114조(1)} 15 U.S. Code § 1114 - Remedies; infringement; innocent infringement by printers and publishers (1)Any person who shall, without the consent of the registrant- (a)use in commerce any reproduction, counterfeit, copy, or colorable imitation of a registered mark in connection with the sale, offering for sale, distribution, or advertising of any goods or services on or in connection with which such use is likely to cause confusion, or to cause mistake, or to deceive; (...) shall be liable in a civil action by the registrant for the remedies hereinafter provided. * 게티 이미지와의 관계에서 출처의 오인, 혼동을 불러일으킬 수 있는 표지 등의 사용 및 게티 이미지 상표 희석화 행위{미국 상표법 제1125조(a), (c)} 15 U.S. Code § 1125 - False designations of origin, false descriptions, and dilution forbidden (a)Civil action (1)Any person who, on or in connection with any goods or services, or any container for goods, uses in commerce any word, term, name, symbol, or device, or any combination thereof, or any false designation of origin, false or misleading description of fact, or false or misleading representation of fact, which- (A)is likely to cause confusion, or to cause mistake, or to deceive as to the affiliation, connection, or association of such person with another person, or as to the origin, sponsorship, or approval of his or her goods, services, or commercial activities by another person, (...) shall be liable in a civil action by any person who believes that he or she is or is likely to be damaged by such act. (…) (c)Dilution by blurring; dilution by tarnishment (1)Injunctive relief Subject to the principles of equity, the owner of a famous mark that is distinctive, inherently or through acquired distinctiveness, shall be entitled to an injunction against another person who, at any time after the owner’s mark has become famous, commences use of a mark or trade name in commerce that is likely to cause dilution by blurring or dilution by tarnishment of the famous mark, regardless of the presence or absence of actual or likely confusion, of competition, or of actual economic injury. (…) 게티 이미지는 위 위법 행위에 대해 스테빌리티 AI를 상대로 손해배상을 구할 뿐만 아니라, ‘Stable Diffusion 모델 일체의 삭제’도 청구하였습니다. 나. [집단소송] 저작권자들 vs. 스테빌리티 AI, 미드저니, 디비언트 아트 위 게티 이미지 소송과 별개로, 개인 저작권자들도 2023. 1. 13. 캘리포니아주 북부 지방 법원에서 스테빌리티 AI, 미드저니, 디비언트 아트를 상대로 집단 소송을 제기하였습니다. 자신의 미술 저작물이 동의 없이 Stable Diffusion 모델의 학습 데이터로 사용되었다고 하면서, Stable Diffusion 모델에 기반하여 그림 생성 플랫폼을 운영하고 있는 회사를 상대로 집단 소송을 제기한 것입니다. 참고로, 저작권자측 소송 대리인은 지난 해 GPT 기반의 언어 생성 초거대 AI 모델 Copilot에 대하여 집단소송을 제기했던 대리인과 동일합니다. 위 집단 소송에서 저작권자들이 Stability AI에 대하여 주장하는 사실은 게티 이미지 소송에서 언급된 바와 다르지 않습니다. Stability AI가 Stable Diffusion 모델의 학습에 관여하였고, 학습된 결과로 나온 AI 모델을 오픈소스 소프트웨어로 배포하였으며, 자신은 해당 모델에 기반한 Dream Studio라는 플랫폼으로 그림 생성 서비스를 유료로 제공하고 있다는 점과 그 과정에서 Stability AI 는 원고인 저작권자들에게 어떠한 허락도 구하지 않았다는 사실입니다. 원고는 어느 한 웹사이트(https://haveibeentrained.com/)를 통하여 자신의 저작물이 Stable Diffusion 모델의 학습 데이터에 포함되어 있음을 확인하였습니다. 미드저니(Midjourney), 디비언트 아트(Deviant Art)에 대하여 주장된 사실도 유사합니다. 미드저니는 2022. 8. 배포한 버전부터 자신의 그림 생성 플랫폼에 Stable Diffusion 모델을 적용하였다고 알려져 있으며, 미드저니 대표 David Holz가 스스로 밝힌 바에 따르더라도 ‘학습 데이터로 사용된 자료에 대하여 저작권자를 하나하나 추적하여 허락을 받을 수 없다’고 한 점에 비추어 보면, 학습 데이터의 저작권자로부터 별도의 동의를 받은 바는 없는 것으로 보입니다. 디비언트 아트는 전세계에서 등록된 사용자 수만 6,000만명을 넘어서는 창작물 공유 플랫폼으로서 개인 뿐만 아니라 현업에서 활동 중인 그림 작가들도 해당 플랫폼을 이용하는 것으로 알려져 있습니다. 디비언트 아트는 자신의 플랫폼에 있는 작품들을 Stable Diffusion 모델의 학습 데이터로 제공하였고, 이후 Stable Diffusion 모델에 기반하여 DreamUp이라는 그림 생성 플랫폼을 개시하여 유상 서비스를 제공하였습니다. 소장에 따르면, 디비언트 아트도 자신의 사이트를 이용하는 사용자들의 동의 없이 각 사용자가 올린 그림들을 학습 데이터로 사용할 수 있도록 LAION에 제공하였고, 심지어 이후 약관을 수정하여 향후에도 공유된 자료를 Stable Diffusion 모델의 학습 데이터로 사용할 수 있도록 하였다고 합니다. 결국, 피고로 지정된 Stability AI, 미드저니, 디비언트 아트는 모두 Stable Diffusion 모델에 기반하여 유료 그림 생성 서비스를 제공하는 플랫폼을 운영하였고, 그 기반이 된 Stable Diffusion 모델은 원 작가의 동의 없이 미술 저작물을 학습 데이터로 사용하였다는 점이 사건의 발단이 된 것으로 보입니다. 다만, 소장에 따르면 해당 집단소송을 제기하게 된 또 다른 계기가 있습니다. Stable Diffusion 모델에 그림 생성을 위한 문자 입력란(프롬프트)에 특정 작가의 스타일을 지정하는 방식으로 기재할 수 있고, 생성된 그림은 특정 작가의 화풍을 반영하여 출력된다는 점입니다. 예컨대, 오픈소스 소프트웨어로 배포된 Stable Diffusion 모델로 프롬프트를 입력할 때 그리고자 하는 대상을 표현하는 입력에 더하여 “art by Claude Monet” 또는 “art by Vincent van Gogh”를 함께 기재하게 되면 모네 또는 반 고흐 화풍을 그대로 반영하여 그림을 생성해 줍니다. 문제는 그러한 방식이 현재 활동 중인 그림 작가들에 대해서도 적용되어, 각 그림 작가의 이름과 함께 ‘in the style of OOO’라고 기재하면 각 그림 작가의 화풍이나 스타일을 그대로 반영하여 그림이 생성된다는 점이었습니다. 이는 해당 집단 소송의 소장에 기재된 청구원인에도 반영되어, 소장은 Stable Diffusion 모델 학습 및 이를 이용한 생성 행위에 대한 저작권법 위반과, 저작권 관리 정보 변경/삭제에 대한 디지털 밀레니엄 저작권법 위반 이외에도, Stable Diffusion 모델 기반의 그림 생성 플랫폼이 특정 그림 작가 또는 디자이너의 이름을 입력으로 받아 특정 화풍을 그대로 반영하는 그림을 출력물로 생성하는 행위에 대해서 아래와 같이 저작권법 위반 및 퍼블리시티권 침해를 추가적으로 문제 삼았습니다. * 스테빌리티 AI, 미드저니, 디비언트 아트의 그림 생성 플랫폼을 이용하는 사람들{소장에서는 “임포스터(Imposters)”라 칭함}이 프롬프트에 특정 작가 또는 디자이너의 이름을 자신이 그리고자 하는 대상을 설명하는 표현에 병기하는 방식으로 특정 화풍을 반영한 그림들{소장에서는 “가품(Fakes)”이라 칭함}을 생성해 내고, 이를 다른 미술품 거래 플랫폼에 판매하였는데, 그림 생성 플랫폼에 저작권법 위반의 대위 책임(vicarious liability)이 있음 * 원고는 작가 또는 디자이너로서 상당한 시간, 노력, 비용을 들여 작품 활동을 한 결과 자신만의 특유한 그림 스타일을 만들어내었고, 그 결과 해당 그림 스타일은 원고의 이름과 함께 인격 표지로서 기능하므로, 이를 이용하여 피고들의 플랫폼에서 프롬프트에 ‘in style of (이름)’ 입력만으로 동일한 화풍의 그림을 생성하고 상업적 이익을 취하는 행위는 원고의 퍼블리시티권 침해임 해당 집단 소송에서는 위 쟁점이 더해져 게티 이미지 소송과는 다소 다른 양상으로 흘러갈 것으로 예상됩니다. 소송 진행 경과에 따라 양 당사자의 공방이 어느 정도 이어지고 구체적인 사실관계가 더 드러나면 관련 쟁점을 보다 명확히 파악할 수 있을 것으로 보입니다. 3. Stable Diffusion 모델의 동향과 이슈 최근 디지털 미술 업계에서는 Stable Diffusion 모델이 그림 생성을 위한 초거대 AI 모델 중 압도적인 우위를 보이며 빠른 성장을 거듭하고 있습니다. Stable Diffusion 모델이 그림 생성 AI 모델들 중에서 우위를 보이는 현상은 비단 집단 소송에서 드러난 그림 생성 온라인 플랫폼에서뿐만이 아니라, 오픈소스 소프트웨어 업계에서도 발생하고 있습니다. 2022. 8. 오픈소스 소프트웨어로 배포된 이후에 원 개발자가 개량하여 배포하는 모델 이외에도 여러 개발자들이 자신만의 데이터로 추가 학습을 시켜 별도의 모델을 내놓거나 추가 기능을 구현하여 더 많은 사용자들이 다양한 방법으로 이용할 수 있게 되면서 불과 6개월이 채 지나지 않은 기간 내에 Stable Diffusion 모델에 기반한 오픈소스 소프트웨어 사용자 집단은 상당한 규모에 이르게 되었습니다. 특히 앞서 살펴본 바와 같이 단순히 온라인 플랫폼의 서비스를 이용하는 수준을 넘어서 개인 사용자도 자신의 컴퓨팅 자원을 이용하여 그림 생성을 할 수 있도록 여러 프로그램들이 공유되어 있어, 굳이 그림 생성 플랫폼에 접속하지 않더라도 누구나 쉽게 개별적으로 Stable Diffusion 모델을 구동해 볼 수 있습니다. 예컨대, 또 다른 오픈소스 소프트웨어로 배포된 Stable Diffusion web UI를 설치하면 자신의 컴퓨터로 일반 프로그램을 구동하듯이 실행하여 Stable Diffusion 모델을 이용한 그림 생성을 쉽게 구현할 수 있습니다. 게다가 각기 다른 학습 데이터를 추가로 반영한 여러 버전의 모델을 사용할 수도 있습니다. Hugging Face와 같은 공유 웹사이트를 통하여 취향에 따라 원하는 스타일의 모델을 구하여 그림을 생성해볼 수도 있습니다. 개별 사용자가 그와 같은 방법을 이용하여 만들어내는 그림들은 어느 웹사이트에서나 쉽게 확인할 수 있을 정도로 그 수가 크게 늘어났습니다. 나아가 개인 사용자가 단순히 인터넷 상에 공유되어 있는 모델을 이용하는 것을 넘어 자신만의 학습 데이터를 이용하여 추가 학습을 진행할 수 있습니다. ‘모델을 미세 조정(fine tuning)한다’고 하여 자신만의 스타일을 반영할 수 있습니다. 예컨대, Lora(Low-Rank Adaptation)라는 도구를 이용하면 적은 수의 학습 데이터로 특정 대상이나 형태, 유형 등을 원하는 스타일에 맞게 중점적으로 학습시킬 수 있고, 그렇게 학습이 완료되면 해당 스타일은 그대로 모방하면서도 프롬프트로 표현된 내용대로 새로운 그림을 생성시킬 수 있습니다. 결국 개인 사용자라도 누구든지 Stable Diffusion 모델에 기반한 자신만의 그림 생성 플랫폼을 가질 수 있게 되고, 인터넷 상에서 특정 스타일의 그림들을 수집하여 학습 데이터를 만들고 모델을 추가로 학습시켜 미세 조정함으로써 해당 스타일을 모방할 수 있게 되었습니다. 사용자들은 미세 조정을 마친 개량 모델들을 자신만 사용하는 것에 그치지 않고 공유 사이트를 통해 다른 사용자들에게 배포하기도 합니다. 그와 같은 과정이 반복되고 사용자 수가 기하급수적으로 늘어나, 인터넷 상에 공개된 그림, 사진 자료들은 알게 모르게 학습 데이터로 사용되어 개인 사용자들이 사용하는 Stable Diffusion 모델의 개량된 버전들에 녹아 들고 있습니다. 그렇다면 앞서 소송에서 살펴본 바와 같은 쟁점은 비단 미드저니, 스테빌리티 AI와 같은 그림 생성 플랫폼 기업에 한정되지 않고 오픈소스 소프트웨어로 시작되어 최근 급속도로 확장된 Stable Diffusion 모델의 사용자 집단에서도 살펴보아야 할 쟁점일 것입니다. 오히려 오픈소스 소프트웨어 환경에서는 Stable Diffusion 모델이 더 다양한 방식으로 개량되고 파생되어 온 점을 감안하면 추후 별도의 추가 쟁점들과 연결된 문제들이 발생할 가능성을 배제할 수 없습니다. 4. 시사점 최근 Stable Diffusion 모델을 중심으로 디지털 미술 업계에 불고 있는 그림 생성 초거대 AI 모델의 돌풍은 기술 혁신을 주도하고 있습니다. 그림 생성 초거대 AI 모델에 대한 관심이 높아지고 사용자 수가 늘어나면서 더욱 연구가 활발히 이루어진 덕분에 새로운 기능들이 많이 나오고 초거대 AI 모델의 활용도가 높아져 앞으로 잠재적인 성장 가능성을 보여주고 있기 때문입니다. 예컨대, 불과 얼마 전에 ControlNet이라는 기술이 공개되면서 그림 생성 AI 모델의 새로운 가능성을 보여준 사례가 대표적입니다. 종전에는 프롬프트 입력으로 그림의 형태를 통제하는 데 한계가 있었던 것을 넘어 그리고자 하는 그림의 뼈대를 입력하여 좀 더 사용자가 원하는 형태의 그림을 만들어 낼 수 있게 되었습니다. 해당 기술은 그림 생성 초거대 AI 모델로 단순히 정적인 그림을 생성하는 데 그치는 것이 아니라 시간적 흐름에 따라 동적인 움직임까지 그려낼 수 있기 때문에 종전 과는 완전히 다른 차원의 새로운 활용 가능성을 보여주었습니다. 특히 해당 기능에 대해서는 2023. 2. 10. 논문이 공개된 직후, Stable Diffusion 모델에 직접 접목하여 사용할 수 있는 오픈소스 소프트웨어로도 공개되면서 누구나 사용해 볼 수 있습니다. 이러한 추세로 보면 향후 더 큰 발전 가능성도 충분합니다. 그러나 그 이면에서 미국 소송에서 드러난 쟁점들은 그림 생성 초거대 AI 모델의 도입으로 업계 내에서 이해 충돌이 발생하고 갈등을 야기됨을 보여줍니다. 앞서 살펴본 미국 소송들은 소송의 형태로 갈등이 극대화된 것인데, 이러한 문제는 이미 지난 해 말부터 관련 업계에서 이슈가 되었던 것입니다. 예컨대, 현업에서 활동 중인 그림 작가의 그림들을 허락 없이 수집 학습하여 논란이 된 Novel AI 모델의 해킹 유출 사건, 고인이 된 작가의 그림을 허락 없이 AI 모델에 학습시켜 해당 작가의 화풍을 그대로 재현할 수 있는 AI 모델을 유포한 사례 등이 있습니다. 이에 그림 작가들이 자신의 작품을 AI 학습 데이터로 사용하지 말 것을 명시하여 공개하기도 하는데 그림 작가의 입장에서 실효성 있는 방안인지 확신하기 어렵습니다. 오히려 종전까지는 초거대 AI 모델의 학습 데이터에 대한 논의는 연구 목적에 초점이 맞춰져 있었고, 그에 따라 기술 혁신을 기대하는 흐름에 따라 인터넷에서 공개된 자료를 초거대 AI 모델의 학습에 사용하는 것을 어느 정도 용인하는 분위기였기 때문에, 작가들의 이와 같은 조치가 실효성 있는 것인지 법리적으로 분명하지 않은 실정입니다. 위 소송에서 쟁점화 된 바와 같이 명시적 동의 없이 또는 반대 의사로 볼 수 있는 정황에서 초거대 AI 모델의 학습이 이루어진 경우에 대해서 향후 양 당사자가 주장하는 바의 구체적인 근거와 논리, 그에 따른 법원의 최종적인 결론이 어떻게 나올지를 주시해야 할 것으로 보입니다. 한편, 위와 같은 갈등의 여지를 줄이기 위하여 학습 데이터를 제공한 저작권자에 대해 별도의 보상을 약속한 ShutterStock 사례도 있습니다. 오픈 AI는 그림 생성 초거대 AI 모델 ‘DALL-E’의 학습 데이터 확보를 위하여 ShutterStock 과 파트너십을 맺었고, ShutterStock은 DALL-E 모델에 기반한 그림 생성 플랫폼을 개시하면서, 학습 데이터로 사용된 자료에 대해서는 저작권자에게 보상을 지급하기로 약속하였습니다. 초거대 AI 모델을 위한 학습 데이터로 활용하는 행위는 공정 이용에 해당한다는 명분을 내세우는 대신에 직접 이해관계인과 타협하여 원만한 해결을 꾀하려 시도한 사례로 볼 수 있습니다. 이러한 사례는 초거대 AI 모델이 학계의 연구 대상으로만 인식되던 종전과 달리 상업적 수단의 하나로 자리 잡아가는 흐름에서 관련 업계가 자발적으로 마련할 수 있는 대안이 될 수 있는 것으로 보입니다. 다만, 위 집단 소송에서도 쟁점이 된 바와 같이, 특정 작가의 그림 데이터를 집중적으로 수집한 후 AI 모델에 학습을 시키고 ‘작가의 이름’과 같은 그 작가를 지칭하는 키워드로 해당 작가의 그림 스타일을 그대로 모방한 그림을 생성하도록 유도하거나 용인하는 행위는 초거대 AI 모델의 일반적인 학습 행위와는 별개로 살펴보아야 할 쟁점으로 보입니다. 해당 행위는 그 자체로 모방의 목적이나 의도가 드러나고, 그림 생성 초거대 AI 모델은 짧은 시간 내에도 대량의 그림을 생산해 낼 수 있다는 점에서 특정 작가가 작품 활동을 하고 있는 현재 또는 잠재적인 시장 가치에 상당한 영향을 미친다고 평가될 가능성이 높기 때문입니다. 나아가 해당 행위에 대해서는 저작권 법리 뿐만 아니라, 미국 집단소송에서와 같이 부정경쟁이나 퍼블리시티권 보호 법리도 면밀하게 살펴볼 필요가 있습니다. 이광욱 변호사 (kwlee@yoonyang.com) 이근우 변호사 (klee@yoonyang.com) 권은구 변리사 (egkwon@yoonyang.com)

기사 메일 보내기

보내는 기사

보내는 사람

이름 손님

이메일

받는사람

이름

이메일

제목

그림 생성 초거대 AI 모델에 대한 법적 이슈

내용

[2023.03.02.]

최근 디지털 미술 업계에서는 그림 생성 초거대 AI 모델들이 기술 혁신을 주도하고 있는데, 기존 디지털 미술 업계와의 이해 충돌도 발생하고 있습니다. 특히 그림 생성 초거대 AI모델의 최선봉에 서 있는 Stable Diffusion 모델에 대하여 미국 등에서 소송이 제기되기도 하였습니다. 이번 뉴스레터에서는 해당 소송의 배경에 있는 Stable Diffusion 모델에 대해서 살펴보고, 소송에서는 어떠한 점이 문제가 되었는지를 살펴보겠습니다. 또한, 소송 외에 현재 시점에서 바라보는 Stable Diffusion 모델의 동향과 이슈를 살펴보고, 이를 종합하여 우리에게 시사하는 바가 무엇인지 짚어보겠습니다.

1. 배경

OpenAI의 ChatGPT와 함께 또 다른 생성 AI 모델로 사람들의 관심이 집중되며 재조명되고 있는 그림 생성 초거대 AI 모델, ‘Stable Diffusion’ 모델과 관련하여 2023. 영국, 미국에서 연이어 소송이 제기되고 있습니다.

‘Stable Diffusion 모델’은 문자 입력으로 그림을 생성하는데 특화되어 있는 초거대 AI 모델입니다. Stable Diffusion 모델은 독일 뮌헨 대학교의 CompVis 연구실에서 만든 잠재 확산 모델(Latent Diffusion Model, 'LDM’)을 기반으로 하여, 영국 소재의 Stability AI 등의 업체들과 협업을 통하여 대량의 이미지 데이터를 학습한 결과 탄생한 초거대 AI 모델입니다. Stable Diffusion은 2022. 8. 오픈소스 소프트웨어로 공개된 이후 다양한 버전의 개량 모델이 나오면서, 지금은 널리 알려진 Midjourney 와 같은 업체의 그림 생성 서비스 모델이 기반으로 사용될 뿐만 아니라, 최근에는 각 개인들이 사용하는 그림 도구로 인기를 끌면서 이용자 수가 빠르게 늘어나며 널리 활용되고 있습니다. 현재 국내에서 각종 인터넷 커뮤니티에서 공유되고 있는 초거대 AI 모델 기반 그림들은 대부분 Stable Diffusion 모델의 개량 버전으로 제작되었다고 보아도 무방할 정도입니다.

사건은 다른 초거대 AI 모델에 대한 소송 사건과 마찬가지로, 학습이 완료된 Stable Diffusion 모델이 공개되고 일반 사용자들이 그림 생성 초거대 AI 모델을 직접 경험해볼 수 있게 된 이후, 해당 모델의 학습 과정에서 저작권자의 동의 없이 인터넷에서 공개된 미술 저작물이 수집된 사례가 있다는 점이 밝혀지면서 촉발되었습니다. Stable Diffusion 모델이 공개된 이후, 여러 온라인 플랫폼들이 해당 모델을 자신의 그림 생성 서비스에 접목하여 상업적인 목적으로 운영하기 시작하면서, 디지털 미술 업계에서 기존에 시장 수요를 담당하던 플레이어들과 이해 충돌이 발생하고 갈등이 유발되었 것으로 보입니다. 이로써 다시 한번, 인터넷에서 누구나 쉽게 열람할 수 있는 공개 자료를 해당 자료에 대한 권리자의 동의 없이 초거대 AI 모델의 학습 데이터로 사용하고, 그렇게 학습이 완료된 초거대 AI 모델을 단순 연구 성과를 넘어 상업적인 도구로 사용하는 것을 적법한 행위로 인정할 수 있을지에 대한 문제가 수면 위로 떠오르게 되었습니다.

2. 그림 생성 초거대 AI 모델 관련 소송의 개요

가. 게티 이미지(Getty Images) vs. 스테빌리티 AI(Stability AI)

게티 이미지는 영국에 본사를 둔 스테빌리티 AI를 상대로 2023. 1. 17. 영국 법원에 소송을 제기한 이후 2023. 2. 3. 델라웨어주 지방법원에도 소송을 제기하였습니다. 스테빌리티 AI가 2022. 8. Stable Diffusion 모델을 오픈소스 소프트웨어로 공개하고, 자신은 해당 모델을 이용하여 Dream Studio 라는 플랫폼에서 유료 그림 생성 서비스를 제공한 지 불과 6개월이 채 지나지도 않았는데 소송이 제기된 것입니다. 짧은 시간에 불과하지만 Stable Diffusion 모델이 그림, 사진 공급 시장에 불러일으킨 파급력은 위협적이었고, 그로 인해 게티 이미지가 영국, 미국 2개의 국가에서의 동시 소송으로 전면전에 나서게 된 것으로 보입니다.

소장에 따르면 게티 이미지가 밝힌 사실관계는 아래와 같습니다.

* 게티 이미지는 세계 최대 규모의 시각 자료 보유 업체로서, 디지털 미술 업계에서 사진, 그림을 공급하는 주요 공급자 중 하나임

* 게티 이미지는 보유한 대다수 사진, 그림 자료에 대해 저작권을 보유하거나 독점 이용권을 부여 받았고, 그 사진, 그림 자료를 사용자에게 라이선스를 제공하여 이용하도록 하는 방식으로 사업을 영위하고 있음

* 게티 이미지의 각 사진, 그림 자료에는 제목, 캡션, URL 등 각종 메타 데이터 정보가 연계되어 있고, 이를 데이터베이스화하고 검색 시스템을 구축하는데 상당한 시간과 노력을 투입하였음

* 게티 이미지 이용 약관에 라이선스 없이는 웹사이트 내 어떠한 자료도 다운로드, 복사, 재전송을 받을 수 없고, 데이터 마이닝, 로봇 등의 데이터 수집, 추출 방법에 사용될 수 없다고 명시되어 있어, 해당 자료들은 AI 학습 데이터로 사용될 수 없음

* Stable Diffusion 모델은 독일 업체 ‘LAION’으로부터 제공 받은 5억개에 이르는 학습 데이터로 학습이 이뤄지고, 해당 학습 데이터에 포함된 게티 이미지의 자료는 적어도 1,200만개에 이르는데, 게티 이미지는 이에 대해 허락한 바 없음

* 스테빌리티 AI는 Stable Diffusion 모델의 위 학습 과정에 관여하였고, 이후 오픈소스 소프트웨어로 Stable Diffusion 모델을 공개한 당사자임

* 스테빌리티 AI가 Stable Diffusion을 최초 공개한 이후, 스테빌리티 AI를 포함한 기존 개발자들은 Stable Diffusion 모델을 개량하여 상위 버전의 모델도 계속하여 배포해왔음

* 게티 이미지가 구축한 데이터베이스는 사진, 그림 자료와 그에 대응되는 정확한 문자 정보를 갖추고 있기 때문에 AI 모델 학습 데이터로 안성맞춤이고, 이는 Stable Diffusion 모델의 성능 향상에 크게 기여하였음

* 실제로 Stable Diffusion 모델로 생성된 출력물에는 ‘게티 이미지와 유사한 그림’이나 ‘게티 이미지의 상표, 워터마크 형체가 남아 있는 그림’이 발견되었음(아래 소장에 기재된 예시 참조)

* 최근 논문에서도 Stable Diffusion 모델이 학습 데이터로 사용된 사진, 그림을 거의 그대로 혹은 극히 유사한 형태로 재생산하는 사례를 보고한 바 있음

* 스테빌리티 AI는 Stable Diffusion 모델에 기반하여 유료 그림 생성 서비스 플랫폼 Dream Studio을 운영하여 수익을 창출하고 있고, 이는 게티 이미지의 서비스 수요를 강탈하는 효과로 이어짐

* 스테빌리티 AI는 게티 이미지의 동의 없이 Stable Diffusion 모델을 오픈소스 소프트웨어로 배포하여 제3자가 이를 접근하고, 개량하도록 허용하였음

게티 이미지가 주장하는 스테빌리티 AI의 주요 위법 행위를 살펴보면 아래와 같습니다.

* 게티 이미지의 저작물을 복제하거나 그 2차적 저작물을 만들어 내는 행위(미국 저작권법 제106조 이하 일반 조항)

17 U.S. Code § 106 - Exclusive rights in copyrighted works

Subject to sections 107 through 122, the owner of copyright under this title has the exclusive rights to do and to authorize any of the following:

(1)to reproduce the copyrighted work in copies or phonorecords;

(2)to prepare derivative works based upon the copyrighted work; (...)

* 게티 이미지의 워터마크를 변형하는 등, 고의로 또는 저작권 침해 은폐 등을 목적으로, 저작권 관리 정보(Copyright Management Information, ‘CMI’)를 허위로 제공하거나, 이를 제거 또는 변경하는 행위{디지털 밀레니엄 저작권법 제1202조(a), (b)}

17 U.S. Code § 1202 - Integrity of copyright management information

(a)False Copyright Management Information.-No person shall knowingly and with the intent to induce, enable, facilitate, or conceal infringement-

(1)provide copyright management information that is false, or

(2)distribute or import for distribution copyright management information that is false.

(b)Removal or Alteration of Copyright Management Information.-No person shall, without the authority of the copyright owner or the law-

(1)intentionally remove or alter any copyright management information, (...)

* 게티 이미지의 등록 상표 사용으로 수요자의 오인, 혼동을 초래한 행위{미국 상표법 제1114조(1)}

15 U.S. Code § 1114 - Remedies; infringement; innocent infringement by printers and publishers

(1)Any person who shall, without the consent of the registrant-

(a)use in commerce any reproduction, counterfeit, copy, or colorable imitation of a registered mark in connection with the sale, offering for sale, distribution, or advertising of any goods or services on or in connection with which such use is likely to cause confusion, or to cause mistake, or to deceive; (...) shall be liable in a civil action by the registrant for the remedies hereinafter provided.

* 게티 이미지와의 관계에서 출처의 오인, 혼동을 불러일으킬 수 있는 표지 등의 사용 및 게티 이미지 상표 희석화 행위{미국 상표법 제1125조(a), (c)}

15 U.S. Code § 1125 - False designations of origin, false descriptions, and dilution forbidden

(a)Civil action

(1)Any person who, on or in connection with any goods or services, or any container for goods, uses in commerce any word, term, name, symbol, or device, or any combination thereof, or any false designation of origin, false or misleading description of fact, or false or misleading representation of fact, which-

(A)is likely to cause confusion, or to cause mistake, or to deceive as to the affiliation, connection, or association of such person with another person, or as to the origin, sponsorship, or approval of his or her goods, services, or commercial activities by another person, (...) shall be liable in a civil action by any person who believes that he or she is or is likely to be damaged by such act. (…)

(c)Dilution by blurring; dilution by tarnishment

(1)Injunctive relief

Subject to the principles of equity, the owner of a famous mark that is distinctive, inherently or through acquired distinctiveness, shall be entitled to an injunction against another person who, at any time after the owner’s mark has become famous, commences use of a mark or trade name in commerce that is likely to cause dilution by blurring or dilution by tarnishment of the famous mark, regardless of the presence or absence of actual or likely confusion, of competition, or of actual economic injury. (…)

게티 이미지는 위 위법 행위에 대해 스테빌리티 AI를 상대로 손해배상을 구할 뿐만 아니라, ‘Stable Diffusion 모델 일체의 삭제’도 청구하였습니다.

위 게티 이미지 소송과 별개로, 개인 저작권자들도 2023. 1. 13. 캘리포니아주 북부 지방 법원에서 스테빌리티 AI, 미드저니, 디비언트 아트를 상대로 집단 소송을 제기하였습니다. 자신의 미술 저작물이 동의 없이 Stable Diffusion 모델의 학습 데이터로 사용되었다고 하면서, Stable Diffusion 모델에 기반하여 그림 생성 플랫폼을 운영하고 있는 회사를 상대로 집단 소송을 제기한 것입니다. 참고로, 저작권자측 소송 대리인은 지난 해 GPT 기반의 언어 생성 초거대 AI 모델 Copilot에 대하여 집단소송을 제기했던 대리인과 동일합니다.

위 집단 소송에서 저작권자들이 Stability AI에 대하여 주장하는 사실은 게티 이미지 소송에서 언급된 바와 다르지 않습니다. Stability AI가 Stable Diffusion 모델의 학습에 관여하였고, 학습된 결과로 나온 AI 모델을 오픈소스 소프트웨어로 배포하였으며, 자신은 해당 모델에 기반한 Dream Studio라는 플랫폼으로 그림 생성 서비스를 유료로 제공하고 있다는 점과 그 과정에서 Stability AI 는 원고인 저작권자들에게 어떠한 허락도 구하지 않았다는 사실입니다. 원고는 어느 한 웹사이트(https://haveibeentrained.com/)를 통하여 자신의 저작물이 Stable Diffusion 모델의 학습 데이터에 포함되어 있음을 확인하였습니다.

미드저니(Midjourney), 디비언트 아트(Deviant Art)에 대하여 주장된 사실도 유사합니다.

미드저니는 2022. 8. 배포한 버전부터 자신의 그림 생성 플랫폼에 Stable Diffusion 모델을 적용하였다고 알려져 있으며, 미드저니 대표 David Holz가 스스로 밝힌 바에 따르더라도 ‘학습 데이터로 사용된 자료에 대하여 저작권자를 하나하나 추적하여 허락을 받을 수 없다’고 한 점에 비추어 보면, 학습 데이터의 저작권자로부터 별도의 동의를 받은 바는 없는 것으로 보입니다.

디비언트 아트는 전세계에서 등록된 사용자 수만 6,000만명을 넘어서는 창작물 공유 플랫폼으로서 개인 뿐만 아니라 현업에서 활동 중인 그림 작가들도 해당 플랫폼을 이용하는 것으로 알려져 있습니다. 디비언트 아트는 자신의 플랫폼에 있는 작품들을 Stable Diffusion 모델의 학습 데이터로 제공하였고, 이후 Stable Diffusion 모델에 기반하여 DreamUp이라는 그림 생성 플랫폼을 개시하여 유상 서비스를 제공하였습니다. 소장에 따르면, 디비언트 아트도 자신의 사이트를 이용하는 사용자들의 동의 없이 각 사용자가 올린 그림들을 학습 데이터로 사용할 수 있도록 LAION에 제공하였고, 심지어 이후 약관을 수정하여 향후에도 공유된 자료를 Stable Diffusion 모델의 학습 데이터로 사용할 수 있도록 하였다고 합니다.

결국, 피고로 지정된 Stability AI, 미드저니, 디비언트 아트는 모두 Stable Diffusion 모델에 기반하여 유료 그림 생성 서비스를 제공하는 플랫폼을 운영하였고, 그 기반이 된 Stable Diffusion 모델은 원 작가의 동의 없이 미술 저작물을 학습 데이터로 사용하였다는 점이 사건의 발단이 된 것으로 보입니다.

다만, 소장에 따르면 해당 집단소송을 제기하게 된 또 다른 계기가 있습니다. Stable Diffusion 모델에 그림 생성을 위한 문자 입력란(프롬프트)에 특정 작가의 스타일을 지정하는 방식으로 기재할 수 있고, 생성된 그림은 특정 작가의 화풍을 반영하여 출력된다는 점입니다. 예컨대, 오픈소스 소프트웨어로 배포된 Stable Diffusion 모델로 프롬프트를 입력할 때 그리고자 하는 대상을 표현하는 입력에 더하여 “art by Claude Monet” 또는 “art by Vincent van Gogh”를 함께 기재하게 되면 모네 또는 반 고흐 화풍을 그대로 반영하여 그림을 생성해 줍니다. 문제는 그러한 방식이 현재 활동 중인 그림 작가들에 대해서도 적용되어, 각 그림 작가의 이름과 함께 ‘in the style of OOO’라고 기재하면 각 그림 작가의 화풍이나 스타일을 그대로 반영하여 그림이 생성된다는 점이었습니다.

이는 해당 집단 소송의 소장에 기재된 청구원인에도 반영되어, 소장은 Stable Diffusion 모델 학습 및 이를 이용한 생성 행위에 대한 저작권법 위반과, 저작권 관리 정보 변경/삭제에 대한 디지털 밀레니엄 저작권법 위반 이외에도, Stable Diffusion 모델 기반의 그림 생성 플랫폼이 특정 그림 작가 또는 디자이너의 이름을 입력으로 받아 특정 화풍을 그대로 반영하는 그림을 출력물로 생성하는 행위에 대해서 아래와 같이 저작권법 위반 및 퍼블리시티권 침해를 추가적으로 문제 삼았습니다.

* 스테빌리티 AI, 미드저니, 디비언트 아트의 그림 생성 플랫폼을 이용하는 사람들{소장에서는 “임포스터(Imposters)”라 칭함}이 프롬프트에 특정 작가 또는 디자이너의 이름을 자신이 그리고자 하는 대상을 설명하는 표현에 병기하는 방식으로 특정 화풍을 반영한 그림들{소장에서는 “가품(Fakes)”이라 칭함}을 생성해 내고, 이를 다른 미술품 거래 플랫폼에 판매하였는데, 그림 생성 플랫폼에 저작권법 위반의 대위 책임(vicarious liability)이 있음

* 원고는 작가 또는 디자이너로서 상당한 시간, 노력, 비용을 들여 작품 활동을 한 결과 자신만의 특유한 그림 스타일을 만들어내었고, 그 결과 해당 그림 스타일은 원고의 이름과 함께 인격 표지로서 기능하므로, 이를 이용하여 피고들의 플랫폼에서 프롬프트에 ‘in style of (이름)’ 입력만으로 동일한 화풍의 그림을 생성하고 상업적 이익을 취하는 행위는 원고의 퍼블리시티권 침해임

해당 집단 소송에서는 위 쟁점이 더해져 게티 이미지 소송과는 다소 다른 양상으로 흘러갈 것으로 예상됩니다. 소송 진행 경과에 따라 양 당사자의 공방이 어느 정도 이어지고 구체적인 사실관계가 더 드러나면 관련 쟁점을 보다 명확히 파악할 수 있을 것으로 보입니다.

3. Stable Diffusion 모델의 동향과 이슈

최근 디지털 미술 업계에서는 Stable Diffusion 모델이 그림 생성을 위한 초거대 AI 모델 중 압도적인 우위를 보이며 빠른 성장을 거듭하고 있습니다. Stable Diffusion 모델이 그림 생성 AI 모델들 중에서 우위를 보이는 현상은 비단 집단 소송에서 드러난 그림 생성 온라인 플랫폼에서뿐만이 아니라, 오픈소스 소프트웨어 업계에서도 발생하고 있습니다. 2022. 8. 오픈소스 소프트웨어로 배포된 이후에 원 개발자가 개량하여 배포하는 모델 이외에도 여러 개발자들이 자신만의 데이터로 추가 학습을 시켜 별도의 모델을 내놓거나 추가 기능을 구현하여 더 많은 사용자들이 다양한 방법으로 이용할 수 있게 되면서 불과 6개월이 채 지나지 않은 기간 내에 Stable Diffusion 모델에 기반한 오픈소스 소프트웨어 사용자 집단은 상당한 규모에 이르게 되었습니다.

특히 앞서 살펴본 바와 같이 단순히 온라인 플랫폼의 서비스를 이용하는 수준을 넘어서 개인 사용자도 자신의 컴퓨팅 자원을 이용하여 그림 생성을 할 수 있도록 여러 프로그램들이 공유되어 있어, 굳이 그림 생성 플랫폼에 접속하지 않더라도 누구나 쉽게 개별적으로 Stable Diffusion 모델을 구동해 볼 수 있습니다. 예컨대, 또 다른 오픈소스 소프트웨어로 배포된 Stable Diffusion web UI를 설치하면 자신의 컴퓨터로 일반 프로그램을 구동하듯이 실행하여 Stable Diffusion 모델을 이용한 그림 생성을 쉽게 구현할 수 있습니다. 게다가 각기 다른 학습 데이터를 추가로 반영한 여러 버전의 모델을 사용할 수도 있습니다. Hugging Face와 같은 공유 웹사이트를 통하여 취향에 따라 원하는 스타일의 모델을 구하여 그림을 생성해볼 수도 있습니다. 개별 사용자가 그와 같은 방법을 이용하여 만들어내는 그림들은 어느 웹사이트에서나 쉽게 확인할 수 있을 정도로 그 수가 크게 늘어났습니다.

나아가 개인 사용자가 단순히 인터넷 상에 공유되어 있는 모델을 이용하는 것을 넘어 자신만의 학습 데이터를 이용하여 추가 학습을 진행할 수 있습니다. ‘모델을 미세 조정(fine tuning)한다’고 하여 자신만의 스타일을 반영할 수 있습니다. 예컨대, Lora(Low-Rank Adaptation)라는 도구를 이용하면 적은 수의 학습 데이터로 특정 대상이나 형태, 유형 등을 원하는 스타일에 맞게 중점적으로 학습시킬 수 있고, 그렇게 학습이 완료되면 해당 스타일은 그대로 모방하면서도 프롬프트로 표현된 내용대로 새로운 그림을 생성시킬 수 있습니다.

결국 개인 사용자라도 누구든지 Stable Diffusion 모델에 기반한 자신만의 그림 생성 플랫폼을 가질 수 있게 되고, 인터넷 상에서 특정 스타일의 그림들을 수집하여 학습 데이터를 만들고 모델을 추가로 학습시켜 미세 조정함으로써 해당 스타일을 모방할 수 있게 되었습니다. 사용자들은 미세 조정을 마친 개량 모델들을 자신만 사용하는 것에 그치지 않고 공유 사이트를 통해 다른 사용자들에게 배포하기도 합니다. 그와 같은 과정이 반복되고 사용자 수가 기하급수적으로 늘어나, 인터넷 상에 공개된 그림, 사진 자료들은 알게 모르게 학습 데이터로 사용되어 개인 사용자들이 사용하는 Stable Diffusion 모델의 개량된 버전들에 녹아 들고 있습니다.

그렇다면 앞서 소송에서 살펴본 바와 같은 쟁점은 비단 미드저니, 스테빌리티 AI와 같은 그림 생성 플랫폼 기업에 한정되지 않고 오픈소스 소프트웨어로 시작되어 최근 급속도로 확장된 Stable Diffusion 모델의 사용자 집단에서도 살펴보아야 할 쟁점일 것입니다. 오히려 오픈소스 소프트웨어 환경에서는 Stable Diffusion 모델이 더 다양한 방식으로 개량되고 파생되어 온 점을 감안하면 추후 별도의 추가 쟁점들과 연결된 문제들이 발생할 가능성을 배제할 수 없습니다.

4. 시사점

최근 Stable Diffusion 모델을 중심으로 디지털 미술 업계에 불고 있는 그림 생성 초거대 AI 모델의 돌풍은 기술 혁신을 주도하고 있습니다. 그림 생성 초거대 AI 모델에 대한 관심이 높아지고 사용자 수가 늘어나면서 더욱 연구가 활발히 이루어진 덕분에 새로운 기능들이 많이 나오고 초거대 AI 모델의 활용도가 높아져 앞으로 잠재적인 성장 가능성을 보여주고 있기 때문입니다. 예컨대, 불과 얼마 전에 ControlNet이라는 기술이 공개되면서 그림 생성 AI 모델의 새로운 가능성을 보여준 사례가 대표적입니다. 종전에는 프롬프트 입력으로 그림의 형태를 통제하는 데 한계가 있었던 것을 넘어 그리고자 하는 그림의 뼈대를 입력하여 좀 더 사용자가 원하는 형태의 그림을 만들어 낼 수 있게 되었습니다. 해당 기술은 그림 생성 초거대 AI 모델로 단순히 정적인 그림을 생성하는 데 그치는 것이 아니라 시간적 흐름에 따라 동적인 움직임까지 그려낼 수 있기 때문에 종전 과는 완전히 다른 차원의 새로운 활용 가능성을 보여주었습니다. 특히 해당 기능에 대해서는 2023. 2. 10. 논문이 공개된 직후, Stable Diffusion 모델에 직접 접목하여 사용할 수 있는 오픈소스 소프트웨어로도 공개되면서 누구나 사용해 볼 수 있습니다. 이러한 추세로 보면 향후 더 큰 발전 가능성도 충분합니다.

그러나 그 이면에서 미국 소송에서 드러난 쟁점들은 그림 생성 초거대 AI 모델의 도입으로 업계 내에서 이해 충돌이 발생하고 갈등을 야기됨을 보여줍니다. 앞서 살펴본 미국 소송들은 소송의 형태로 갈등이 극대화된 것인데, 이러한 문제는 이미 지난 해 말부터 관련 업계에서 이슈가 되었던 것입니다. 예컨대, 현업에서 활동 중인 그림 작가의 그림들을 허락 없이 수집 학습하여 논란이 된 Novel AI 모델의 해킹 유출 사건, 고인이 된 작가의 그림을 허락 없이 AI 모델에 학습시켜 해당 작가의 화풍을 그대로 재현할 수 있는 AI 모델을 유포한 사례 등이 있습니다.

이에 그림 작가들이 자신의 작품을 AI 학습 데이터로 사용하지 말 것을 명시하여 공개하기도 하는데 그림 작가의 입장에서 실효성 있는 방안인지 확신하기 어렵습니다. 오히려 종전까지는 초거대 AI 모델의 학습 데이터에 대한 논의는 연구 목적에 초점이 맞춰져 있었고, 그에 따라 기술 혁신을 기대하는 흐름에 따라 인터넷에서 공개된 자료를 초거대 AI 모델의 학습에 사용하는 것을 어느 정도 용인하는 분위기였기 때문에, 작가들의 이와 같은 조치가 실효성 있는 것인지 법리적으로 분명하지 않은 실정입니다. 위 소송에서 쟁점화 된 바와 같이 명시적 동의 없이 또는 반대 의사로 볼 수 있는 정황에서 초거대 AI 모델의 학습이 이루어진 경우에 대해서 향후 양 당사자가 주장하는 바의 구체적인 근거와 논리, 그에 따른 법원의 최종적인 결론이 어떻게 나올지를 주시해야 할 것으로 보입니다.

한편, 위와 같은 갈등의 여지를 줄이기 위하여 학습 데이터를 제공한 저작권자에 대해 별도의 보상을 약속한 ShutterStock 사례도 있습니다. 오픈 AI는 그림 생성 초거대 AI 모델 ‘DALL-E’의 학습 데이터 확보를 위하여 ShutterStock 과 파트너십을 맺었고, ShutterStock은 DALL-E 모델에 기반한 그림 생성 플랫폼을 개시하면서, 학습 데이터로 사용된 자료에 대해서는 저작권자에게 보상을 지급하기로 약속하였습니다. 초거대 AI 모델을 위한 학습 데이터로 활용하는 행위는 공정 이용에 해당한다는 명분을 내세우는 대신에 직접 이해관계인과 타협하여 원만한 해결을 꾀하려 시도한 사례로 볼 수 있습니다. 이러한 사례는 초거대 AI 모델이 학계의 연구 대상으로만 인식되던 종전과 달리 상업적 수단의 하나로 자리 잡아가는 흐름에서 관련 업계가 자발적으로 마련할 수 있는 대안이 될 수 있는 것으로 보입니다.

다만, 위 집단 소송에서도 쟁점이 된 바와 같이, 특정 작가의 그림 데이터를 집중적으로 수집한 후 AI 모델에 학습을 시키고 ‘작가의 이름’과 같은 그 작가를 지칭하는 키워드로 해당 작가의 그림 스타일을 그대로 모방한 그림을 생성하도록 유도하거나 용인하는 행위는 초거대 AI 모델의 일반적인 학습 행위와는 별개로 살펴보아야 할 쟁점으로 보입니다. 해당 행위는 그 자체로 모방의 목적이나 의도가 드러나고, 그림 생성 초거대 AI 모델은 짧은 시간 내에도 대량의 그림을 생산해 낼 수 있다는 점에서 특정 작가가 작품 활동을 하고 있는 현재 또는 잠재적인 시장 가치에 상당한 영향을 미친다고 평가될 가능성이 높기 때문입니다. 나아가 해당 행위에 대해서는 저작권 법리 뿐만 아니라, 미국 집단소송에서와 같이 부정경쟁이나 퍼블리시티권 보호 법리도 면밀하게 살펴볼 필요가 있습니다.

이광욱 변호사 (kwlee@yoonyang.com)

이근우 변호사 (klee@yoonyang.com)

권은구 변리사 (egkwon@yoonyang.com)

기사 스크랩하기
기사제목

스크랩 보기
번호	제목	스크랩 날짜
스크랩 기사가 없습니다.