AI 기업들에 대한 아티스트들의 반격: ‘나이트쉐이드(Nightshade)’ 도구 등장

새로운 도구 ‘나이트쉐이드(Nightshade)’가 아티스트들의 권리를 보호하기 위해 등장했다.

MIT 테크놀로지 리뷰는 23일(현지시간) 시카고대학교 연구진이 AI 회사가 아티스트의 창작물을 동의 없이 활용하는 것을 방지하고 그 과정에서 AI 모델의 무결성을 위협하는 도구인 ‘나이트쉐이드(NightShade)’를 공개했다고 전했다.

이 도구를 사용하면, 아티스트들은 그들의 작품을 온라인에 업로드하기 전에 픽셀에 눈에 띄지 않는 변화를 추가할 수 있다. 이러한 변화는 AI 훈련 데이터에 스크랩되었을 때 모델을 혼란스럽게 작동하게 만들며, 이는 AI 모델 훈련에 아티스트의 작품을 허락 없이 사용하는 회사들에 대한 반격의 수단으로 작용한다.

즉, 새로운 도구를 사용하면 아티스트들이 자신의 작품을 온라인에 업로드하기 전에 픽셀에 보이지 않는 변경 사항을 추가할 수 있다. 따라서 작품이 AI 훈련 세트에 스크랩되면 해당 모델이 혼란스럽고 예측할 수 없는 방식으로 중단된다.

이 도구, ‘나이트쉐이드(Nightshade)’라는 이름의 도구는, 창작자의 허락 없이 자신의 작품을 모델 훈련에 사용하는 AI 회사에 대응하는 방법으로 의도되었다. 이를 사용하여 이러한 훈련 데이터에 "독을 주입"하면 이미지 생성 AI 모델의 미래 버전을 손상시킬 수 있다.

주요 AI 기업들 중 OpenAI, Meta, Google 및 Stability AI는 저작권 소재와 개인 정보를 동의나 보상 없이 스크랩했다는 주장으로 아티스트로부터 소송을 받고 있다. 이와 관련, ‘나이트쉐이드(Nightshade)’를 개발한 시카고 대학교의 벤 자오(Ben Zhao) 교수는 이 도구가 아티스트들의 권리 보호를 위한 강력한 도구로 작용할 것이라고 전망했다.

Zhao 교수의 팀은 아티스트들의 개인 스타일을 ‘마스킹’하여 AI 회사들의 스크랩을 방지하는 ‘글레이즈(Glaze)’라는 다른 도구도 개발하였다. 특히 'Nightshade'는 스크랩된 이미지들을 혼란스럽게 만들어 AI 모델이 예상대로 작동하지 않게 한다.

더불어 연구진은 아티스트가 자신의 고유한 스타일을 복제하지 못하도록 보호하는 또 다른 도구인 ‘글레이즈(Glaze)’도 출시했다.

이것 역시 나이트쉐이드와 유사하게 사람의 눈에 띄지 않고 AI 모델의 해석을 조작하는 방식으로 이미지 픽셀을 미묘하게 변경한다. 예술가들이 자신의 작품 스타일을 난독화하거나 흐릿하게 하는 식이다. 예를 들어, 목탄 초상화 스타일이 AI 시스템에는 유화로 나타날 수 있다.

이 연구는 AI 모델의 취약점과 아티스트들의 저작권 보호 필요성을 강조하고 있다. 아티스트들은 이러한 도구들의 등장을 환영하며, 온라인에 자신들의 작품을 안심하고 다시 게시할 수 있게 되었다고 전했다.