생성형 AI에 '독 푸는' 도구의 등장
새로운 도구인 Nightshade는 예술가들이 그들의 작품을 온라인에 업로드하기 전에 픽셀에 보이지 않는 변경 사항을 추가할 수 있게 함. 이렇게 하면 AI 교육 세트로 스크랩되면 결과 모델이 혼돈스럽고 예측할 수 없는 방식으로 중단될 수 있음.
Nightshade는 예술가의 작품을 그들의 허락 없이 모델 교육에 사용하는 AI 회사들에 대한 대응 수단으로 의도됨. 이 도구를 사용하여 이러한 교육 데이터를 "독"으로 만들면 이미지 생성 AI 모델의 미래 버전을 손상시킬 수 있음.
Nightshade는 인터넷에서 수집된 이미지에 대한 대량의 데이터로 훈련되는 생성 AI 모델의 보안 취약점을 활용.
예술가들은 그들의 작품을 온라인에 업로드하고 싶지만 AI 회사들에 의해 그들의 이미지가 스크랩되길 원하지 않는다면 Glaze에 업로드하고 다른 예술 스타일로 마스크할 수 있습니다.
AI 회사들, 예를 들어 OpenAI, Meta, Google 및 Stability AI는 그들의 저작권 자료와 개인 정보가 동의나 보상 없이 스크랩되었다고 주장하는 예술가들로부터 많은 소송을 받고 있음.
Nightshade와 Glaze와 같은 도구는 예술가들에게 그들의 작품을 다시 온라인에 게시할 수 있는 자신감을 줌.
자세한 내용은 : https://www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/
