LightShed：デジタルアートのAI対策を無効化するツールが開発された意図とは

AIとアートの間で続く「いたちごっこ」の話です。

生成AIは、私たちがネットに公開した画像を集めて学習し、新しい絵を生み出します。しかしその過程で、アーティストの絵が無断で使われることが問題になってきました。AIが学習してしまうと、画風を真似され、仕事を奪われるかもしれないという不安が広がっています。

こうした中で2023年に生まれたのが、Glaze（グレイズ）やNightshade（ナイトシェイド）という「毒」を仕込むツールです。アートの画像に目立たない形で細かい変更（摂動）を加え、AIが正しく学習できないようにする技術で、アーティストたちは自分の作品を守る盾として使ってきました。

ところが今回、LightShed（ライトシェッド）という新しい技術が登場し、GlazeやNightshadeが仕込んだ「毒」を取り除いてしまうことができるようになったのです。これにより、作品が再びAIの学習に使える状態に戻ってしまいます。

LightShedの研究者たちは「アーティストから作品を盗むことが目的ではない」と話しています。むしろ「こうした保護ツールは万能ではない」という現実を知ってほしいと考えているのです。なぜなら、企業側が裏で毒を除去して学習を続けていても、私たちに伝えない可能性があるからです。

AIモデルは、画像の中でどこからどこまでが同じカテゴリーかを判断する境界を持っています。Glazeは画風を誤認させ、Nightshadeは被写体自体を誤認させる仕組みで、この境界を揺るがします。しかしLightShedは、画像からこの「毒」だけを抽出して取り除く方法を学習することで、AIが正しく作品を学習できるようにしてしまうのです。

現在、750万人以上のアーティストがGlazeを使っています。まだ法整備が整わない中、こうしたツールは大切な防御手段となっていますが、LightShedの登場で「これだけで安心できるわけではない」という現実も突きつけられました。

ただ、GlazeやNightshadeの開発者も「これらは未来永劫の解決策ではない」と最初から認識しており、それでも使う意味があるとしています。なぜなら、AI企業に対して「アーティストは本気で作品を守ろうとしている」というメッセージを送り、AI企業がアーティストと協力する道を選びやすくする抑止力になるからです。

LightShedの研究者も、これを使ってさらに新しい防御技術を生み出したいと考えています。AIに対して完璧な防御は難しいかもしれませんが、アーティストの側に再び力を取り戻す技術を模索し続けています。

元記事はこちら

MIT Technology Review

This tool strips away anti-AI protections from digital art