人工知能（AI）による画像生成機能は、AIのトレーニングに使用される無数の画像データによって支えられている。画像生成AIは、ユーザー入力したキーワードに従って既存の画像を分解して色や形を組み合わせ、新たな作品を生み出す（この作品が本当に新しいものと言えるかどうかは議論の対象になっている）。
DreamUpによって生成された画像
提供：DreamUp
画像生成AIは、取り込んだ絵から情報を引き出しているわけだが、その行為自体は人間のアーティストもやっていることだ。ただし、人間が入力された情報を見て、それを処理し、何か新しいものを生み出そうとする行為と、AIの画像生成の間には、規模に大きな違いがある。
アーティストコミュニティーサイトのDeviantArtがAIによる画像生成機能である「DreamUp」をリリースした際、同社のコミュニティーは、コミュニティーの作品が自動的にAIデータセットに使用される設定になっていることに対して、直ちに強く反発した。
同社のコミュニティーのクリエイターが、自分の作品が以後のAIのトレーニングに使用されるのを防ぐには、手動でオプトアウトする必要があった。ところが、このオプトアウトのリクエストが有効になったのは、コミュニティーの作品がDreamUpのトレーニングにある程度使用されてしまった後だった。
DreamUpは、ユーザーが指定したキーワードに基づいて画像を生成する画像生成AIで、そのルーツは「Stable Diffusion」にある。DreamUpはウェブから取り込んだコンテンツをベースに構築されたが、トレーニングに使用された作品の作者には利用を通知しておらず、作者の許諾も得ていない。あるアーティストは、このプロセスについて次のようにまとめている。
this is how dreamup is being developed. it adds training on non-opt-out artwork on top of the stability diffusion model, which is ALREADY trained using unethically sourced data. they CANT UNLEARN those parts.
— svlt ✈️ (@svltart) November 11, 2022
this whole discussion is not in good faith unless they address this pic.twitter.com/KnQZerCIol
DevianArtやその他の情報源からスクレイピングされたコンテンツは、LAIONデータセットに入れられ、機械学習によって処理され、3Dモデルが生成される。オプトアウトのリクエストは、今後の追加的な機械学習に対しては有効だが、初期段階のトレーニングには適用されない。
DevianArtは、新たにメッセージを発表してユーザーの懸念に回答した。
- 同社は今後、DevianArtのコミュニティーに投稿された作品を、DreamUpや、第三者のAIモデルや、トレーニング用データセットに使用しない。
- 同社は、第三者がDevianArtのサイトから画像をスクレイピングすることに同意していない。
- 将来のAIモデルの学習に作品が無断使用されるのを防止するために、AIモデルが作者が作品を使用されたくないことを知ることができるようにするための「noai」フラグを導入する。これで作者の意思が尊重されると保証できるわけではないが、出発点にはなる。
