ChatGPTの日本語版が広く使われ始めてから約1年が経とうとしています。その後、さまざまな生成AIが登場し世の中に大きな社会変動をもたらしています。そんな生成AIの中でも、注目されているのが画像生成AIです。   

しかし、画像生成AIは無断で学習されたデータによるものが広く普及しており、クリエイターの権利を侵害していると問題になっています。一方で、画像生成AIからクリエイターの作品を守るAI技術も研究開発が徐々にリリースされはじめています。   

そこで、今回はイラストレーターの作品を、不正な生成AIから保護するツールとして注目されている「emamori」と「Glaze」について前編と後編に分けて解説します。前編である本稿では「emamori」の使い方やメリット・デメリットなどをメインに紹介します。  
※後編「Glaze」の解説についてはこちら

画像生成AIを取り巻く最新事情

生成AIから保護するツールについて解説する前に、画像生成AIを取り巻く最新事情を簡単に振り返っておきましょう。

▶不正な学習データを利用していると考えられる生成AIとは

優れた最新の技術であると肯定的に報道されてきた画像生成AIや動画生成AIの多くは、ネット上に配信されているクリエイターの著作物を無断で学習したデータベースを利用しており、著作権法においても非常に問題のあるシステムであることが分かってきました。また、フェイクコンテンツや児童ポルノなどに悪用されるリスクもあり、生成AI技術に対する法的規制の必要性も叫ばれています。

特に「Stable Diffusion」や「Midjourney」という画像生成AIは、著作権侵害となる画像が含まれてる無断学習システムを利用した技術であると各所で問題を起こしています。こうした、無断学習システムを利用した技術は、Stable Diffusionのモデル拡張機能であるLoRAとMidjourneyの他にも、LAION-5B、NAIといったAIシステムがあります。これらの画像生成AIは、画像を生成しているのではなく、学習したデータを一部改変して復元しているだけではないかという見方も存在し、学習データの量が増えるほどその傾向が強まると検証する専門家もいるのです。

▶生成AIを規制する法律周りの動向

こうした生成AIの問題を受けて各国で生成AIを規制する法案が提出・制定されはじめています。アメリカではまだ包括的にAI規制法は制定されていませんが、各州議会でAI規制法に関する動向が伝えられています。例えば、アメリカ合衆国テネシー州では「エルヴィス法」と呼ばれるアーティストの声の肖像権を保護する法律が2023年3月21日に成立し、同年7月1日に施行されています。この「エルヴィス法」の制定は、生成AIの法規制に関する議論に大きな影響を与えました。また、2024年2月にはカルフォルニア州議会が、企業に生成AIコンテンツを利用した場合に、それを明示することを義務付ける法案を提出、2024年3月にはニューヨーク州議会が、ディープフェイクの制作や配布を違法とする法案を提出しています。  
参照記事：The king and AI: Elvis vs copyright infringement（CTech） 

EUでは、欧州委員会がAIを包括的に規制する「人工知能法（Artificial Intelligence Act）」　を提案しており、欧州議会と欧州理事会で審議された後に、2024年中に成立見込みであると報道されています。この法案は、AIシステムのリスクを4段階に分類して、それぞれのレベルで規制を設けている法案です。
参考URL：EU AI Act: first regulation on artificial intelligence（European Parliament）

日本国内もでも、文化庁が「AIと著作権に関する考え方について（素案）」に対するパブリリックコメントを踏まえた上で審議会の議事内容や配布資料を公開しており、今後の法規制に関する指針を示しています。この文化庁の審議結果に対して、一定の評価を与える有識者もいれば、全く権利が守られておらず日本政府の対応が不十分であると懸念を示すクリエイターもおり賛否は分かれています。日本政府は、AIに関する規制を強化するよりも、AI導入によって得られる経済効果や産業創出を優先したいといった思惑が透けて見えるのも確かなので、今後の動向は注視しておく必要があるでしょう。

ただ、AIのリスクに関する問題は国内の動向だけでは見極められない部分があります。著作権には「ベルヌ条約」という国家間での著作権の取り扱いを制定した国際的な法律があるため、日本における生成AIに対する法規制にも前述の海外での動向が影響を与えると考えられるからです。
参照URL：文化審議会著作権分科会法制度小委員会（第7回）（文化庁）  
参照URL：AI戦略会議（内閣府）

▶AIの動向

現在の生成AIには問題が山積していますが、一方で今後生成AIを一切触れずに生活を営んでいけるかというとまた別問題でしょう。AIに仕事を奪われる可能性がある職種というのはクリエイターだけではありません。第1次〜第3次産業革命までは、主にブルーワーカーを中心とした業種が機械にとって代わられてきた訳ですが、現在私たちが直面している第4次産業革命はオフィスでデスクワークを中心に活動するホワイトワーカーの職業領域の変革で、AIに仕事を奪われる側でなく、生成AIを使いこなす側になれるのかというのがビジネス上の課題になっています。  

また、GAMAMと言われるような世界トップランクのビックテック企業が軒並みAI開発を強化しています。いままでAI開発に関して目立った動きを見せていなかったAppleもAI関連求人が急増しており、次のiOSで生成AI機能が搭載されると報道されています。クリエイターに利用者が多いAppleの端末も、生成AIが標準搭載されることで、さらに普及が加速していくと予想されるのです。また、Microsoftは日本市場においてもAI関連サービスの増強を図っており、先ごろOpen AI Japanも設立されています。  
参照記事：Apple posts 28 new AI positions in May, says generative AI will ‘transform’ iPhone
（9to5Mac） 
参照記事：アップル、新AIツール準備－マイクロソフト「Copilot」に対抗（Bloomberg 日本語版）  
参照記事：マイクロソフト、生成AI需要で日本のデータセンター増強などに4400億円投資
（日経クロステック）   
参照記事：OpenAI Japanスタート　3倍速い日本語特化モデルも公開へ（Impress Watch）