作業が捗る!クリエイティブワークが楽になる作業効率化「Tips」
不正AIをAIで制するクリエイターの救世主として注目!
画像生成AI学習防止ツール「emamori」と「Glaze」でクリエイターの権利を守る(後編)
その他の生成AIプロテクターツール
「emamori」や「Glaze」以外にも、様々な生成AIからコンテンツを保護するツールが開発されはじめています。まだ開発中の技術も含まれていますが、注目されているその他の生成AIプロテクターツールを以下の表にまとめましたので参考にしてください。
ツール名 | 説明 | 関連リンク |
---|---|---|
Mist | 上海交通大学研究チームが開発したオープンソースの画像生成AI学習防止システム | ・Githubのリポジトリ |
PhotoGuard | アメリカのマサチューセッツ工科大学(MIT)の CSAIL(Computer Science and Artificial Intelligence Laboratory) が開発した生成AIによる画像改変を阻止する技術 | ・Githubのリポジトリ ・MIT CSAILの公式サイト |
Nightshade | Glazeと同じアメリカのシカゴ大学研究チームが開発した 生成AIに含まれる個人情報や機密情報を検出し削除する機能を持つツール | ・Nightshadeの公式ページ |
HIVE | 2023年に設立されたHIVE社が提供する生成AIコンテンツを検出・分類するAIプロテクター | ・HIVEの公式ページ |
ArtShield | 生成AIによる画像の改変を防ぐために開発されたツールです。登録不要で無料で利用できる | ・ArtShieldの公式ページ |
このように、主に大学の研究機関によって生成AIプロテクターツールが開発されています。すでに生成AIからの保護に関する研究開発に取り組む日本国内の研究機関も存在するとは思いますが、日本の「絵師」と呼ばれるクリエイターなどは国産の生成AIからコンテンツを保護するシステムを待望する方も多いかもしれません。
まとめ(総括)
本記事で紹介したemamoriやGlazeといったツールを知ることで、全てのエンジニアが無断学習による生成AI技術を無批判に推進しようとしている訳ではないことが分かったのではないでしょうか。
確かに生成AIによって引き起こされる問題は多いのも確かです。しかし、現代社会や科学技術が「我々を迫害している・搾取している」といったマインドセットにクリエイターが陥ることは、最終的に自分の意見と少しでも相違がある人間は敵であると認識することになり、有益な議論には至らないでしょう。生成AIによって引き起こされるリスクに対しての法規制を整備していくためには政治的な合意も必要になってきます。そうした政治的な合意形成していくためには、時として意見の合わない人間とも歩みよらなければいけません。特に生成AIに関する問題は著作権の問題だけでなく性被害や人権侵害にも関する事柄なので、フェミニストや人権活動家といった人々とも協力して議論を進める必要がある喫緊の社会課題でしょう。そうした観点からも「エンジニア VS その他のクリエイター」や「フェミニスト VS 絵師」といった構図は、生成AI技術を悪用しようとする人間にとって好都合な状況を生み出すだけだと思います。
「電気のない世界」「ネットのない世界」といった時代に時間が巻き戻せないのと同様に、残念ながら「AIのない世界」には戻れません。それであれば、より良いAIの技術開発をサポートし、AIに関する法律を整備していく中である程度の落とし所を決めた合意形成していくことが最善の策ではないでしょうか。そうした意味においても、AI技術をもって不正AIからクリエイターの権利を保護する「emamori」や「Glaze」といった技術の発展を、私たちは歓迎し支えていくことが重要になってくるでしょう。
2024.05.16 Thu