クリーンな生成AIは実現可能なのか

Adobeの生成AIの現状が分かったところで、本当にクリーンな生成AIが実現できるのかという点も検証しておきましょう。

▶クリーン神話が揺らぐ背景にあるAdobeの経営的課題
クローン技術や原子力のように、科学技術には「できるけどやらない」という倫理的制限が存在します。生成AI研究も同様の倫理を伴うはずでしたが、それを軽視し利潤追求を優先した結果、現在の急激な社会変化を招きました。

その象徴的な出来事がOpenAIのサム・アルトマン氏解任騒動です。この時、同社を去ったスタッフの多くは倫理面を担う「スーパーアライメントチーム」のエンジニアたちです。倫理的リミッターが外れたOpenAIは、その後「ジブリ化」を流行らせ、それまで一部ユーザーに限られていた不正学習が疑われる画像生成AIの利用を一般ユーザーにまで普及させました。開発企業各社が生成AIの倫理面をいかにコントロールするかを苦慮している中で、倫理的な制約が外れたChatGPTによる画像生成AIの品質向上が加速し、市場を席巻するのは必然だったのです。一方、Googleも豊富なリソースで倫理問題を表面化させずに画像生成AI機能を着実に強化しています。

こうした状況に対し、対抗策を見失ったAdobeは、当初掲げた「クリーンな画像生成AI」というポリシーの方向転換を余儀なくされていると推察されます。このようなビジネス的な背景についいては、ユーザーも一定の理解を示さなければいけないかもしれません。
※参照記事：OpenAIの「スーパーアライメントチーム」が解散、超人間的なAIの制御を目指す取り組みはどうなる？（WIRED Japan）

▶ようやく進みつつある法的な整備
生成AIを巡る法的な動きが活発化しています。たとえば、EU（欧州連合）では包括的なAI法が成立し、先日は国連通信機関がAI規制が急務であると表明するなど世界的に規制の枠組みが強化されつつあります。また並行して、生成AIによる著作権侵害を巡る訴訟が相次いでいます。代表的な事例は、ウォルト・ディズニー社とユニバーサル社など6社がMidjourneyを提訴したという法廷闘争です。こうした法規制の強化への取り組みは、クリーンな生成AI開発への道筋も強化するでしょう。
※参照記事：ＥＵ、ＡＩ包括規制法が成立　世界の基準に（Reuters）
※参照記事：AI規制 「世界的な取り組み方」が急務、国連通信機関（AFPBB News）
※参照記事：ディズニーやマーベルなど6社がMidjourneyを著作権侵害で提訴。生成AIは「盗作の底なし沼」（ARTnews JAPAN）

▶クリーンで安全な生成AIを実現しようとする勢力
覇権闘争を前に、ダークサイド（闇落ち）する生成AI開発企業がある一方で、Adobeの他にもクリーンで安全な生成AIを実現しようとする勢力も存在します。その代表格がAppleです。AdobeのAI開発は倫理観ゆえに慎重だった可能性が高く、Appleもまた同様に安全性の高い生成AIを追求する姿勢が、開発ペースの課題に繋がっていた一面があると考えられます。

また、画像生成AI領域ではありませんが、倫理を重視したAIモデル「Claude」を開発するAnthropicには、元OpenAIスーパーアライメントチームの共同リーダーであったヤン・ライケ氏も参画しており、業界における「倫理的リーダー」的な立場を掲げています。しかしこのAnthropicも、現在、著作権団体やRedditなどからデータ無断使用をめぐる訴訟が提起されており、著作権的な透明性やクリーンさについて疑問が指摘される状況になっています。
※参照記事：生成ＡＩの学習に書籍を無断使用、米連邦地裁が合法判決…「公正利用に該当」（読売新聞）
※参照記事：Reddit、「Claude」を手掛けるAnthropicを提訴　データの無断使用で（ITmedia）

一方、国内では株式会社アブストラクトエンジンの提供する、既存の基盤モデル等を一切使用せず、権利的にクリアなデータのみを学習したオプトイン画像生成AI「Mitsua Likes」というツールがあります。「Mitsua Likes」も、そのクリーンさに対する見解は分かれることもありますが、同社のポリシーはクリーンな生成AIの実現です。

こうした倫理面を重視する生成AI開発企業もダークサイドに堕ちた側の生成AIの興隆に直面して大きな岐路に立たされています。そのため「悪貨は良貨を駆逐する」とならないように、生成AIの不正学習を問題とするクリエイターは、これらの企業を支持していくことも重要な意思表明になるでしょう。

Adobe信頼回復への道

ここで、Adobeが信頼回復のために必要な施策についても考えておきましょう。

▶現状でできる限りの出口での対策強化を
Adobe Stockへの不正なデータの混入を「入口」の段階で完全に排除するのは技術的に困難であることは想像に難くないですが、不正学習データを極力排除していくことは最重要課題です。人間の創作活動も他者の作品を模倣から始まるように、インプット段階で「不正」を完全に排除しているわけではありません。人間が剽窃やコピペを行わないのは、倫理観によって出力段階で「やってはいけない」と判断しているからです。人間の脳のシステムを模倣した人工知能も同様に、プロンプト段階でのリスク検知を強化するなど、生成されたコンテンツが著作権を侵害していないかを「出口」で検知・検証する技術をより強固にする対策も重要になるでしょう。また、現在も著作権侵害の恐れがある生成画像は通常出力されないよう、Adobeは十分な対策を講じていますが、この不正なデータの混入については、より明確で詳細な検証と説明が必要だと思われます。

▶「クリーンなAI」を目指す姿勢を貫き通すこと
クリエイティブツール市場のリーダーであるAdobeが、現実に困難があろうとも、長年クリエイターに支えられてきた企業の使命として、一貫して「クリーンなAI」という理念を堅持し、その実現に向けた具体的な努力を続けていることは、今後の生成AI業界の動向にとっても極めて重要です。

また、Adobeが多様な生成AIモデルとの連携を進めるのであれば、その連携先に関する明確なポリシーを提示する必要もあります。曖昧な方針はクリエイターの不信感をさらに増幅させるため、パートナーもクリーンな生成AIを目指す開発企業を選定していくことが期待されます。