デザイン領域では、生成AIの活用が加速し、Adobe Fireflyなど商用利用可能なAdobeのAI機能に関する情報発信が増えています。一方で、Fireflyの学習データには不正学習が疑われるAI生成コンテンツが混在するとの指摘もあり、Adobeの方針に疑義を呈するクリエイターも少なくありません。

そこで本記事では、信頼の岐路に立つAdobe Fireflyが、本当にクリーンな画像生成AIを目指す崇高なポリシーを維持できているのかを検証いたします。

Adobe Firefly「クリーン」の定義

はじめに、Adobeが掲げている商用可能なクリーンな生成AIの定義と方針を再確認した上で、Adobeの生成AIは本当に「クリーン」なのかを報道などを基に検証してみましょう。

▶Adobeの生成AIの倫理的アプローチ
AdobeはFireflyを「クリエイターのために開発された生成AI」と位置づけ、その倫理的な開発姿勢を明確にしています。特に学習データについては、オンラインの公開制作物やユーザーデザインファイルは学習せず、著作権のない一般コンテンツや、使用許諾を得たAdobe Stockアセットのみを使用していると主張しています。

加えて、Fireflyが生成したコンテンツの所有権は制作者に帰属するという方針を掲げ、学習に使用されたAdobe Stockアセットの提供者には収益の一部をボーナスとして支払うことで、クリエイターへの公正な還元を強調しています。また、企業顧客に対しては、著作権侵害で訴えられた際の法的補償（IP indemnification）も提供しています。

▶「コンテンツ認証イニシアチブ（CAI）」との連携
Adobe Fireflyなどが連携するコンテンツ認証イニシアチブ（CAI）は、コンテンツにデジタル署名付きメタデータ（コンテンツクレデンシャル）を付与し、作成・編集の来歴を記録する仕組みです。この仕組みは、生成者の自主的な付与に依存するため、悪意ある利用を完全に防ぐものではないという限界も指摘されていますが、ユーザーはコンテンツの信頼性を確認可能になり、偽情報対策やクリエイターの権利保護に役立つとされています。また、Adobeは、クレデンシャル付与を支援し、AI学習を拒否する意思表示も可能にする無料のアプリ「Adobe Content Authenticity」を公開しています。
※参照資料：Adobe公式プレスリリース
※参照資料：アドビ、クリエイターのコンテンツ保護と認証を支援する webアプリケーションAdobe Content Authenticityを発表（PR TIMES）

これらAdobe Fireflyの倫理面の取り組みについては以下のような公式動画も公開されていますので、確認してみてください。

※参照動画：クリエイターの権利と生成 AI？4分で分かる Adobe Firefly の倫理面への取り組み | アドビ公式

▶Adobe Creative Cloudのプラン変更

また、Adobeは先日、Creative Cloudのプラン変更を発表し、これまで通り生成AI機能を無制限で使える「Pro」プランと、生成AI機能に制限がある「Standard」プランの提供を開始しました。このプラン変更によるユーザーの動向は、今後のAdobeの生成AIにおける方針にも影響を与えると考えられており注目されています。
※参照記事：Creative Cloud 個人版および学生・教職員版のプラン変更（Adobe公式サイト）

Adobe Firefly「クリーン神話」の揺らぎ

▶Adobe Stock内における「不正学習の疑い」問題

ここまでは、Adobe側の主張を説明してきましたが、複数の報道機関から、Adobe Stock自体にAI生成画像がアップロードされ、Fireflyの学習データに不正学習が疑われるAI画像が含まれているとの指摘も相次いでいます。オーストリアの独立系エンタメニュースサイト「CineD」の報道によれば、画像ポートフォリオの47.85%が生成AIによるものだといった衝撃的なデータも伝えられています。これは、Adobe Fireflyがクリーンな生成AIである根拠を大きく揺るがすものです。不正学習によるAIコンテンツを「クリーン」に見せかける「合成物ロンダリング」である、AIがAI生成物を再学習することで品質や多様性が損なわれるAIの「近親交配」であるといった批判も噴出しています。

さらに、こうした問題により、イラストレーターや漫画家といったクリエイターはAdobe Fireflyを不正学習に汚染されたAIとして忌み嫌う傾向が強まり、Blueskyで開設されたAdobeアカウントが炎上するといった現象にまで及んでいます。前述の倫理面での取り組みを紹介する動画は、こうした懸念に対応するために公開されたものと思われます。
※参照記事：Adobe StockにAIが氾濫： 全画像の半分近くがAIによって生成（Cine D）
※参照記事：Adobe、Blueskyでの投稿に批判殺到で削除 – AI時代のクリエイターコミュニティとの断絶が浮き彫りに（innovaTopia）

▶他の生成AIとの連携模索
Adobe Fireflyは、OpenAIやGoogle Cloudといった他社生成AIモデルとの連携をすでに開始しています。これは、当初示していた「安心して使えるクリーンなAI」というポリシーから、生成AIビジネスでの成功のために、その境界線を広げている象徴的な路線変更と言えるかもしれません。

さらに、Ideogram、Luma、Pika、Runway、fal.aiなどの複数のパートナーAIモデルとの追加統合も公式に発表され、実装が進んでいます。これにより、ユーザーはFireflyアプリ内から様々なサードパーティAIモデルを選択して画像や動画生成が可能となる一方で、Adobeが目指すクリーンなAIというビジョンが揺らぎ、クリエイターの不信感を完全に払拭するには至っていない、という見方も増えています。
※参照記事：アドビ、Fireflyが大幅強化　共同編集ボードや”他社”モデル対応（Impress Watch）
※参照記事：アドビ、包括的なクリエイティブAIプラットフォームであるFireflyに新たなパートナーシップと新しいFireflyモデルを導入（Adobe公式サイト）

▶拡散モデルに残る著作権リスクとスタイル模倣の懸念

Adobe Fireflyの基盤であるディフュージョン・モデル（拡散モデル）は、学習データの模倣と再構築で画像を生成します。そのため、意図せず特定の作風を再現するリスクが常に伴うのです。このモデルの特性上、著作権者が事前に許可した「オプトイン」データで学習しても、コピーに近い生成物が出る可能性があり、著作権侵害リスクはゼロではないと指摘されています。