サンドイッチワークフロー:人間がAIに指示を与える(例:画像生成AIへのプロンプト提示)AIが生成オプションを提示する(例:複数種類の画像生成)それを人間が選択し、仕上げる(例:画像に対するレタッチ、コラージュ、別ツールへの取込み・編集などの仕上げ)発明された活用プロセスは、クリエイターやその集団の「秘伝のタレ」として非公開とするケースもあれば、一般に公開するケースもあります。公開され、かつ利用頻度が高いものは、三階のアプリケーションレベルで実装され、コモディティ化します。素材や道具が必要となります。論文の形で様々な研究知見の公開が続きます。機械学習系の国際カンファレンスが開催されるごとに、ジェネラティブAI系の知見が更新されています。この秋は画像生成AIのカスタマイズ、及び画像の次としての映像、音楽、3Dモデルなどの生成についての論文が多数公開され、耳目を集めました。この分野の論文は、Arxivにプレプリントとして公開され、すぐに個別のDiscordでそれらが論じられたり、Twitterでの拡散が進みます。同時に、またはその後、GitHubやHuggingFaceへの著者による公式実装やコミュニティによる再実装公開や、同様に著者またはコミュニティによるGradio等のプロトタイプアプリ、デモが公開され、それを試した人々によりアプリケーションなどへの取り込みが進むというのがよく見られる流れです。論文化される前に特許が出願されているケースがあり、ソースコードが公開されている場合もライセンスに気をつけて活用する必要があります。(AIの学習はどのようにスケールするか)16」があります。その後数年で、大量のデータで学習させ、様々なタスクにカスタマイズを行える基盤モデルの活用が増え、そのサイズは増加の一途を辿っています17。大量のデータセット収集、及びその権利関係の整理とともに、モデルの学習に必要となる膨大なマシンパワーを持つことが、差異化に必要となりました。画像生成などのジェネラティブAIを一から学習するには、膨大な計算資源が必要です。A100を256枚、15万GPU時間を投じたとされています。継続する企業運営のための資金調達ではなく、単発の学習に必要な資金をクラウドファンディングで集める例もあります。ゴールを設定しました(ただし、その後Kickstarterによりプロジェクトは停止)19。クローズ後6週間をかけてデータセット準備、学習を進め、モデルを配布する予定とされていました。Diffusionモデルをベースとした追加学習であり、1億円弱よりは大幅にコストが抑えられます。特定のスタイル、キャラクター、人物に特化した制御可能な画像生成AIを学習により作る場合、より小さなスケールで学習を行い、カスタムの学習モデルを提供できます。手法が確立されていれば、学習に1時間とかからず、計算資源のコストは一件数千円以下の世界です。いうオープンなデータセットが重要な役割を果たしました。画像生成AIにおいては、以下のデータセットが活用されています。インターネット等に公開されたデータを、スクレイピング等で収集したもの企業所有など非公開でストックされているもの前者の公開されたデータであっても、公開経緯が著作権などに配慮をしないものであると、それらを使って良いのかという法的、倫理的問題をはらみます。言語や画像のデータはインターネットに莫大な量があり、日々生み出されていますが、学習で使い果たすことが来るかもしれません。現状、言語は2040年に枯渇、高品質に限定すると2024年に枯渇、画像は2038年に枯渇するのではと、過去トレンドと計算機の制約をもとに推定した例20があります。ジェネラティブAIにより生成されたコンテンツが指数関数的に増え始めると、やがて学習対象に無視できない量での混入も始まることでしょう。生み出されているとモデル化して話を進めてきました。ついて見ていきましょう。柿沼太一弁護士が、AI界隈の事情について以前より情報発信21をされています。2022年11月には画像生成AIの日本国内法についてのセミナーが開催され、録画と資料が無料公開22されました。画像生成AIの著作権については各国各様の対応が行われています。中村公哉弁護士23によると、英国はAIの生成物に著作権を認める方向であるのに対し、米国や日本は積極的な人間の関与があるかどうかにより認められるかどうかが変わる24と解釈されているようです。中国は、国内で流通させるコンテンツを生成するAIに対して新たな規制が発表されました。ジェネラティブAIの提供者は、ユーザの身元を確認し、コンテンツ管理をすること、そして人間の顔やリアルなシーンの生成時はAIによって生成されたことを明示すること、としています25。対象コミュニティの倫理観ジェネラティブAIは、まず画像生成を中心にクリエイターの間で大きな議論を巻き起こしています。中長期での産業自体の衰退に繋がるのではという視点、後者は学習に使われたデータセットの作者の権利はどこまで守られるべきかという点です。各プレーヤは、自身の関わりの深いステークホルダからの反響を注意深く観察しながら、それぞれの立ち位置を模索しているようです。法的に正しいかだけでなく、心情として受け入れられるかも大きな課題です。画像素材などのコンテンツを扱うサービスやユーザ投稿型のイラストや写真ギャラリーでは、画像生成AIを使った制作物への対応方針が分かれています。Stockは、AI作品投稿を条件付きで認めるとしました。ユーザ投稿型のイラストサイトであるpixivも同様の方針です。Shutterstockは、OpenAIのDALL-E2を自社サイトに統合、学習に使われた画像の作者への分配の仕組みを作る26としました。Imagesは法的リスクを理由に投稿を受け付けないとしています。クリエイターが所属するプラットフォーム上で画像生成AIを展開することには、法規制だけでなく、様々な倫理観をファシリテートする難しさがあります。今後、この倫理観と技術発展を見ながら、法規制についても更新されていくものと思われます。まとめ画像を中心としたジェネラティブAIを取り巻くビジネス、技術応用、法律その他を概観することを試みました。モデル化し、関わる要素をさらに概観しました。対象コミュニティの倫理観これからの数ヶ月・数年スパンで、画像生成AIやジェネラティブAI全般が上に挙げた要素の動的な相互依存関係の中でどう社会に浸透していくか、目撃できることが楽しみですね。本記事がそれらの流れを読み解く、または予測するための一助となれば幸いです。画像生成AIをめぐる倫理的問題の最新事情。エンジニアが社内の取り組みを紹介するブログです。2014引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。