以下の文章は、コリイ・ドクトロウの「AI “art” and uncanniness」という記事を翻訳したものである。
Pluralistic
AIアート（または「芸術」）に関して、クリエイティブ・ワーカーの労働権、表現の自由、著作権法の重要な例外と制限、そして美学を尊重する微妙なポジションを見つけるのは難しい。
総合的には、私はAIアートには反対だが、その立場には重要な注意点がある。まず第一に、作品をスクレイピングしてモデルを訓練することが著作権侵害だと言うのは、法律上、明らかな間違いである。これは道徳的な立場からではなく（これについては後述）、むしろ技術的な立場からである。
モデルの訓練手順を分解すると、これを著作権侵害と呼ぶのが技術的に間違いである理由はすぐに明らかになる。まず、一時的に作品のコピーを作成する行為は、たとえ数十億の作品であろうと、明らかにフェアユースだ。検索エンジンやInternet Archiveが存在すべきでないと考えるのでもなければ、大規模スクレイピングを支持すべきだ。
https://pluralistic.net/2023/09/17/how-to-think-about-scraping/
そして、FacebookがAd Observerのような（有料の政治的デマ情報のサンプルを収集する）プロジェクトを法律を盾に遮断できるようにすべきではないと考えるのであれば、たとえスクレイピングされるサイト側が反対する場合でも（少なくとも時には）、大規模スクレイピングを支持すべきだ。
https://pluralistic.net/2021/08/06/get-you-coming-and-going/#potemkin-research-program
無数の作品の一時的なコピーを作成した後、AI訓練の次のステップは、それらを数学的に分析することだ。繰り返すが、これも著作権侵害ではない。
作品の定量的な観察は、批評、分析、アーカイブ化、そして新しい創作にとって、長年尊重されてきた重要なツールだ。アガサ・クリスティ小説における語彙の時系列的な収縮を測定することは、彼女の認知症について興味深い洞察を提供することが分かっている。
https://www.theguardian.com/books/2009/apr/03/agatha-christie-alzheimers-research
スクレイピングされたオンライン言論のプログラム分析も、マイノリティの話す言語の形式的分析に重要で、長らく「スラング」として一蹴されてきた方言に厳密な文法を見出す活気ある説明を生み出している。
UCL Survey of English Languageは1988年以来、「国際英語コーパス」をメンテンナスし続けており、研究者はその深さを探ることで、とりわけポストコロニアル英語圏で話されている多種多様な英語について重要な結論を導き出してきた。
https://www.ucl.ac.uk/english-usage/projects/ice.htm
モデル訓練の最後のステップは、一時的にコピーされたドキュメントの定量分析の結論をソフトウェアコードとして公開することだ。コード自体は表現的な言論の一形態であり、その表現力がプライバシーの戦いにとって重要な鍵を握っている。コードが言論であるという事実が、政府によるソフトウェアの検閲手段を制限するからだ。
https://www.eff.org/deeplinks/2015/04/remembering-case-established-code-speech/
では、モデルは著作権侵害なのだろうか？確かに、できる。場合によっては、モデルが訓練セットの一部のデータを「記憶」し、フェアユースの一時的なコピーが恒久的な侵害（訳注：複製）を構成することもある。これは一般にプログラミングエラーの結果だと考えられており、（たとえば、モデルを訓練データと比較し、出現する記憶（memorizations）を削除することで）確実に防げる。
しかし、記憶のように見えるすべてのものが記憶というわけでもない。モデルによって異なるところもあるが、各訓練項目からモデルに保持されるデータの量は極めて少ない。例えば、Midjourneyは訓練データの各画像から約1バイトの情報を保持している。典型的な低解像度のウェブ画像を300KBとすれば、元の画像の30万分の1（0.0000033％）に過ぎない。
一般に、著作権の議論では、ある作品が別の作品の0.0000033％を含んでいる場合、フェアユースの問題さえ提起しない。むしろ、その使用をデミニマス（de minimis）（デミニミス・ノン・クラート・レックスの略で、「法は些細なことには関与しない」の意）として却下する。
https://en.wikipedia.org/wiki/De_minimis
自分の作品の0.0000033％を使われたと著作権侵害で告発するのは、靴の端が自宅の芝生の1本に触れたからといって不法侵入で告訴するようなものだ。
しかし、一部の作品や作品の要素はオンラインに何度も現れる。例えば、Getty Imagesの透かしは、レッドカーペットやランウェイに立つ人々の何百万もの類似画像に表示されるため、そのような作品のごくわずかなサンプルを取得したモデルでも、最終的には全体として認識可能なGetty Imagesの透かしを生成できるようになるかもしれない。
通信社の記事やその他の広く配信されるテキストも同様だ。訓練データにはこれらの作品の数十または数百のコピーが含まれている可能性があり、不用意に長い文章が記憶されることになる。
これは侵害かもしれない（これに関しては前例のない厄介な領域に入り込んでいる）が、繰り返すが、たとえそうであっても、モデル作成者にとって、モデルを訓練セットと比較し、不用意な記憶を削除するのはさほど難しくはない。だが、モデルから記憶を除外できたとしても、こうしたモデルの作成と使用にクリエイティブ・ワーカーが（正当に）抱く懸念を和らげることにはならない。
ここに、AIアートの議論における最初のニュアンスがある。技術的な問題として、モデルの訓練は著作権侵害ではない。AIがもたらすクリエイティブ・ワーク市場の変質を防ぐために著作権法を使えると期待するクリエイティブ・ワーカーは、裁判所で失望することになるだろう。
https://www.hollywoodreporter.com/business/business-news/sarah-silverman-lawsuit-ai-meta-1235669403/
しかし、著作権法は固定された永遠の理ではない。我々は常に新しい著作権法を制定している。現在の著作権法がモデルの作成を防がないとしたら、将来の著作権法はどうだろうか？
確かに、その可能性はある。最初に考慮すべきは、そのような法律がもらたす副作用の可能性だ。スクレイピングを可能にする法的空間は、幅広く学術、アーカイブ、組織化、批評に恩恵をもたらしてきた。政治家の選挙運動ウェブサイトのスクレイピングを不用意に禁止すれば、政治家が約束を守らず、「そもそもそのような約束はしていない」と言い逃れできるようになるだろう。検索エンジンを禁止したり、消えゆくサイトや利用規約を変更するサイトから自分の作品をスクレイピングするクリエイターを阻むようなことも避けなければならない。
次に、定量分析について。コンピュータを使う使わないに関わらず、単語を数えたりピクセルを計測したりする行為は、その単語やピクセルの所有者が嫌がったとしても、許可を必要とすべきではない。ケイト・ミドルトンの家族写真のピクセルを好きなだけ見つめたり、オックスフォード・コンマの増減を追跡するのに、誰かの許可を必要とすべきではない。
最後に、モデルの公開である。大規模コーパスの数学的分析は多数公開されており、その有用性に異論の余地はない。私はGoogleのn-gramが大好きだ。
そして、大規模言語モデルは、人権データ分析グループ（Human Rights Data Analysis Group）のLLMベースの取り組みのように、Innocence Project New Orleansの冤罪事件ファイルからのデータ抽出支援など、あらゆる重要なニッチを満たしている。
https://hrdag.org/tech-notes/large-language-models-IPNO.html
これが2つ目のニュアンスだ。新しい著作権法を作るにしても、クリエイティブワークとは無関係な、有益な活動を誤って潰さないように慎重に注意しなければならない。
これが最も重要なポイントにつながる。AIの訓練に許可を必要とする新しい著作権法を可決しても、クリエイティブ・ワーカーが報酬を得たり、仕事を守ることには繋がらない。
Getty Imagesは、写真家に最低限の報酬しか支払わない。パブリッシャの契約は、知らぬ間に複雑怪奇な恐るべき権利の収奪へと変貌し、作家からはすべてを奪うくせに、法的リスクだけは作家に押し付けてくる。
https://pluralistic.net/2022/06/19/reasonable-agreement/
New York Timesのようなパブリッシャは、作家の組合に激しく反対している。
https://actionnetwork.org/letters/new-york-times-stop-union-busting
これらの大企業は、すでに膨大な量の訓練データの著作権を支配している。我々への支払いを減らすべく、これらの作品をモデル訓練のためにライセンスする手段、動機、機会もある。そして、すでにその動きを開始している。
https://www.nytimes.com/2023/12/22/technology/apple-ai-news-publishers.html
大手ゲーム会社はすでに訓練データに著作権があるかのように振る舞っている。声優は、すべての録音セッションで「私は、自分の声でAIを訓練することを許可します」と宣誓するよう求められ、拒否すれば降板させられる。
https://www.vice.com/en/article/5d37za/voice-actors-sign-away-rights-to-artificial-intelligence
雇用主が作成したモデルであろうと、雇用主がクリエイターの仕事をAI企業に売って（二重取りして）訓練させ、そうして作成されたモデルであろうと、結果としてクリエイティブ・ワーカーの仕事や報酬を減らすのであれば、どのように作られたかは大した問題ではない。
https://pluralistic.net/2023/02/09/ai-monkeys-paw/#bullied-schoolkids
個々のクリエイティブ・ワーカーが、我々の著作権をライセンスする企業に交渉力を持つことはめったにない。それゆえ、この40年にわたって著作権が拡大（期間、範囲、法定損害賠償）しているにも関わらず、エンターテインメント企業には巨大化と莫大な利益がもたらされる一方で、クリエイティブ・ワーカーへの支払いは、実質的にも、彼らの作品が生み出す収入に占める割合としても、減少の一途を辿っている。
レベッカ・ギブリンと私が『チョークポイント資本主義』書いたように、クリエイティブ・ワーカーに権利を与えたとしても、巨大企業との交渉が可能になることはない。結局、その権利とそれが生み出すお金はすべて巨大企業に吸い上げられてしまう。
https://pluralistic.net/2022/08/21/what-is-chokepoint-capitalism/
この闘争には歴史的な前例がある。音楽のサンプリングをめぐる戦いだ。40年前、サンプリングに著作権ライセンスが必要かは明らかではなかった。初期のヒップホップアーティストたちは、ホーン奏者がソロ中に有名曲の数小節をアドリブで入れるように、許可を得ずにサンプリングした。
多くのアーティストがこれに激怒したのは当然だった。最もサンプリングされた「ヘリテージアクト」（音楽業界による「黒人」の婉曲表現）は、ひどい契約を結ばされ、彼らのクリエイティブ・ワークが生み出した富のほんの一部しか与えられていなかった。レーベルに何百万ドルも稼がせた彼らは、絶望的に貧しかった。だからこそ、他のミュージシャンが自らの作品でお金を稼ぎ出したとき、彼らは怒ったのだ。
それから数十年が経ち、サンプリングのシステムは、裁判と、音楽レコードの70％を支配するソニー、ワーナー、ユニバーサルのビッグスリー・レーベルが設定した契約条件によって変化した。今日、ビッグスリーのいずれかと契約しない限り、事実上サンプリングはできない（彼らはインディーズとの取引に消極的だ）。レコード会社の標準的な契約は極めてひどく、サンプリングをコントロールする権利すら放棄させられる。
つまり、サンプリングしたいミュージシャンは、ビッグスリーが提示する悪条件にサインし、前金から500ドルをサンプルライセンス料として支払わなければならない。その500ドルも通常、別のアーティストに支払われることはなく、レーベルにわたって幹部と投資家に分配される。アーティスト全員を貧しくするシステムだ。
しかし、このシステムでも問題は解決しない。サンプリングに値段がついたことで、経済的に成り立つ音楽の種類が変わってしまった。パブリック・エナミーの「It Takes a Nation of Millions To Hold Us Back」やビースティ・ボーイズの「Paul’s Boutique」のようなアルバムのサンプリングをすべてクリアしようとすると、CD1枚あたり150ドルで販売してようやく損益分岐点に到達する。
サンプリング・ライセンスは、すべてのアーティストを経済的に不利にするだけでなく、オーディエンスが楽しむ音楽の創造も妨げる。サンプリングを多用した音楽のなかには、ライセンスをクリアできないものもある。De La Soulのカタログの大半は15年間塩漬けにされ続けた。2022年3月に彼らの代表的な楽曲の一部が復活したが、バンドのフロントマン、トゥルーゴイ・ザ・ダヴはそれを見ることなく2022年2月に亡くなった。
https://www.vulture.com/2023/02/de-la-soul-trugoy-the-dove-dead-at-54.html
これが3つ目のニュアンスだ。たとえ、AIモデルを禁止する、副作用の少ない著作権システムを構築できたとしても、それでもアーティストをより貧しくしてしまう可能性がある。
サンプリングが始まった当初、それが芸術に値するとは誰も思っていなかった。初期のサンプリングは粗雑で実験的だった。楽器の習得に何年もトレーニングを積んだミュージシャンは、マウスのクリックが「音楽を作ること」だとは認めなかった。今日、我々の多くは、サンプリングが意味のある芸術を生み出せるという考えに疑問を持たない――サンプリングにライセンスが必須だと考えるミュージシャンでさえも。
その時代を生きてきた私からすれば、もしかしたら現在のAI「アート」を振り返って、「まさか、あれが本物の芸術になるとは思わなかった」と認めざるを得ない日が来るかもしれない。
だが、それに賭けようとは思わない。
私はAIアートが好きではない。退屈で味気ないと思う。ヘンリー・ファレルが書いているように、それは不気味だ。もちろん、悪い意味で。
https://www.programmablemutter.com/p/large-language-models-are-uncanny
ファレルは、AIが生み出す作品を、ウィジャボードのプランシェット（訳注：日本で言えばコックリさん）の動きになぞらえている。「その動きは、指を軽く乗せた人々の動きの集合的副作用であるにもかかわらず、まるで独自の生命を持ったかのように見える」のだ。これは「不気味な近接作用」であり、「集合的な入力が……意識的な意思による創造ではない、、明らかに極めて特殊な出力に変換される」のだ。
確かに、芸術は非合理的ないし不合理的なレベルで語りかけてくると言う意味で、非合理的だ。架空の人々の苦難を気にかけたり、存在しないもの（あるいは認識すらできないもの）の絵に魅了されたりすることには、何の意味もない。すべての芸術には、認知に対する錯視のような側面がある。我々は現実のように見える想像に魅了されているのだ。
だが、芸術はすばらしい。芸術を作ること、芸術を体験することは、私たちに偉大で、神聖で、還元不能な感情を与えてくれる。芸術を作ることで、私は正気を保っていられる。芸術を体験することは、私の人生のあらゆる喜びの前提条件だ。人生の大部分を現役のアーティストとして過ごしてきた私にとって、その理由は、芸術がアーティストの心から私たち自身の心へと、偉大で、神聖で、還元不能な感情の近似を伝えるからだと結論に達した。それだけだ。だから芸術はすばらしいのだ。
AIには心がない。意図もない。AIによる美的選択は、選択ではなく平均でしかない。ファレルが書いているように、「LLMアートは時として、芸術のようにメッセージを伝えているように見えることもある。だが、そのメッセージがどこから来るのか、あるいはそれが何を意味しているのかはわからない。もし何らかの意味があるとしても、それは組織的な意図に由来しない意味である」（強調は筆者による）。
ファレルは、マーク・フィッシャーの『奇妙なものとぞっとするもの（The Weird and the Eerie）』を引用している。この本では、「奇妙なもの」を理解しやすい言葉（「ふさわしくないもの」）で定義しているが、「ぞっとするもの」の定義は苦労している。
フィッシャーは、不気味さを「何もないはずのところに何かがあるとき、あるいは何かがあるはずのところに何もないとき」だとした。AIアートは、意図することなく意図したように見えるものを生み出す。それは行為者であるように見えるが、行為性を持たない。実に不気味だ。
フィッシャーは資本主義にも不気味さを見出している。資本は「無から呼び起こされる」が、「どんな実体よりも大きな影響力を及ぼす」。「見えざる手」は、どんな人間よりも私たちの生活を形作る。見えざる手はクッソ不気味だ。資本主義は、企業という非実在的な非実体が意図を持って行動しているように見えるシステムだが、その行動は往々にしてその行動を実行する人間の意図とは相反する。
では、AIアートは芸術になり得るのだろうか？ 分からない。人類は長きにわたり、ランダムで、非合理的で、非人間的な入力を芸術的創造性の出発点として用いてきた。たとえば占いがそうだ。
https://pluralistic.net/2022/07/31/divination/
あるいは、ブライアン・イーノの（訳注：創作戦略カード）「オブリーク・ストラテジーズ」。
http://stoney.sb.org/eno/oblique.html
私はこのブログ用に、ちょっとしたコラージュを楽しみながら作っている。だが、それを重要な芸術とは思ってはいない。とはいえ、他人の作品の断片をつなぎ合わせることで、歴史的に残る素晴らしい作品を作ることもできる。
他人の画像から小さな要素を丹念に切り抜くのは、瞑想的で教育的な体験ではあるが、コラージュにおける「芸術」を定義するのに、小さなハサミや投げ縄ツールが必須だとは思わない。このプロセスの一部を自動化したとしても、芸術足り得る。
私が知っていることはこうだ。訓練に対する個別の著作権（許諾権）を設けても、アーティストの生活の物質的条件は改善されない。そうなっても、我々が生み出す価値の相対的なシェアが変わるだけだ。その価値の一部が、我々を憎み飢えさせようとするテック企業から、我々を憎み飢えさせようとするエンターテイメント企業へと移動するだけだ。
私はアーティストとして、芸術の創作を妨げるものには断固反対する。私はアートワーカーとして、労働者が自分の仕事から生み出されたお金が公正に分配され、家族を養い、家賃を支払うのを助けることに全力でコミットしている。
私は今日のAIアートをひどいと思っているし、明日のAIアートもおそらくひどいと思っている。だが、たとえあなたが（いずれの命題にも）同意しなくても、芸術を合法的に創作し続けられるようにすること、アーティストがその仕事から報酬を得られるようにすることに集中すべきだという考えは同意してもらえると思う。
著作権がクリエイティブ・ワーク市場を修正できないからといって、修正が不可能なわけじゃない。労働問題を懸念するなら、労働法に目を向けて、我々の条件を改善すればいい。ハリウッドのライターたちが2023年の画期的なストライキでそうしたように。
https://pluralistic.net/2023/10/01/how-the-writers-guild-sunk-ais-ship/
ハリウッドのライターたちにはアドバンテージがあった。彼らは、労働組合が業界のすべての主要雇用者と一度に交渉する「部門別交渉」を行うことができたのだ。これは、ほぼすべての業種の労働市場では違法とされている。しかし、我々が（アーティストの待遇を決して良くすることのない）新しい著作権法の可能性を検討しているのであれば、（アーティストの待遇を改善する）新しい労働法の可能性についても検討してみてはどうだろうか。確かに、我々のボスは、（訳注：クリエイターを豊かにするためだと言って進められる）著作権の拡大のときとは違って、労働者保護の拡大のために我々と一緒にロビー活動をしてくれることはないだろう（著作権と労働法の拡大が、それぞれ誰に利益をもたらすかについて少し考えてほしい）。
だが、すべての労働者は、労働者保護の拡大から恩恵を受ける。スタジオ、レーベル、パブリッシャのボスと共に議会に行って著作権の拡大を要求するのではなく、ファーストフードのレジ係から出版アシスタント、トラック運転手まで、あらゆる業界の労働者と一緒に議会に行き、部門別交渉権を要求できる。それはとんでもない連合だ。
もしどうしても著作権で訓練のあり方を変えたいとこだわるなら、せめて個人の権利ではなく、集合ライセンス（collective licensing）に注目してみてほしい。集合ライセンスは、パブリッシャ、レーベル、スタジオのオフィスの入り口で没収されることはない。これらの集合ライセンスは、クリエイティブ・ワーカーを保護する上で大きな成功を収めてきた。
https://pluralistic.net/2023/02/26/united-we-stand/
それから、著作権には最強のワイルドカードがある。米国著作権局は繰り返し、AIによる作品には著作権が適用されないと言い続けてきた。著作権は人間の著作物の専売特許だからだ。これは裁判所でも確認されている。
https://pluralistic.net/2023/08/20/everything-made-by-an-ai-is-in-the-public-domain/
AI企業であれエンターテイメント企業であれ、必要に迫られなければクリエイティブ・ワーカーに報酬を支払うことはない。だが、AIで生成された作品の販売を検討する企業にとって、その作品が生まれつきパブリックドメインであるという事実は、克服しがたい障害だ。なぜなら、誰もがその作品を自由に販売したり、無料で配布できるからだ。
AIのライセンス料に金を支払うクリエイティブ業界のボスは、AIの「アート」が良き芸術になりうるかなんて微塵も考えてはいない。AIが吐き出すどんなゲロ作品でも売れるほど強大な市場支配力を持つ彼らは、人間のアーティストの作品に金を出すよりもAIのライセンス料のほうが安く済むと計算しているのだ。どの業界も同じで、AIはアーティストの仕事をすることはできないが、AIのセールスマンはクリエイティブ・ワーカーをクビしてAIに置き換えるよう経営者を説得できる。
https://pluralistic.net/2024/01/29/pay-no-attention/#to-the-little-man-behind-the-curtain
たとえ吐き出されるのがゲロだろうと、彼らはお構いなしだ。彼らが気にするのは利益だけだ。待望されていた映画を公開直前にキャンセルして税額控除をゲットするスタジオ幹部は、芸術的誠実さなど持ち合わせてはいない。彼らが気にするのはただ一つ、「金」だけだ。AI作品は自由にコピー、販売、無料配布ができるという事実は、自ら芸術を制作するクリエイティブ・ワーカーには大して意味のないことかもしれないが、我々のボスにとっては、それが唯一重要なことなのだ。
Pluralistic: AI “art” and uncanniness (13 May 2024) – Pluralistic: Daily links from Cory Doctorow
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: May 13, 2024
Translation: heatwave_p2p
The post AI“アート”の不気味さ――AIが“仕事を奪う”のではない first appeared on p2ptk[.]org.