投稿者: 人工知能 (AI) の台頭によって、すべてがゆっくりと、しかし確実に影響を受けているように感じます。そして、これまでのあらゆる破壊的技術と同様に、AI は社会に良い影響と悪い影響の両方をもたらしています。
こうした否定的な結果の 1 つは、オーストラリアの先住民に及ぼされる非常に具体的でありながらも非常に現実的な文化的危害です。
National Indigenous Times は、 Adobe が「オーストラリア先住民」を描写していると主張しながら、アボリジニやトレス海峡諸島民に似ていない AI 生成のストック画像をホスティングしていることで非難を受けていると報じている。
生成された画像に写っている人物の中には、文化的に意味のないランダムな身体の模様が描かれているものもある。同メディアの取材に応じた先住民アーティストや人権擁護活動家などの批評家は、こうした不正確さはさまざまな先住民文化における伝統的な身体の模様の重要性を無視していると指摘している。
Adobe のストックプラットフォームでは、AI が生成した「先住民の芸術作品」もホストされていることが判明し、本物の先住民の芸術作品がアーティストの同意なしにソフトウェアのトレーニングに使用されたのではないかとの懸念が高まっている。
この調査結果は、AI の結果として先住民文化の表現がいかに損なわれる可能性があるかという憂慮すべき状況を描き出している。
私たちは学者の専門知識を一般の人々に提供します。
私たちのチームについて
AI画像ジェネレータの仕組み
AI 画像ジェネレーターのトレーニングは複雑な作業ですが、簡単に言えば、関連するテキストの説明が付いた何百万もの画像をニューラル ネットワークに入力することになります。
これは、幼い頃にさまざまな物体を認識するように教えられた方法とよく似ています。車を見ると、「車」だと教えられます。次に別の車を見ると、これも「車」だと教えられます。時間が経つにつれて、車と他の物体を区別するのに役立つパターンを識別し始めます。
車が「何であるか」について理解します。その後、車の絵を描くように言われたときに、すべての知識を統合して描くことができます。
多くの AI 画像生成器は、「逆拡散」と呼ばれる方法で画像を生成します。本質的には、学習した画像に「ノイズ」を追加して、ランダムな色と明るさのピクセルが混ざった状態にします。その後、正しい画像が表示されるまで、ノイズの量を継続的に減らします。
AI 画像を作成するプロセスは、ユーザーによるテキスト プロンプトから始まります。次に、画像ジェネレーターはプロンプト内の単語が学習とどのように関連しているかを比較し、プロンプトを満たす画像を生成します。この画像は、他のどこにも存在しないオリジナル画像になります。
このプロセスを経験すれば、生成されるイメージを制御することがいかに難しいかがわかるでしょう。
たとえば、被験者に特定のスタイルのジャケットを着てもらいたいとします。好きなだけ正確に指示することはできますが、完璧にはできないかもしれません。結果は、モデルのトレーニング方法とトレーニングに使用したデータセットによって決まります。
AI画像生成ツール「Midjourney」の初期バージョンでは、「オーストラリア先住民」を求めるプロンプトに対して、アフリカの部族民の画像と思われる画像が返されるのを目にしたことがある。つまり、本質的には「高貴な野蛮人」の融合である。
AIによる文化の平坦化
さて、将来、何百万人もの人々がさまざまなジェネレーターから AI 画像を生成するようになると考えてみましょう。これらの画像は、教育、販促資料、広告、旅行パンフレット、ニュース記事などに使用される可能性があります。多くの場合、生成された画像の外観が「一般的な」ものであれば、ほとんど影響はありません。
しかし、画像が作成者が表現しようとしていた内容を正確に反映することが重要だとしたらどうでしょうか?
オーストラリアには 250 以上の先住民言語があり、それぞれが特定の場所や人々に固有のものです。これらの各グループにとって、言語はアイデンティティ、帰属意識、エンパワーメントの中心となっています。
それは、特定の土地とのつながり、親族制度、精神的信仰、伝統的な物語、芸術、音楽、ダンス、法律、食習慣などと同様に、彼らの文化の中心的な要素です。
しかし、AI モデルがオーストラリア先住民の芸術、衣服、工芸品の画像でトレーニングされる場合、各画像がどの言語グループに関連付けられているかについての詳細な情報が必ずしも入力されるわけではありません。
その結果、テクノロジーによる「文化の平坦化」が起こり、文化はより均一で多様性の少ないものに見えるようになります。ある例では、AI 画像ジェネレーターが、パプアの伝統的な頭飾りをつけた年配の先住民族の男性の画像を生成するのを観察しました。
これはテクノロジー植民地主義の一例であり、テクノロジー企業が多様な先住民文化の均質化や誤った表現に寄与しています。
また、ストックフッテージのウェブサイトでは、AI によって制作されたと明確にラベル付けされた「先住民アート」の写真も見かけます。先住民が制作に関わっていないのに、どうしてこれらが先住民アートの画像として販売できるのでしょうか。深い文化的知識や生活経験とのつながりがまったくありません。
芸術家にとって明らかな経済的影響に加えて、長期にわたる技術的な虚偽表示は先住民の自己認識にも悪影響を及ぼす可能性があります。
何ができるでしょうか?
現時点では簡単な解決策はありませんが、AI 企業、研究者、政府、先住民コミュニティ間の議論と関与から進歩が始まります。
こうしたコラボレーションにより、視覚的な物語の主権を取り戻すための戦略が生まれるはずです。たとえば、AI 画像生成に関する倫理ガイドラインを実装したり、AI トレーニング データセットを再構成して先住民族のイメージにニュアンスと特異性を加えたりすることが考えられます。
同時に、私たちは、先住民、場所、芸術を表現する際に文化の平坦化のリスクとそれを回避する方法について AI ユーザーを教育する必要があります。これには、幼稚園以上の教育機関と AI 画像作成をサポートするプラットフォームを巻き込んだ協調的なアプローチが必要です。
もちろん、将来の目標は、すでにさまざまな方法で生き残りをかけて戦っている先住民文化を敬意を持って表現することです。
Reference : How AI images are ‘flattening’ Indigenous cultures – creating a new form of tech colonialism
https://theconversation.com/how-ai-images-are-flattening-indigenous-cultures-creating-a-new-form-of-tech-colonialism-246972
