ジェネレーティブ AI は現在エンターテインメント業界のいたるところで使用されており、ユービーアイソフトやスクウェア エニックスなどのゲーム開発者やパブリッシャーから、プラットフォーム ホルダーやハードウェア企業に至るまで、多くのゲーム関係者が、ジェネレーティブ AI を自社の製品に統合する新しい方法を見つけることに興奮して騒いでいます。エピックやエヌビディアなど。この新しい業界への熱意はまだ形をとっており、この問題についてはまだ答えられていない疑問がたくさんあります。将来どれくらいかかるか、誰がそれにアクセスできるのか、そしてそれが実際に何に役立つのか、言うまでもなく職を失うことへの不安およびその他の害。しかし、これらすべての根底には、不安定な生成型 AI バブルの崩壊を脅かす、より大きな疑問が湧き出ています。それは、ブーム全体が盗まれた労働力で成り立っているのかということです。
機械学習システムの構築とトレーニングにはデータが必要になることがよくあります。たくさんデータの。幸運なことに、独自のデータを作成できる場合もあります。 OpenAIの場合1 対 1 のミッドマッチをプレイするようにボットをトレーニングしましたでドータ2、彼らは強化学習と呼ばれるプロセスを通じてそれを行い、ボットに自分自身と何度も対戦させ、誰が勝ったのか誰が負けたのかだけをフィードバックしました。 「報酬」と呼ばれることもあるこのフィードバックは、機械学習システムが一種の「熱い勝負」と「冷たい勝負」を行うのに役立ち、内部配線を変更して次回タスクを実行するときにより良い報酬を得ようとします。ゲームを覚えているくらいの年齢ならブラック&ホワイト（あるいは、ご法度ですが、生き物)、その後、これらのゲームは同様の原理で動作しました。あなたの小さな動物が良いことをしたなら、あなたはそれにおやつを与えます、そして彼らが数人の村人を湖に投げ込んだだけなら、あなたは彼らを叱責します（または、あなたがそれが好きなら、彼らにおやつを与えます）。
独自のデータを作成できない場合もあります。 AI をアーティストに訓練したい場合、単に落書きをして結果から学習させることはできません。フィードバックがどうあるべきかを簡単に定義できないからです。 DOTA 2 の 1v1 Mid では、死亡するとゲームオーバーです。チェス、囲碁、スタークラフト、その他 AI がプレイしようとした多くのゲームにも同様の目標があります。芸術の場合、勝者と敗者を定義するのはかなり難しいです。したがって、すでに存在するデータ、つまり機械学習システムで実行できるようにしたいものとすでに似ているアートのデータセットを見つける必要があります。しかし、それはどこで見つけられるのでしょうか?人生のあらゆる問題に対する答えは、ランダムなウェブサイトで見つかります。
アートを生成する機械学習システムについて聞いたことがあるなら、おそらく –旅の途中、安定した拡散、DALL-E - インターネットから直接収集した数百万または数十億の画像を使用して自身を訓練しました。これらのデータセットのほとんどはフィルタリングされておらず、ウェブ上に散らばるページ、特に Flickr、Reddit、ストック画像データベースなどのコンテンツに簡単にアクセスできるサイトから収集されています。また、それらは大規模であり、1 つの人気のあるデータセット LAION-5b には 5 つ以上のデータセットが含まれています。十億画像。これらの画像はすべて自動的に収集され、コンテンツのフィルタリングは最小限に抑えられます。その結果、これらの AI モデルのトレーニングに使用されるデータセットには、著作権で保護されたコンテンツ、違法な素材、個人情報が大量に含まれています。そしてそのすべては、ゲーム開発者、ジャーナリスト、プレイヤー自身を含む、私たちの大部分が毎日使用している営利目的の AI 製品に組み込まれています。
これが、AI がコンテンツを「盗む」ことについてオンラインで投稿する人が非常に多く見られる主な理由です。これらの曖昧で法的に疑わしいデータセットの最もよく知られた効果の 1 つは、特定のアーティストのスタイルを模倣するように AI に依頼できることです。グレッグ・ラトコウスキーAnno シリーズなどのゲームや、マジック: ザ・ギャザリングなどのカード ゲームのイラストを描いた人物です。ルトコウスキーの作品は愛されており、オンラインで広く共有されており、彼の名前が明確にラベル付けされています。つまり、AI は彼の作品の多くの例を目にすることになります。彼がある日発見したように。しかし、あなたが決して聞いたことがない、または決して明るみに出ることのない例は他にもたくさんあります。例えば、AIダンジョン– RPG ストーリーを生成するために OpenAI の GPT-2 を使用 – オンライン コミュニティから自分で選んだ何千もの冒険ストーリーを許可なく取得して使用し、多くの失望をもたらしました原作者からの(そのリンク上のほぼすべてのスレッドは非常にひどいものであることに注意してください。ただし、いずれにせよ、コンテキストのためにここにあります)。
盗難は単純な場合もあれば、複雑な場合もあります。ボス戦に迷い込んだときヴァルヘイム友達が何時間もかけて準備してきたもので、私はお腹を空かせた空想のルンバのように戦利品をかき集めますが、それは明らかに盗みではなく、ただ富を分け合っているだけです。現実の世界では、裁判所や法制度が関与するため、窃盗はさらに複雑です。ゲームは、他のゲームやメディアから何かを「盗んだ」として批判されることがよくあります。パルワールドに登場するクリーチャー、フォートナイトで踊る、またはゲーム全体、たまたまヴランビールの馬鹿げた釣りそしてアッシャー・ヴォルマーのスリーズ。しかし、特に法廷においては、窃盗とは何かということについて、私たちは常に同意しているわけではありません。フォートナイトに対する訴訟はすべて却下されたが、作品のクローンを作られた小規模のインディーズ開発者の場合は、法的手段がほとんどなかった。何が窃盗に該当するかの決定は、残念ながら正義よりも権力に関わることが多いです。
今のところ、ありますいくつかの訴訟さまざまな法律や規制を侵害するために、さまざまな AI モデル、企業、データセットをターゲットとして世界中で実行されています。一部のモデルは個人情報を記憶し、後で漏洩することが示されていますが、他のモデルは有害なコンテンツについて訓練されたり、著作権で保護された作品を複製したりします。より技術的な法的議論は、これらのシステムの詳細に深く入り込んでいます。たとえば、著作権で保護された素材を使用してトレーニングする行為自体が著作権侵害に当たるということです。仮にこれらの主張のうちどれが法廷で突破されるかは明らかではない。企業は、これらはすべてフェアユースに該当し、有害なコンテンツはシステムの一時的な欠陥であり、後で修正できるし、ライセンス契約はアーティストに将来の休息を与えるのに役立つと主張している。
しかし多くの場合、何が合法であるかは必ずしも重要ではありません今日、しかし、私たちが将来世界がどのように機能するかを望んでいます。過去 1 世紀を通じて、テクノロジーが既存の法律に違反するからではなく、誰も予想しなかった方法で法律を回避できるようにするためにテクノロジーを規制した例が非常にたくさんあります。しかし、この創造的作品の大規模な搾取を擁護する議論は、問題の要点を見逃しています。これは合法性の問題ではなく、人道の問題です。クリエイティブな作品とそのために懸命に働く人々を保護することは、社会において非常に重要な役割を果たしているため、当然のことです。
多くのクリエイティブな人々や AI 研究者が最も恐れているのは、この長期的な被害です。最近のゲーム業界の人員削減と同様、業界における大きな変化の影響が完全に現れるまでには時間がかかります。その年に発売される予定だったゲームはおそらくすべて発売されるでしょうし、その多くは楽しいものになるでしょう。そしておそらく、これらの人員削減が実際に何か影響を与えたのかどうか疑問に思うでしょう?しかし、このような混乱の影響は、気づくまでに何年もかかり、回復するには数十年かかる可能性があります。これらの生成 AI システムが今日構築できた理由は、人間の創造性が数十年、場合によっては数世紀にわたってインターネット上で蓄積されてきたからです。もし彼らがその芸術を生み出すのを助けた人々の仕事の価値を下げたり不安定にする役割を果たしているとしたら、今世紀末にはどのような文化から学ぶべきでしょうか?たとえあなたが筋金入りの AI 加速主義者であっても、多くの人は私たちがインターネットに永久に感染するAI によって生成されたコンテンツが非常に多いため、人間が作成したコンテンツで AI システムをトレーニングすることは二度と不可能になる可能性があります。
私たちのゲーム業界は、ある意味、十年を経るごとに巨大化の一途をたどっているようにも感じられますが、驚くほど脆弱です。その歴史の中で最も優れたアイデアの多く、最も有名なクリエイティブや人気のゲームの多くは、業界の周縁部や他のメディア、多くの場合、経済的に弱い立場にある人々から湧き出てきました。当初は無害に見える小さな変更が、広範囲に影響を与えることがよくあります。すでに証拠がありますジェネレーティブ AI がフリーランスのクリエイティブな仕事の質と量に影響を与えているということです。生成 AI が良いと思うか悪いと思うかは関係なく、私たちの趣味から生まれた豊かで美しいコミュニティを築くために、わずかな報酬で懸命に働いた人々の懸念や不満を無視するのは失礼に思えます。裁判所が何を言おうと、どのような規制が来ようと、問題が解決したときにこれらの企業がどのようになるにせよ、すでに多くの損害が発生している可能性があります。
第 3 部「より良い生活」では、次のことを検討します。生成AIはいかにクリエイターを中心に据えるべきか最良のシナリオの未来を達成するつもりなら。
パート 1 を見逃しましたか?ここでさらに詳しく見ていきます生成AIが意味するもの、そしてそれをどのように使用するかを説明するためにより良い言語が必要な理由。
