指に付いたレモンカードを拭いたばかりのバスのティールームに座っていた私は、殺人事件についてロボットに尋問するという任務を与えられた。尋問シーンは Spirit AI の GDC デモでした [公式サイト] – より安全でより包括的なオンライン環境を構築するだけでなく、より表情豊かなキャラクターをゲームにもたらすことを目的としたミドルウェア。どちらも同じ一連のテクノロジーを基盤としています。彼らはそれぞれインタラクションを理解するために言語に注目しますが、一方はその理解を利用して AI キャラクターとの有意義な出会いを構築し、もう一方はそれを利用してプレイヤーがお互いにどのように行動しているかを監視します。
私はSpirit AIのクリエイティブディレクターであるMitu Khandakerと一緒に座っていました。開発者としての彼女の仕事を覚えているかもしれません。最も小さなサメ、ゲームについて赤シャツまたは、学界に所属している場合、彼女はニューヨーク大学ゲーム センターの芸術助教授であり、ゲームとインタラクティブ性の美学で博士号を取得しています。彼女は私が自然言語を使ってデモをプレイし、マーティンという男性がどのようにして亡くなったのか、そしてロボットに罪があるのかどうかを解明しようとしているのを見ていました。デモはSurgeon SimulatorのメーカーであるBossa Studiosによるもので、限られた時間でロボットとチャットすることができた。私はタイピングし、ロボットは茶室に向かってスコットランド訛りの女性の声で話していた。その後、評決を求める前に彼女の罪について。
これまでのところ、私はロボットに人間を殺せないというのは嘘ではないかと尋ねてロボットを恥ずかしがらせ、彼女は主な指示を繰り返しました。私が情報を調べていると、AI キャラクターは困難な綱渡りをしていました。自分のキャラクターに忠実であり続けるためにいくつかのことを隠そうとしながらも、プレイヤーとしてイライラしたり、スレッドがなくなったりしないように、他のことは自発的に隠そうとしていました。引っ張る。
一例として、誰がマーティンを殺したのか尋ねましたが、彼女はその情報を持っていなかったので答えることができませんでした。彼女はただ「分からない」と言う代わりに、その殺人は彼の仕事に関連しており、ほぼ間違いなく人間の行為であると思うと私に言いました。これにより、進むべき方向が決まります。
このシステムは現時点では完璧ではありませんが、興味深いもので微妙な違いがあります。ロボットがアリシアという名前の女性を名前で言った後、私は彼女が何をしているのか尋ねると、ロボットは、このシナリオでの彼女の行動に関して、アリシアが最後に何をしていたかを答えました。また、「なぜ X と Y が混同されるのですか?」など、私の一部の言い回しにも当惑しているようです。私が動機を突き止めようとしていると、ロボットが私がいちゃつくと思っているように見える瞬間もあります。
しかし、私がゲームに慣れていない方法で情報が展開されるという現実的な感覚もあります。私が「彼女」、「彼ら」、「そこ」などの叙述的な言葉を使い始めたとき、ロボットは私が誰のことを指しているのかを理解することができました。 AI は通常、これらのシナリオで私が誰を意味するのかを追跡できることに感銘を受けました。また、文頭の大文字が抜けているなどの形式的なエラーがいくつかあるため、AI がスクリプトに従っていないが、関連性があると思われる内容と私がトリガーしたかどうかに基づいて対話要素を描画して対話を作成していることがわかります。特定のビート。
デモの最初のプレイスルーが終わった時点で、私は殺人事件に関してはそれほど賢明ではなかったと認めますが、もう一度プレイして、多くの有益な状況を発見しました。セルゲイはマーティンを殺すのに必要なだけ強く殴るのに十分な力を持っていたが、アリシアはそうではなく、セルゲイはマーティンが発見された部屋に近づくことができなかった。アリシアはその部屋にアクセスできましたが、ロボットは血まみれでした。ああ、遺体を運ぶことは主指令の妨げにはなりません。
私は、アリシアとセルゲイがおそらくマーティン殺害を共謀し、セルゲイが実際に殺害し、アリシアがセルゲイが到達できない場所へのアクセスを提供したのではないかと判断した。その後、二人はロボットに遺体を殺人現場から発見場所まで運ばせた。
でも、アンジェラ・ランズベリーとエルキュール・ポアロとコロンボを失望させたような気がします。彼らは状況証拠だけを頼りに結論を出すのではなく、すべてを解決していただろう。また、デモの最後に私がロボットに答えたとき、彼女は私がとにかく殺人罪で告発しているのだと思われたほど、非常に曖昧な表現をすることができました。私は彼女を事後的に記憶を消されたアクセサリーだと非難していたのです！正義って難しいですね。
この特定のシナリオの内部で何が起こっているのかを確認するのに少しの時間しかありませんが、私が見たところ、そして Mitu が指摘したところによると、AI が即興で動的に行動し、反応できるフレームワークが設定されています。すべての分岐をスクリプト化する必要がある会話ツリーの 1 つをたどる方法です。
このシステムを通じて、ライターやナラティブデザイナーは、特定のパスに従うのではなく、キャラクターが伝えるべき重要な情報、インタラクションを引き戻す対象、ストーリーのビートなどを強調表示できるようになります。そこでは、キャラクターがどのように反応し、優先順位を付け、動機や課題を設定するかによって、AI の性格も作成され始めることになります。
「私たちは人間などを再現しようとしているわけではありません」とミトゥ氏は言う。 「実際、一言で言えば、キャラクター エンジンを使って私たちがやっているのは、物語デザイナーやライターであれば、創造力を発揮して非常に具体的なストーリーを作成できると同時に、キャラクターがそのストーリー内で動的に行動できるようにすることです。」
キャラクターには明らかに他の側面もあります - ボディランゲージ、歩き方、特定の語彙、パーソナルスペースの理解などですが、それらは通常の開発者の領域です。これらの要素のどれがインタラクションに影響を与えるかについては、ゲームによって異なります。システム内では、キャラクターが話すときにどの程度自己主張するかを定義することもできます。 「ゲームの状態情報をいくらでもシステムに組み込むことができます」と Mitu 氏は言います。 「私たちはすでに近接通信を行っており、VR でジェスチャーを行う予定です。」
ここでは、AI のための 1 つの知識セットを確立するために、ゲームがイベントのタイムラインとどのように連携するかを確認することができます。
実際、ある時点で、私が尋問シーン中にキーボード コマンドでロボットの方に身をかがめたところ、彼女はそれを攻撃的な行動であると解釈しました。ミトゥさんは、ルームスケールの VR バージョンではロボットの後ろに立ってロボットに迫り、それが彼女にとって脅威であると認識できると語った。
この新たな認識が、博覧会の対話をしゃがんで進んだり、権威ある人物が私に使命について話しているときに家具によじ登ろうとしたりする私の習慣に影響を与える可能性があるのではないかと心配になり始めました。想像してみてくださいマスエフェクトそこでNPCは、中距離を見つめて家族のことについて話し合う代わりに、突然立ち止まって「すみません、そこは私のベッドです！私が悲惨な話をしているときに、汚れたブーツでベッドに飛び乗るのはやめてください。」と言いました。
Mitu 氏もそのことに興味を持っています。「この作品が世に出たときに私が本当に興奮していることの 1 つは、プレイヤーがこれまでやってきたことをやり、境界線を無視して遊んでいるのに、キャラクターが突然理解してしまうことです。」
Spirit AI の開発者が取り組んでいるすべての根底にあるのは理解です。 Mitu 氏が述べたように、目標は AI によって信頼できる人間を作成することではなく、プレイヤーが自然な方法で自分自身を表現できるようにし、ゲーム システムにそれを理解させることで、より有意義なインタラクションを生み出すのに役立つことです。これらのインタラクションの具体的な性質について、Mitu 氏はすべてがカスタマイズ可能であると述べています。
「キャラクターにはスクリプト空間と知識モデルがあり、それは世界や彼らが知っていることについて彼らが持っている情報のリポジトリです。私たちは何も想定しません。ただ、あなたがどのように使用するかを知ってもらうために、私たちが提供するデフォルトがたくさんあります。」ツールですが、すべてをカスタマイズできます。」
まだ多くの記述が必要ですが、ツールセットを使用するとそれがもう少し管理しやすくなり、プロセスを容易にするために同様の会話文を生成することもできます。また、世界のさまざまなエンティティの知識モデルを設定する必要もあります。
ここの同義語列は、AI がより自然かつ柔軟な方法で意味を解析できるように、エンティティがどのように丸められ始めるかを示しています。
たとえば、エンティティとして会社を持ち、その会社に別の種類のエンティティである従業員を含めることができます。人間は第 3 の存在ですが、従業員になることもできます。すべてのものを定義して関連付けることができます。したがって、従業員がいる会社のアイデアを作成したり、アイスクリームで作られた異世界に貪欲なアリの巣のアイデアを作成したりできます。 （いいえ、あなたは以前アイスクリームを歩道に落としてしまい、今は特集記事を書いている間、アリがその高さをよじ登るのに夢中になっています。）
しかし、スピリット チームは、AI をゲーム キャラクターとして作成するフレームワークと並行して、開発者が有害でないコミュニティを成長させるのを支援するためにそのテクノロジーを採用しています。スティーブ・アンドレ (Spirit AI の CEO 兼創設者で、以前は IBM に勤め、米国のゲーム番組 Jeopardy の専用版を獲得したコンピューター システムである Watson の開発チームと一緒に働いていました) との最初の会話の中で、Mitu は、Spirit AI システムはどうかと尋ねました。言語を理解できるのに、なぜそれを使って嫌がらせに立ち向かうことができないのでしょうか？したがって、Spirit AI の仕事のもう 1 つの主要な側面は、Ally にあります。
Ally は別のツールです。公式サイトから引用して、Ally による会社の目標を要約します。
「Ally は、ゲーム スタジオやソーシャル プラットフォームがコミュニティに対して負う配慮の義務をサポートし、虐待行為、身づくろい、その他の望ましくない活動から身を守るのに役立ちます。これらはすべて、プレイヤーが安心できるものについての意見に耳を傾けることに基づいています。」
虐待への対処を開始するには、システムが虐待がいつ発生しているかを認識できる必要があります。従来の方法の 1 つは、キーワードやフレーズをスキャンすることです。通常、中傷がリストの先頭にあり、他のより具体的な用語や行動が続きます。最近の虐待に対抗する最も記憶に残る試みの 1 つは、オーバーウォッチここで、「GG EZ」（野党が大した挑戦を提供していないことを示す、目を丸くするようなマナーの悪い言葉）は、チャット内で「私は人生のいくつかの不安な問題と格闘していますが、ありがとう」のようなBlizzardが選んだセリフに置き換えられます。みんな、私と遊んでくれて。」
ここに描かれているゲームは既製の MMO です。実験は、ゲーム コンテンツ自体ではなく、Ally チャットボットをゲームに接続できるかどうかを確認することでした。
アリーはそんなつもりはないよ。まず、荒らしはどの単語が禁止されているかに注目し、それを回避します。代わりに、行動のパターンを探しています。使用されている言語に注目しないわけではありませんが、文脈の中で言語を理解しようとします。つまり、チャット内の他の人が不快感を表明しているかどうかも調べているということです。これは、「放っておいてください」と入力するようなものかもしれませんが、やり取りが主に一方通行であることもわかります。したがって、プレイヤーがグループへの招待や不要な注意を他の人にスパム送信し、受信者がそれを無視しようとしている場合、システムはそれを登録できます。そして、その不快感を性的言語や人種的言語（またはその他の出来事）と結びつけることができます。
開発者がこの情報を使用してできることは、それを使用して NPC インタラクションをアクティブにすることです。したがって、おそらくゲームのキャラクター、または単なるコミュニティ管理ボットが、「X が起こっていることに気づきました、大丈夫ですか?」というメッセージを送信するでしょう。ここから、プレイヤーは他のプレイヤーをブロックしたいかどうかだけでなく、システムが状況を読み間違えたかどうかを示すことができます。おそらく、この文脈では、その言葉遣いと応答の欠如は友好的なからかいであったため、この場合、またはこの特定のプレーヤーでは問題がなかったと指定できます。あるいは、それが気にならなかったということさえあります。システムはそれらの応答から学習し、将来の設定を適用できます。
開発者は、嫌がらせを扇動しているプレイヤーと対話して、インタラクションのその側で何が起こっているのかを把握するように Ally を設定することもできます。
ここで重要なことは、境界は固定されておらず、あるシナリオでは問題なくても別のシナリオでは問題ない可能性があることを理解することです。オンラインハラスメントへの対処における有効性の観点から、ここでは介入が好ましい方法である（Mitu氏がData and Societyから引用した研究によると）が、通常、介入を実現するには強力なモデレーションチームとコミュニティ管理チームの存在に依存している。
Spirit は現在、いくつかのライブ ゲームでシステムにデータをフィードし、開発者とプレイヤーが実際に必要とするものに基づいて改善を行っています。ミトゥ氏によると、あるゲームでは 1 日あたり 1,400 枚のサポート チケットが取引されているそうです。そのためには、シナリオに応じて処理能力と感情労働を組み合わせる必要があります。 Ally ができることは、その労力の一部を引き受けることです。ミュート ボタンを使用したり、プレイヤーをゲームを放棄するための優先順位の低いキューに追い込んだりする以上のものです。
このシステムは予測分析を使用するため、潜在的な問題を理解できない場合でも、警告を発することもできます。たとえば、プレーヤーが不快感を示しているパターンを検出した場合、その原因にフラグを立てて、人間のモデレーターが参加して何が起こっているのかを把握できるようにします。したがって、理論的には、コンテンツの実際の意味が分からなくても、トロールが使用している可能性のある回避策を見つけたり、攻撃的なミームがいつ燃え上がるかを確認したりすることができます。
これは禁止ハンマーに代わるものではありませんし、そのことを意図したものでもありませんが、プレイヤーコミュニティの問題に対処する際に、より広範でより微妙なツールセットを提供することになります。
逆に、初心者に遊び方を教えたり、チームの士気を維持したりするなど、プレイヤーが役に立っているときを見つけ出すように設定することもできます。罰の代わりに報酬を与えるよう設定することもできるだろう。
私が注意したいことの 1 つは、プレイヤーを有害なプールに隔離して、お互いにプレイすることしかできないという誘惑です。一部のゲームではそれがうまくいくかもしれないし、少なくとも問題を封じ込められるかもしれないが、他の場所でのポジティブな姿勢が促進される（または少なくともハラスメントが減る）ことを期待して、プレイヤーのグループを統合し、これらのポジティブな反応を奨励することに焦点を当てた設定を希望します。オンライン。また、オンラインのコメント セクションなどに Ally ツールセットを組み込む可能性にも興味があります。
Mitu はインタビューの中でそのことについて少し触れ、開発者がコミュニティの雰囲気を整えるのを支援できる Ally の能力について言及しました。
私がプレイしていたマーダー ミステリーの概念実証デモに関しては、十分な内容があり、インタラクションも十分に機能していたので、次に何が起こるか楽しみでした。特に、アニメーション、詳細なアート、さまざまなシナリオなど、より多くの要素が追加された場合は、ゲーム。しかし、Ally は私が開発を心から望んでいるツールです。私は、多くの人が PC ゲームで最も有害であると考えているゲームと定期的に関わっています (ただし、これらのゲームは、私が生涯の友人に出会うきっかけにもなりました)。オンラインハラスメントとコミュニティ構築の微妙な違いに対処するためにシステムがより適切に設定されるという見通しは、何か特別なことのように思えます。
