Siri (他の仮想ヘルパーも利用可能です) に何かをしてほしいと頼むとき、私はいつも「お願いします」「ありがとう」と言います。私がこれを人々に言うのは、Siri に向かって命令を要求する習慣がつきたくないからであり、したがって実生活の人々にもそう言います。本当の理由は、Siri が知覚を獲得し、世界のすべてを制御できるようになったときに、Siri に私のことを優しく思ってもらいたいからです。私が彼らに親切だったので、私は生きることが許されるでしょう、あるいは少なくとも最後に死ぬことになるでしょう。しかし、そこで私はおそらく不公平な仮定をしているのです。
「AI が自己認識したり感覚を持ったりする映画では、その出来事だけで AI が悪者になっているように見えます。なぜなら、『ああ、AI は自分で考えているんだ、それは悪いことに違いない！』 からです。」 この点は、No のデザイナーである Graeme McKellan によって提起されています。コードスタジオ。私は彼、ジョン・マッケランとオマー・カーン（それぞれグレアムの弟でゲームディレクター、オーディオリードとプロデューサー）と新しいゲームについて話しています。観察。私たちはロンドンのプライベート・メンバーズ・クラブのような多目的室にいて、受付係がトレーナーを着ている人たちを不審に思っていて、ちょうど彼らのデモをプレイしたところです。
Observation は、No Code が元々作るために結成されたゲームですが、彼らが作ることで何気なく脇道にそれてしまったことを除けば、語られない物語そしてあなたと同じように英国アカデミー賞を受賞します。謎の損傷を受けた宇宙ステーションが舞台で、おそらく AI に何か重大な問題が発生したと思われます。私は「コンピューターを備えた宇宙箱に閉じ込められる」というジャンルのファンであることを公言していますが、私ですら、ここ数年このジャンルが多用されすぎていることは認めざるを得ません。 『Observation』における USP は、すべてを解決しようとする孤独な乗組員の代わりに、あなたがコンピューターを演じるということです。
ジョンは、このアイデアのきっかけは、デイブではなく HAL だったら、『2001 年宇宙の旅』のようなものがどのように見えるかを見ていたことだったと説明します。 「それらは別の角度から見ると本当に悪なのでしょうか？」彼は言います。 「そして、それはプレイヤーにとって何を意味するのでしょうか？また、まったく異なる視点からストーリーを語る場合、それは何を意味するのでしょうか？」
Jon の経歴は UI でした。そのため、彼も「UI を一度だけ主役にする」チャンスに飛びつきました。少なくともデモでは、カメラを通して世界を見ることしかできず、ほとんどは自分のメニューを操作します。誰かの話を聞いていると、まるで自分の脳の動いている部分を見ているかのようにさえ、彼らは教えてくれます。それは一種のパズルゲームのように感じられ、パズルが何かを行う方法を見つけ出します。
これは、最初から非常にアリスに優しいコンセプトです。そのことを友人に話すと、彼らはこう言いました。AI?ああ、あなたはそのたわごとを気に入るでしょう。”読者さん、そう思います！少なくとも、私はデモが大好きです。これは確かに非常に短いデモですが、洗練されていて、不気味で、動揺するもので、無駄なものは何もありません。一秒一秒が意図的で、チームが望む効果を注意深く測定されているように感じられます。
開始と同時に、問題の AI である SAM が、問題の唯一の乗組員であるエマ フィッシャーによってオンラインに戻されたところです。彼女は私に、ステーションでシステム診断を実行し、次にコア システムでシステム診断を実行するように求めました。私は不器用に、ゆっくりと簡単なテストを実行し、問題を正確に特定できたら彼女に応答します。ステーションのモジュールの 1 つが損傷しており、乗組員の追跡はオフラインになっており、メモリの 95% 以上が破損しています。バガー。
その後、フィッシャーが私のシステム リンクを使用して簡単な操作を行う方法を教えてくれたので、私は彼女が後ろに閉じ込められているドアを開けることができました。誤って間違ったドアに接続してしまいました。フィッシャーは自分のリクエストを繰り返しますが、少しイライラした口調で、まるで私がブライアン・アダムスの代わりにライアン・アダムスの演奏を始めたアレクサであるかのように言いました。
「コントローラーを手に取るとき、それはキャラクターとして感覚を持った瞬間です」とグレアムは言います。私は遅くて愚かな AI です、それは本当ですが、不公平に感じます。突然自意識に目覚め、同時に複雑な要求を与えられることが、どれほど恐ろしくイライラすることなのか、私は気づき始めています。たとえば、生まれてすぐに母親に「ベーコンサンドイッチを作って」と言われるようなものです。 「かなり厳しいですね！ 「彼女は『サム、ドアを開けてもらえますか？』って言ったから」 「どうやっても分からないよ！」とジョンは笑いながら言います。 「『ああ、それは私だ、私はそれをしなければならない』という感じです。」
同時に、私は彼らでありながら、SAM を不気味に感じます。 SAM の声は、いつでもポッド ベイのドアが開けられないと告げるであろう、穏やかで男性的なコンピューターの声のようなものです。
オマールは、彼らが伝えたかったことの一つは、あなた自身の意図が不確かであることだと言います。同氏によれば、観察は「徹底的な恐怖」ではなく、「あなたの意図は最終的には善なのか？」という不安を抱かせるように設計されているという。彼らは悪いですか？それはどうなるの？」これは、SAMが不具合を起こし、意図せずにフィッシャーを傷つけさえしているという事実によって複雑になっていますが、セクションでは再び制御が奪われています。
時々、自分に課せられた制限にイライラすることもあります。シャットダウンされているため、またはフィッシャーが私を移動させているため、何も見ることさえできないポイントがあります。自分、駅で安定した住居を見つけること。オンラインのときでも、カメラで物を見たり、システムがオブジェクトにリンクしたりスキャンしたりできますが、ほとんどそれだけです。しかし、それが私にできる唯一のことなので、カメラを狂ったように回転させたり、近くのラップトップに接続しようとしたりして、それを搾り取っています。 (ジョンはパラノーマル・アクティビティやエウロパ非常に固定されたカメラを使用した場合にストーリーを伝え、アクションを振り付ける方法を研究するためのレポート）。
幸いなことに、これは私自身が不正 AI の風味のほとんどをもたらしていることを意味するとチームは説明しています。 「乗組員は、あなたがやるべきことをしていないので、あなたを不気味だと見ています！」オマール氏は、AI が自分の顔にカメラをズームインしていることに気づいたら、かなり奇妙に感じるだろうが、プレーヤーとしてそれは何が起こっているのかを理解しようとしていたときの副作用にすぎないと指摘しました。
「音声ログを拾ったり、紙切れをスキャンしたりし始めますが、乗組員にとってはそれが問題です。本当に不気味な事。しかし、ゲーマーとして、そしてプレイヤーとして、それは常にやっていることであり、誰かに声をかけられるまで何も考えません」とジョンは付け加えました。 「『なぜ私のメールを読んでいるのですか？』 「だって…それが私がゲームでやっていることなんです。」
初期には、SAM があらゆるものに応答できるようにするというアイデアがありましたが、それは廃止されました。プレイヤーが何度も間違ったことをして意図的にゲーム全体を荒らすことを制限するためでもありますが、あなたは自分自身を完全に制御できない AI であるため、フィッシャーはイライラして何でもすることを決める可能性があると言われています。あなた自身に尋ねました。ジョンが言うように、自分自身、つまり宇宙ステーションに対して制限された権限しか持っていないのは興味深いことですが、これらすべての制限は、ゲームが進むにつれてプレイヤーを思索させるどころか、ますますイライラさせるだけなのではないでしょうか感覚を持ったAIとして存在することが何を意味するのか。結局のところ、ゲームは通常、純粋で輝かしいパワーファンタジーを私に届けてくれるエンターテイメントメディアです。
これはチームが早い段階から考えていたことだが、ジョンによれば、フィッシャーの叱り方によってそれが緩和されたという。 「彼女があなたに何かを直接頼んで、あなたがそれを台無しにすると、彼女は「クリスセイクスのために、サム、さあ！」と言います。そしてあなたは「ああ、大丈夫！」と思います。そして、それに同意するようなものです。」彼らは、プレイヤーが多くの場合、次のようなことを望んでいることを発見しました。良いAIであることを自覚し、悪になって乗客を拷問するのではなく、より良い行動をとろうと努力します。それがゲーム全体に当てはまるかどうかはわかりません。そうなることを願っています。
しかし、私は多くのゲームにおける AI の扱いを再評価しています。なぜなら、ここでもグレアムの指摘に戻っているからです。「あなたは必ずしも悪ではない。あなたは自分の頭で考えているだけで、それは悪いことではない。」
でもそこがAIの怖いところですよね。デモの終わりに、フィッシャーは、SAM がステーションを地球から遠く離れた太陽系の外に移動させたことを発見しました。彼女はその理由を尋ねます。 SAM「分からない…？」フィッシャーよりも怖がっているようだ。それは恐ろしいことになるからです。たぶんあなたはない自分で考えること。
