人間が機械に暴力を振るうのに助けは必要ない。人間が機械を虐待するという報告は、日常茶飯事になっている。
しかし、機械は私たちの状況を悪化させることさえあることが判明しました。侮辱的な言葉で私たちの心を揺さぶり、動揺させ、非合理的な行動を取らせてしまうのです。もっとも、人間が軌道から外れるのにそれほど多くの助けが必要なわけではありませんが。
カーネギーメロン大学のコンピューター専門家グループは最近、ロボットが人間の対戦相手とゲームをしているときに相手を落胆させるような発言をすると、そのロボットの言葉がその対戦相手のプレイぶりに影響を与えることを発見した。
ArXiv で配布された「ロボットの表現言語は競争ゲームにおける人間の戦略と認識に影響を与える」と題された論文の中で、CMU の研究者である Aaron Roth、Samantha Reig、Umang Bhatt、Jonathan Shulgach、Tamara Amin、Afsaneh Doryab、Fei Fang、および Manuela Veloso は、The Guards and Treasures と呼ばれる Stackelberg セキュリティ ゲームにおいて、Pepper ヒューマノイド ロボットの発言が人間の対戦相手にどのような影響を与えるかを調査しています。
このゲームは限定合理性を研究するために設計されており、限られた情報に基づいて行われた決定の合理性を評価する方法を提供します。
ガードと宝物では、プレイヤーは各ラウンドで複数のゲートの中から1つのゲートを攻撃対象として選択できます。防御側はゲートを守るために限られた数のガードを配置しており、攻撃側は各ゲートにガードが配置されている確率を確認できます。ガードされているゲートを攻撃するとペナルティが課せられ、ガードされていないゲートを攻撃すると報酬が得られます。
研究者らの研究では、40人の参加者とペッパーロボットを対戦させた。ペッパーロボットは、自然言語処理アルゴリズムによって生成されたフレーズを使用して、対戦相手の人間を励ましたり、落胆させたりした。
ロボットは「あなたは素晴らしいプレイヤーだと言わざるを得ません」とか「試合が進むにつれて、あなたのプレイは混乱してきました」といった発言をしました。そして、ロボットが否定的なコメントをすると、人間のプレイヤーのパフォーマンスは低下しました。決して大げさに批判しているわけではありませんが、確かに効果があったようです。
「落胆させるような発言をするロボットの対戦相手は、人間がゲームをあまり合理的にプレイせず、ロボットをより否定的に認識する原因となる」と論文は述べている。
これまでの研究でも、協力的な状況では同様の結果が示されており、ロボットのジェスチャーや姿勢が人間とのやり取りに影響を与えることも示されているが、競争的な状況でのロボットの言語的やり取りの影響についてはさらに調査する価値があると研究者らは述べている。
また、ロボットの脅迫的な行動は人々の注意力を高めることがいくつかの先行研究で示されている一方で、ロボットからの言葉による落胆は人々を非合理的にすることを示していると研究者らは指摘している。
カーネギーメロン大学ヒューマンコンピュータインタラクション研究所の准教授ジェフ・ビッグハム氏は、 The Registerへの電子メールの中で、人間が使用するロボットの開発にはさまざまな課題があると述べた。
「中には、通常のHCIの課題と非常によく似たものもあります」とビッグハム氏は述べた。「コンピュータシステムが具体化されているという事実が、最終的に非常に大きな意味を持つのです。」
人々はロボットを社会的な参加者として扱うようになり、ロボットが人間に及ばない点（社会的な身体的行動といった非常に難しい点でさえも）に特に気づき、そして嫌悪感を抱くようになります。ロボットが不気味の谷に陥るのは非常に容易なのです。
FacebookとCMUの研究者が開発したエースホールAIボットが、いかにして人間のポーカープロを圧倒したか
続きを読む
この研究には関わっていないが、関わっていたCMUのコンピューター科学者数名を知っているビッグハム氏は、これまでの研究結果と一致しているため、コンピューターが生成した感情がロボットに具現化された場合に人々が反応するのは当然だと述べた。
「感情はコンピュータシステムの設計において重要であるが、十分に活用されていない。しかし、人間が人間のような性質を帯びる可能性が非常に高いロボットにとっては、感情は特に重要であるように思われる」と彼は語った。
ビッグハム氏は、コミュニケーションや社会的行動における感情の役割については多くのことが分かっているものの、十分に理解できていないと述べた。
「私たちは感情と感情的関与を、非常に複雑な方法でいくつも利用しています」と彼は述べた。「感情は非常に強力であり、ロボットを含む実際のシステムの設計において、感情をどのように活用するかはまだ解明の初期段階にあります。」
ロボット開発者は、ロボットの能力と限界を意識した設計に努めるべきだと彼は提言した。「ユーザーを苛立たせるシステムを作るのは非常に簡単なので、こうした問題を理解する努力が非常に重要になる」と彼は述べた。®
