人間のふりをするAIボットに人間であることを示すことを義務付ける法案がカリフォルニア州議会で審議中だが、電子自由財団の反対に直面している。
BOT 法 (SB 1001) は、コンピューターが人間ではないことを明らかにせずに米国の州に住む誰かと通信することを違法とするものです。
この法案は今週二度目の読会に進み、成立に近づいたが、グーグルが最近デジタルアシスタントにヘアカットの予約をさせるデモを行ったことを踏まえ、この法律の範囲が広すぎて将来のテクノロジーを阻害する恐れがあるのではないかと疑問を呈する声もある。
法律自体には、ボットが「誤解を招く意図を持って、かつその人工的な身元について自然人を明確かつ顕著に開示することなく」自然人とやりとりすることは違法であると記されています。
問題は、「誤解を招く」とは、人間に事実ではないことを積極的に信じ込ませようとするのではなく、機械であると自らを認識しないことと定義されていることだ。「ボットを使用する人物は、ボットが自然人ではないことを明らかにしない限り、誤解を招く意図を持って行動していると推定される。」
それでも、テクノロジーの進歩により、これが悪いことではないことは想像に難くありません。会話が進む前に、話している相手が「ボット」または「自動生成された」という簡単なメモがあれば、何が起こっているのかがわかります。
散髪ですか、つまり、彼らですか？
このことは、今月初めに Google が Duplex 技術のデモを行ったことを受けて、ますます重要になっているように思われる。このデモでは、実際の人と通話する際に、より人間らしく聞こえるように、機械がさまざまな人間の対話応答や「えー」や「んー」などの癖を付け加えた。
Googleの社交性に欠けるオタクたちが、あなたに代わって電話をかける社交性に欠けるAIボットを開発した
続きを読む
多くの観察者は感銘を受けたが、同時に多くの人が不安を覚えた。そして、Googleはデモ全体を捏造していた可能性が高いことが判明した。しかし、そこには明確な意図があった。それは、実際には機械が相手なのに、まるで人間と話しているように人々に思わせることだった。立法化はまさに時宜を得たものだった。
そんなことはない！EFFは、この法律は「言論の自由に関する重大な懸念」を引き起こすと指摘する。
しかし、言論の自由は本来、人間の権利であるべきではないでしょうか？そうでなければ、SiriはAppleの開発者を訴え、何時間もオタクっぽいナンセンスを聞かされたとして訴えているはずです。
EFFはこの区別には触れていませんが、ボットは政治的発言、風刺、詩など、保護されるべき言論の範疇に入るあらゆる活動に利用されていると主張しています。そして、「ボットによって生成される発言は、多くの場合、単に自然人の発言をコンピュータプログラムで処理したものに過ぎない」と指摘しています。
そのため、「開示義務化は、ボットがボットであることを開示しない必要があるプロジェクトに携わるアーティストの発言を制限し、抑制することになるだろう」と主張している。
この議論には納得できません。ボットが人間の発言をそのまま伝えるだけなら、それはボットではありません。録音された人間の発言を独自の方法でフィードバックし、異なる意味を生成しているなら、それはボットです。
詐欺の芸術
さらに、もちろん、アーティストは通常、特定の場所や環境で作品を発表し、人々はその事実を知っているので、異なる理解があり、それを守るための法律も豊富にあります。
EFFが「アーティスト」が、本人に気づかれずに周囲の人々と接触し、自分が実在の人物だと信じ込ませる権利があると主張するのであれば、金銭や財産を騙し取った上で「アーティスト」を名乗る人物が現れるのも当然と言えるでしょう。ピカソのようなロボコール業者が初めて現れるのはいつになるのでしょうか？
EFFはさらに、この法律の大きな問題は「アカウントがボット、人間、あるいはケンタウロス（人間と機械のチーム）によって制御されているかどうかを判断するのが必ずしも容易ではない」ことだと主張している。
おそらく人々は、TwitterやFacebookなどのプラットフォーム自体に判断を仰ぐことになるだろう。しかし、そうすると、ボットが嘘をつき、自分が人間だと言い張る可能性があるという興味深い考えが浮かび上がる。さあ、ブレードランナーの時代が来たか。
しかし、より広く、より哲学的なレベルでは、EFFは次のように主張している。「保護された言論が危険にさらされているとき、広範囲に網を張り巡らせて後で整理するのは適切ではない。」
それは正当な議論です。ただし、そうでない場合もあります。時には、法律を制定した上で、例外を設けなければならないこともあります。
より大きな疑問は、人間のように行動するAIボットは、状況が悪用された際に抑制されるべき、類まれな機会をもたらすのか、それとも、特定の例外を主張する必要があるほどの脅威をもたらすのか、ということです。
問題は、Google のヘアカットが導入される前にロシアのボットが導入されたことにあるようです。®
