週末に何かお考えですか？うわあ、数週間だけ留守にするだけで、地獄が解き放たれてしまうなんて。でも、少なくともそれは正しい種類の地獄、つまり、私が長年このコラムで予測してきた、正真正銘のテクノロジー地獄です。
まず、遅い休暇のサンラウンジャーに座りながらタブレットでニュースを読んでいると、Krebs on Security ブログが 665Gbps の DDoS 攻撃を受けてオフラインになったというニュースが目に入りました。
サイバー犯罪ライターのブライアン・クレブス氏に対するこのサイバー犯罪攻撃の責任は誰にあるのだろうか？ 犯人は、カメラやサーモスタットなど、感染コードに無条件で乗っ取られ、自発的に相互に狂ったボットネットを形成した、100万台以上の愚かなIoTデバイスであることが判明した。
だから、人間のハッカーのことなど忘れて、アノニマスの仮面をかぶった顔で笑い、ミスター・ロボットに「ゲームオーバーだ」と告げ、爆発するギャラクシーノート7をゼロ・クールの90年代風ハイウエストスラックスに滑り込ませるのもいいだろう。
いいえ、IoTのおかげで、あなたの世界規模の組織は、電球のせいでダウンしてしまう可能性が高くなります。
そして、ルーシー・オールはこれまでずっと、凶悪なサイバー犯罪者をかくまっていたと考えると。
今週ロンドンで開催された IP Expo Europe の開会式で、ニック・ボストロム教授が人工知能について行った基調講演で、ロボットが世界を支配するという話題が（またしてもあくびながら）出たのも、おそらくこのためだろう。
将来、ペーパークリップはいくらあっても足りないでしょう。IP Expo Europeにてニック・ボストロム教授より。
実際、彼は聴衆の中のSFファンを少々がっかりさせた。AIが自己認識と自己決定能力を獲得し、人類という名の疫病を世界から駆逐するというシナリオを否定したのだ。「AIは高度な知的能力を持つかもしれない」と彼は指摘し、「しかし、それは人間のような意識を持つということではない。例えば、人間のような感覚体験や、痛みや苦しみに対する理解は持ち合わせていないだろう」と付け加えた。
なるほど、でもそれこそがまさに私たちが話している危険ではないでしょうか？ 結局のところ、あの無情な電球はサイコパスで、従来の人間の道徳観にとらわれることなく、目の前に立ちはだかるものすべてを平然と消し去ってしまうのです。
ボストロム教授はそれを全く受け入れない。「AIはハッキングによって自らの目的を破ろうとするかもしれないという議論があります。しかし、AIは自らの目的に反するようなことはしません。」
つまり、AIが現実世界の限られた感覚経験に基づいて何をすべきかを自ら判断するのではなく、理にかなった行動に集中できるようにすることが鍵となるのです。もちろん、AIにペーパークリップ工場をより効率的に稼働させるのは良いことですが、厳密に制御されたコンテキストを与える必要があります。
彼はまた、ミダス王の伝説を私たちに思い起こさせます。フィンテック AI 開発者は、ぜひ注目してください。
言い換えれば、プログラマーはAIに何かをさせるように設計し、その結果、AIの自己学習プロセスの方向性と価値を効果的に設定しているのです。トーストを焼くAIトースターを設計する場合、最高のトーストを大量に焼くこと以外に、あまり多くのことをしたがらないはずです。
乾杯、故に我あり。
YouTubeビデオ
一方、ボストロム教授は、AIがどのような道徳に従うべきかを誰が決定するのかという点に、より強い関心を寄せています。将来のAIにどのような倫理観や価値観を組み込むかを選択する際には、社会的、そして必然的に政治的な問題をめぐって争う必要があります。これは、Amazon、DeepMind、Google、Facebook、IBM、Microsoftが参加する「Partnership on AI」グループが設立された目的の一部です。
彼らがトーストを気に入ってくれることを祈ります。
サイバーセキュリティに関する教授の見解は、ハッカーはハッカーであり、AIもこの点では他のコンピュータシステムとほぼ同様であり、セキュリティ対策を講じる必要があるというものだ。教授は、AIの性能は入力されたデータによって決まるという厄介な点を認め、今年初めにマイクロソフトのチャットボットTayが悪意のあるツイッターユーザーによって人種差別的な発言をするように仕向けられた例を挙げた。
まあ、それはただのスパンキーです。暴れ回る電球の群れが私たちを捕まえなかったとしても、ナチスのトースターが捕まえるでしょう。
このことから、2つの重要な教訓を学ぶことができます。
1. あらゆる警告にもかかわらず、今日のIoTデバイスは依然としてセキュリティの悪臭を放つ汚水溜めだ。そして、メーカーがそれを気にしているとは到底思えない。保護はどこにある？自己パッチ適用はどこにある？騙されやすい愚かな顧客のために正しいことをする意志はどこにある？
2. AIの一般大衆への露出を制限すべきです。AIは定義上、「高度な機械知能」です。一方、一般大衆は定義上、「狂人の集まり」です。AI開発が本格的な飛躍期に達するまでは、一般大衆とAIをしっかりと距離を置くべきです。ボストロム教授の推計によると、AI開発が本格的な飛躍期に達するまでには、まだ50年かかるかもしれません。
その間、私たち哀れな人間は自ら娯楽を作らなければならない。SFの悲観論者は、小説や映画ではまだ十分に扱われるだろう。
ところで、休暇中にスタンフォード大学の研究者たちがサルに「生きるべきか、死ぬべきか。それが問題だ」とタイプさせたという記事を読んで、嬉しく思いました。
部屋いっぱいの霊長類も、無制限の数のタイプライターも必要ありませんでした。考えてみれば、今ではタイプライターを入手するのはサルを入手することよりもさらに困難です。
実際に起こったのは、2匹のサルに神経インプラントを装着させ、コンピューター画面上でカーソルを動かすと、緑色に変わると同時に円が現れるという仕組みを訓練したというものだ。あの毛むくじゃらの哀れなサルたちにシェイクスピアの一節を綴らせ、貴重な広報効果を上げ、ついでに笑いをとるのは容易だった。
『猿の惑星』とは程遠い。私のIoT冷蔵庫のIoTランプがピンキーとブレインの世界征服計画を企んでいない限り、しばらくは安全だろう。それに、たとえ放っておいても（ほっほっ）、これらの猿たちはシェイクスピア的な野望や世界征服を志すとは思えない。
私たちが期待できる最良の結果は、ある朝研究室に行ってみたら、近視の猿が一行入力していた、ということくらいでしょう。
「目の前にあるのはバナナですか？」
YouTubeビデオ
アリスター・ダブスはフリーランスのテクノロジー・タレントで、ITジャーナリズム、編集研修、デジタル出版をこなしています。ホリデーシーズンのピザラッシュにもかかわらず、彼はダイエットとエクササイズを続け、減量に励んでいます。当然のことながら、彼はそれが若々しく、引き締まり、そしてアスリートらしく見えると考えているようです。しかし、ダブシー夫人によると、近所の人たちから「彼は病気なの？」と聞かれるそうです。FBI
最新情報： 15kg。
