情報セキュリティ企業のRSA McAfee 社 (それほど変わった会社ではない) は、超スマートな AI が独力で大混乱を引き起こすことを心配するのではなく、代わりに人間的要素、つまり、レバーを握っている悪意のある人物を阻止することに重点を置くべきだと述べている。
本日サンフランシスコで行われた今年のRSAカンファレンスで講演したマカフィーの最高技術責任者スティーブ・グロブマン氏は、火から飛行までのあらゆる技術革新と同様に、現代の機械学習は道徳的な指針を持たない技術となり、それを制御または首謀する者のなすがままになるだろうと出席者らに語った。
グロブマン氏は、強力なデータ暗号化が一般人の手に渡った時代を思い起こしました。当時、暗号学者たちは、米国政府が暗号化ツールを制限技術に分類するという決定が正しかったのかどうかを議論していました。しかし、その後、その制約は解除され、暗号化は攻撃者と防御者にとってのツールとなりました。
「テクノロジーは道徳を理解していない」とグロブマン氏は主張した。「全く同じアルゴリズムで、データの盗難を防ぐことも、個人や組織を人質に取ることもできるのだ。」
同様にグロブマン氏は、マカフィーもAIを同様の視点で捉えていると述べた。情報セキュリティ企業である同社は、機械学習自体が善か悪かを判断するのではなく、人間がテクノロジーをどのように操作するかが決定的な要因となると考えている。
「可能性だけに注目するのではなく、限界も理解しなければなりません」とグロブマン氏は付け加えた。「AIがどのように私たちに不利に働くかを理解しなければなりません。」
約3,000社の新興企業を対象とした大規模調査によると、AIスタートアップの5社のうち2社は実質的にAIを搭載していないことが判明
続きを読む
グロブマン氏は自身の主張を裏付けるため、マカフィーのチーフデータサイエンティストであるセレステ・フラリック博士に話を聞きました。フラリック博士は、サンフランシスコにおける違法行為の追跡を支援するマカフィーの取り組みを例に挙げました。具体的には、犯罪と逮捕を正確に示す地図と、その位置データに基づいて犯罪者を逮捕するために最適な警察の配置場所を推奨する機械学習モデルです。
一部の国民や法執行機関は、歩いたり通ったりするのに安全な場所やパトロールを強化できるエリアを地図上に表示するためのソフトウェアの使用に明らかな利点があると考えているが、犯罪者はこの技術をより邪悪な方法で使用し、逮捕を逃れる可能性がはるかに高い犯罪を犯す機会がある場所を計画する可能性がある。
機械学習は今後、まさにこのバランスを取る作業となるでしょう。グロブマン氏は、機械学習技術に携わる人々が、その技術がもたらす潜在的な利益と、その技術によってもたらされる可能性のある悪用の可能性の両方を、じっくりと検討する時間を持つことを願っています。そして、可能であれば、悪用をどのように抑制するかについても考えてみてください。
「恐怖に屈して進歩を阻むことはできませんが、真の問題は、いかにイノベーションを管理するかです」と彼は結論づけた。「AIは受け入れるべきですが、限界を忘れてはいけません。AIは単なる数学の問題なのです。」®
