奇妙な実験で、研究者たちは画像を見つめているマウスの脳活動を記録し、そのデータを活用して敵対的攻撃に対してより堅牢なコンピュータービジョンモデルの開発に役立てた。
画像内の物体認識に使用される畳み込みニューラルネットワーク（CNN）は、いずれも敵対的サンプルの影響を受けます。これらの入力は、ランダムノイズの追加や、いくつかのピクセルの変更など、何らかの形で改変されており、モデルは物体を誤認識してしまいます。敵対的攻撃によって、これらのシステムはバナナの画像をトースターと誤認したり、おもちゃのカメをライフルと誤認したりします。
機械学習エンジニアたちは、モデルがこうした種類の攻撃を受けにくくするための様々な技術の開発に取り組んできました。arXivに公開された論文によると、現在、テキサス州ベイラー医科大学を率いる研究グループは、マウスに着想を得ています。
「私たちはマウスに自然画像を見せ、皮質視覚領域の何千ものニューロンの反応を測定した」と研究者らは記している。
「次に、マウスの視覚システムからの反応の大規模なコーパスでトレーニングした強力な予測モデルを使用して、変動が激しいことで知られる神経活動のノイズを除去し、モデルの予測から数百万の画像ペアの表現の類似性を計算しました。」
お察しの通り、この論文はかなり専門用語が使われている。簡単に言うと、研究者たちは何千枚もの画像を見つめているマウスの脳活動を記録し、そのデータを用いて、その活動をモデル化する同様の計算システムを構築した。マウスが画像を見ていることを確認するため、マウスの頭部を「固定」し、トレッドミルに乗せた。
コンピューター ビジョン モデルをマウスの脳に近づける。
研究者たちはその後、このモデルを用いてCNNの一種であるResNet-18を「正規化」しました。正規化は、システムがトレーニングデータ内の特定のパターンを拾い上げてしまう過学習の影響を軽減します。過学習とは、システムがトレーニングデータ内の特定のパターンを拾い上げてしまう現象で、新しい未知のデータを提示された際にうまく一般化できない状態を指します。
本質的には、ResNet-18を微調整し、マウスの脳からモデル化されたシステムと同様の特徴を含むようにした。「これにより、元のCNNはより脳に近い表現へとバイアスがかかった」と彼らは説明した。
ディープフェイクから私たちを救ってくれるのは誰でしょうか？他のAIでしょうか？人間でしょうか？それとも、超知能を持つ多次元の存在でしょうか？
続きを読む
CNNに、マウスには提示されていない別の画像セットを分類させると、その精度は正規化されていないResNet-18モデルと同等でした。しかし、研究者がこれらの画像にランダムノイズを加え始めると、正規化されていないモデルの性能は正規化されたバージョンと比較して大幅に低下しました。
「ニューラル正則化を用いることで、CNNモデルはランダムノイズに対してより堅牢になることを観察しました」と論文は述べている。言い換えれば、マウスで強化されたResNet-18モデルは、実際のマウスの脳から借用した特徴を含んでいれば、敵対的サンプルに騙される可能性が低くなるということだ。
研究者たちは、こうした「脳のような表現」を機械学習モデルに組み込むことで、将来的には「人間のようなパフォーマンス」を実現できる可能性があると考えている。しかし、結果は有望に見えるものの、研究者たちはそれが実際にどのように機能するかについては全く理解していない。
「私たちの研究結果は、視覚処理において脳に近い表現を採用することの利点を確かに示していますが、神経表現のどの側面がそれを機能させるのかは不明です。これが最も重要な問題であり、その背後にある原理を理解する必要があると考えています」と研究者たちは結論付けました。®
