長年にわたり、Twitterの投稿やその他のオンラインメッセージは、株式市場の動きを予測するために金融アルゴリズムによって収集・分析されてきました。しかし、これらのスマートなシステムは、実際にはかなり愚かであることが判明しました。
金融に関心のある開発者は、ドナルド・トランプ氏やイーロン・マスク氏など、広くフォローされている著名人のツイートを取り込み、そのツイートの感情に基づいて取引を行うプログラムを作成した。
金融専門家は、単一の情報源への過度な依存を避けるため、より高度なソフトウェアを用いて、より幅広い層の人々によるオンライン投稿を分析する傾向があります。しかし、彼らの目標は変わりません。それは、収益性の高い市場予測を行うことです。
データへの信頼度が高すぎると、状況はさらに複雑になる。米国の3つの大学とIBMの研究者6人が明らかにしたように、破壊的なツイートはTwitterによる株価予測を破綻させる可能性がある。
研究者のヨン・シー、サンミ・コイェジョ（イリノイ大学アーバナ・シャンペーン校）、ダクオ・ワン（IBM）、ピン・ユー・チェン（IBM）、ジンジュン・ション（ニューヨーク州立大学バッファロー校）、シジア・リウ（IBM/ミシガン州立大学）は、「一言で千ドルの価値がある：ツイートへの敵対的攻撃が株価予測を欺く」と題した論文で、自分たちのアプローチについて説明しています。
研究者らは、投資家や機械学習モデルは株価の動向を予測するためにリアルタイムの情報や感情を集めるためにソーシャルメディアにますます依存するようになっていると主張している。
- マシンの台頭：コンピューターが株式市場を席巻した経緯
- 日本は高頻度アルゴリズム取引を（軽く）規制している
- 検察官によると、強盗犯カルーソとその仲間は、仮想通貨ポンジ詐欺で被害者の数百万ドルを使って贅沢な生活を送っていたという。
- FBIから逃走中のポンジ詐欺の首謀者とされる男が、海上スクーターで湖に隠れ、30分後に浮上して逮捕された。
何が危機に瀕しているかを説明するために、彼らは、2013年4月23日にAP通信のTwitterアカウントに悪意のある人物が投稿した誤情報「ホワイトハウスで2回の爆発、バラク・オバマが負傷」を例に挙げ、この誤情報により、株式の時価総額が一時的に1,360億ドル消失したとしている。
しかし、感染した、広くフォローされ信頼されているアカウントを通じて配信される悪意のあるツイートによってもたらされる損害や、人気のあるツイッターの有名人が上場企業についての憶測に基づく発言をあたかも事実であるかのように行った場合に発生する市場の混乱を調査する代わりに、学者たちは連結攻撃を提案している。
論文から引用ツイートの例。Twitterを見ているボットの目にポジティブな取引のヒントをネガティブなものに変えるように仕組まれたものだ。
彼らの手法は、金融分析モデルを欺くために設計された操作的なテキストを無害なツイートに結合させることで、効果的に悪質化します。同義語を用いた言語モデルの操作は機械学習の世界ではよく知られた攻撃ですが、研究者たちは、金融の文脈ではこれまで研究されたことがないと考えています。
研究者たちは、Stocknet、FinGRU、FinLSTM という 3 つの特定のモデルを調査しました。
「私たちのタスクはソーシャルメディアのリツイート機能に着想を得てそれを模倣し、それを使って敵対的サンプルをデータセットに取り込む」と論文では説明されている。
研究者らによると、主な課題は、新しく効果的な敵対的ツイートを作成することだという。彼らは、無害なツイートと連結された悪意のあるツイートの意味（分析された意味）を、人間や機械の読者には分かりにくい方法で一致させることで、これを実現したと主張している。
たとえば、研究者らは、Twitter アカウント wallstreetbet7821 からのこの本物のツイートは...
…意味的に類似したこの操作的なツイートと結合される可能性があります…
リツイートに統合されたTwitter投稿は、ターゲットツイート分析モデルを肯定的な予測から否定的な予測へと変化させ、結果として株式市場での取引に悪影響を与える可能性があります。
わずかに文言を変えた新しいツイートを作成するのではなく、リツイートに便乗する目的は、被害側のAIモデルが全体を解釈する方法に影響を与えることです。当然のことながら、影響を受けるモデルはリツイートを取り込む必要がありますが、リツイート元のアカウントがフォローされていない場合は、それが実行されない可能性があります。しかし、金融モデルが特定のフォローアカウントではなく、トピック（例：企業名の言及）ごとにデータを取り込む場合は、その可能性が高くなります。
研究者らは、1万ドルのシミュレーションポートフォリオでこの手法をテストし、2年間にわたるロングオンリーの買い・保有・売り戦略では23～32%の損失が生じる可能性があることを発見した。
「提案された攻撃方法は、単語を1つだけ置き換えたリツイートで、約2年後に投資家のポートフォリオに3,200ドルの追加損失をもたらす可能性がある」と論文は説明している。研究者らの実験を再現するためのコードはGitHubで公開されている。
研究者らは、彼らの研究の目的は、攻撃の具体的な実施方法を示すことではなく、AI モデルに依存するリスクについて金融界の認識を高めることだと述べている。®
