シュプリンガー・ネイチャーは、顔だけで犯罪者を特定できるとされるニューラルネットワークに関する論文の掲載を見送ることを決定しました。この決定は、トップレベルの科学者たちがこの研究を有害なジャンクサイエンスと非難する書簡に署名したことを受けて発表されました。
今週1,168人の研究者、学生、エンジニアの支持を得て学術出版社の編集委員会に送られたこの書簡には、アルゴリズムによって顔のような些細なものから犯罪を予測できるという主張を否定する多数の研究が列挙されていた。
「こうした主張は、根拠のない科学的前提、研究、そして手法に基づいており、長年にわたり、それぞれの分野にわたる数多くの研究によって反証されてきました」と書簡には記されている。「しかしながら、これらの信用を失った主張は、しばしば、問題の出版物で主に用いられている機械学習のような、新しく、かつ中立的とされる統計手法を装って、再び現れ続けています。」
問題のニューラルネットは、ペンシルベニア州ハリスバーグ大学の博士課程の学生と2人の助教授によって開発され、「80パーセントの精度で人種的偏見はない」と言われていた。
しかし、専門家たちは書簡の中で、そのような偉業は不可能だと主張している。「はっきりさせておきたいのは、『犯罪性』を人種的偏見なく予測・特定できるシステムを開発することは不可能だということです。なぜなら、『犯罪性』というカテゴリー自体が人種的偏見を持っているからです」と彼らは述べている。つまり、書簡の脚注12で論じられているように、肌の色が逮捕され犯罪者として分類されるかどうかに影響を与える可能性があるということだ。例えば、貧困地域に住む黒人は、飲酒が禁止されている公共の場で飲酒しただけで犯罪歴がつく可能性がある一方で、裕福な地域の公園にいる白人は、口頭での警告で済むこともある。
シュプリンガー・ネイチャー社は、6月16日に「画像処理を用いて犯罪を予測するディープニューラルネットワークモデル」と題された論文を削除し、予定通り同社の研究書シリーズ「計算科学および計算知能に関する取引」には掲載しないことを決定したと発表した。
悪名高いAIゲイダー研究が繰り返されたが、コードでは顔だけであなたがストレートかどうかを判断できない
同様のもの
「この論文は、シュプリンガー社が『計算科学と計算知能に関する取引』シリーズとして議事録を出版する予定だった、近々開催される会議に提出されました」と、出版社の広報担当者は火曜日にレジスター紙に語った。「徹底した査読プロセスを経て、論文は却下されたため、当社では出版いたしません。」
ハリスバーグ大学は、この研究を発表するプレスリリースをウェブサイトから削除し、倫理的な懸念に対処するため論文の改訂作業を進めていると述べた。「学問の自由は普遍的に認められた原則であり、世界で最も意義深い発見の多くに貢献してきました」と、同大学の声明は先月発表された。
本学は、異なる倫理的観点から捉えられる考えも含め、大学教員が研究を行い、知的議論に参加する権利と責任を支持します。本学で行われるすべての研究は、必ずしも本学の見解や目標を反映するものではありません。
この物議を醸した研究は、博士課程の学生でニューヨーク市警のベテランであるジョナサン・コーン氏、認知分析学の助教授であるナサニエル・アシュビー氏、そしてデータ分析学の助教授であるルーズベ・サデギアン氏によって執筆されました。サデギアン氏はエル・レグ紙に対し、「応用に関して著者間で意見の相違があった」ため、論文の最新版から自身の名前を削除したと述べています。
コーン氏とアシュビー氏は、 The Registerのコメント要請にすぐには応じなかった。®
追加更新
シュプリンガー・ネイチャー社は、同社の研究書にこの論文を掲載しない決定をした時期について概要を説明するために連絡をとってきた。
「この論文に関する懸念は承知しており、いかなる時点でもこの論文の掲載が承認されたことはないことを明確にしたい」と広報担当者は述べた。
この論文は、シュプリンガー社が『計算科学と計算知能に関するトランザクション』シリーズにその議事録を収録する予定の、今後開催される会議に提出され、徹底的な査読プロセスを経ています。シリーズ編集者は最終論文の不採用を6月16日（火）に決定し、6月22日（月）に著者に正式に通知しました。
「査読プロセスの詳細と得られた結論は、編集者、査読者、著者の間で機密情報として保持されます。」
