11/21/2018

ヨシュア・ベンジオ、AIの未来について心配している

Slashdotより

ヨシュア・ベンジオは現代の人工知能の巨匠である。 ジェフ・ヒントンとヤン・ルカンと並んで、ベンジオは近年、学問的好奇心から地球上で最も強力な技術の1つになっているディープ・ラーニングとして知られている技術を擁護することで有名である。彼がMIT Technology Reviewに許可したインタビューの抜粋がある:

MIT TR: 各国間にAIの競争があるという考えをどう思いますか?
ベンジオ: 私は気に入りません。私はそれが正しい方法だとは思いません。私たちは集団でレースに参加することはできますが、科学者であり、共通の利益を考える人間は、よりスマートなマシンを構築する方法と、AIができるだけ多くの人たちの幸福のために使用される方法を考える方が良いと思います。

MIT TR: あなたはAIの分野を支配する西洋とおそらく中国の少数のAI企業について心配していますか?
ベンジオ: はい、AI研究にはより多くの民主主義を持つ必要があるもう一つの理由です。AI研究だけでは、権力、金銭、研究者の集中につながる傾向があります。最高の学生は最高の企業に行きたいのです。彼らははるかに多くのお金を持って、より多くのデータを持っています。そして、これは健康的ではありません。民主主義であっても、いくつかの支配層に力が集中するのは危険です。

MIT TR: AIの軍事利用には多くの論争があります。 あなたはどこに立っていますか?
ベンジオ: 私は断固として反対側に立っています。

MIT TR: AIは、ずっと非致死的な使用?
ベンジオ: まあ、私はそれを妨げたくはありません。私たちは殺人ロボットを持つためには道義的に反する必要があると思います。私たちは文化を変える必要があります。法律や条約の変更も含まれます。それは大きな役割を果たす可能性があります。もちろん、あなたはそれを完全に阻止することは決してありませんし、人々は、「ある種の不正な国がこれらのことを発展させるでしょう」と言うでしょう。私の答えは、1つは、彼らがそれを行うために罪を感じるようにしたい、2つは、私たちが防衛技術を作ることを止めるものは何もありません。無人機をやっつける防御兵器と、人間を標的とする攻撃的兵器には大きな違いがあります。どちらもAIを使用できます。

MIT TR: これを確実にするためにAI専門家が軍と協力すべきではありませんか?
ベンジオ: もし、彼らが正しい道徳的価値を持っていれば、大丈夫です。しかし、私は軍事組織を完全に信頼していません。なぜなら、彼らは道徳の前に義務を負う傾向があるからです。私はそれが異なっていたいと思います。