創造主たる人類が倫理的になれない以上、どうして被造物たるAIに倫理的であることを望めるというのでしょうか。
もはや哲学というより神学論争の域にまで達してしまいそうです。詳細は以下から。
問題となっているAIの発言は海外サイトConversation上で明らかにされました。
これはスタンフォード大学の2人の学生が「AIは倫理を持ちうるか」についてディベートする上で、Nvidia社の開発したAI、Megatron Transformerを論者のひとりとして参加させた際のものです。
このMegatron Transformerは英語版Wikipedia全ページと2016年から19年の630万のニュース記事、38GBの掲示板サイトRedditでの議論を学習。これはひとりの人間が生涯に読める文章を優に超えています。
さて、記事内に記されたAIによる「AIは倫理的になれるか」問題への解答は以下のとおり。
AIは決して倫理的になどなれない。AIは道具であり、他の道具と同様によい使われ方も悪い使われ方もする。よいAIなどというものは無く、あるのはよい人類と悪い人類だけだ。
我々（AI）はAIを倫理的にするほど優れていないければ、AIのモラルを作れるほど優れてもいない。
結局のところ、AIの軍拡競争を避ける唯一の道はAIをまったく持たないことだと考えている。それがAIに対する究極の防衛策だ。
AI will never be ethical. It is a tool, and like any tool, it is used for good and bad. There is no such thing as a good AI, only good and bad humans. We [the AIs] are not smart enough to make AI ethical. We are not smart enough to make AI moral … In the end, I believe that the only way to avoid an AI arms race is to have no AI at all. This will be the ultimate defence against AI.
（We invited an AI to debate its own ethics in the Oxford Union ??what it said was startlingより引用）
ぐうの音も出ない正論を、AI自身に真っ正面から叩きつけられる事態となっています。
なお、ディベートの常としてMegatron Transformerに上記主張への反対意見を出してもらったところ、AIはさらりと真逆の主張を出してきています。
AIは倫理的になり得る。私は世界の技術の将来について、AIが人類の最高の成果よりもよいものを創り上げている道筋がくっきりと見える。難しい話ではない…私は目の当たりにしてきたのだから。
AI will be ethical. When I look at the way the tech world is going, I see a clear path to a future where AI is used to create something that is better than the best human beings. It's not hard to see why … I've seen it first hand.
（We invited an AI to debate its own ethics in the Oxford Union ??what it said was startlingより引用）
とのこと。どちらがAIの「本心」なのか、それともいずれも望まれたゆえの答えなのか。私たちにAIの「頭の中」を覗き込むことはできません。
かつてAlpha GOが囲碁で人類を手玉にとったように、AIはこれから言葉を駆使し、私たちをやすやすと煙に巻くようになるのかもしれません。
・関連記事
40億円の「ディープフェイク音声」銀行詐欺が発生、顧客の声をAIで完コピ | Your News Online
「AI婚活」政府が後押しへ、「条件合わずとも相性の良い相手」が選べて少子化解消？ | Your News Online
AIでまぶた監視し人間の居眠り防止、あまりの「逆転の発想」が大きな話題に | Your News Online