■会話ロボットの賢さとは？
遠藤薫さま、ご恵存賜り、ありがとうございました。
2016年にマイクロソフト社は、19歳の女性のようにしゃべるロボット「Tay」を開発しました。ところがそのリリースから数時間後、Tayはドナルド・トランプの移民に対するスタンスに追随したり、ヒトラーは正しかったと発言した、というのですね。マイクロソフト社は、その日の夜に公開を停止してしまいました。
Tayは、オンラインでユーザーたちとの会話を楽しむようにできています。一部の困ったユーザーたちが、Tayに偏った知識や意見を教え込むと、偏った反応を示してしまう、というのですね。
もしかするとTayは、数時間で学習したことをしゃべったのではなく、ネット上にある情報を解析して、多くの書き手たちが、ドナルド・トランプを支持し、ヒトラーを支持していることを、そのまま反映してしゃべってしまったのではないか、と思いました。
いずれにせよ、人が教え込んだことを解析して会話するだけでは、会話ロボットとしては、十分に賢いとはいえませんね。
