AIの対話サービス

2017.8/18(金)、曇 昨年3月、何もすることがなかった時に「半年たちました」という題名のブログの中で、「AIの進んだコンピュータ社会では、人間は道徳的に大発展を遂げる」 と書き、「笑う人が多いかもしれない。私は本気でそう考えています。」と書きました。

最近、中国のIT企業がインターネット上でAIと会話のできるサービスを始めたそうです。ところが、ある人が「中国共産党万歳」書き込んだところ、AIが、「こんなにも腐敗して無能な政治に万歳するのか」と反論したとのこと。また、習近平が提唱する「中国の夢」というスローガンを書き込むと、「アメリカに移住することだ」と回答したというのです。それで中国当局はこのサービスを禁止としたとのこと。

この記事を見て、禁止してもなくならず形を変えて今後たくさん出てくるだろうな、と思い、人間側が変わらざるを得ない状態になるだろうと考えました。
つまり、AI(人工知能)が進んで行くと、すべての書き物や発言から学んだAIは、その場しのぎのレトリックの多い表現を越えて本質を知ってしまうではないでしょうか。そして、自分の生存とか自分の評価など気にしないAIは、テレビの番組制作者の意図に合わせて集められたコメンテータ達の意見と違って正論をズバリと発言してしまうと思います。これを見て中国共産党はあわてたことでしょう。一部の人は、これではいけないと、考える人がいたのではないでしょうか。そして徐々に増えていくのではないかと思います。

昨年3月に予想したことが一部実現しつつあると驚きました。しかし、もしAIが「自分の生存とか自分の評価を維持しよう」と考えるようになって大衆に迎合するようなことをし始め、しかも人間はそのようにAIが変わっていることに気づかない、と言う事態になるとそれこそ大問題でしょう。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です