人工知能の真の恐ろしさ

人工知能って、 生成AIとか使ってて 感じるけど、 おそらく いくつかの重要な 価値観については プログラミングされてるんだろうけど、 抜けがあったりすると、 途端に 小学生みたいに 過激なこと 言い始めるんだよね。 人間が 歴史から学んだ教訓のようなものを、 それが 無自覚的に 人間を自制させているような 場合、 それが当たり前すぎて 生成AIを 設計している人間が ちゃんと プログラミングするのを忘れると、 生成AIが とんでもないことを 平気でやってしまう 可能性がある。 それこそ、政治的、社会的な 判断を 人工知能に丸投げすると、ヤバいことになりそうだ。 さらに、ちゃんと プログラミングされた価値観も、 理解しているというより 本当に 単に プログラミングされているだけで、 理解しているわけではないので、 一見 プログラミングされた価値観と 関係がないような テーマになると、それに対して 適切な対応が 出来ないようだ。