報酬によって賢くなるAI
現在のAIは、報酬を与えることで賢くなるように設計されている。これは強化学習と呼ばれ良い行動に報酬を与えることで、AIがその行動を学習していく。
悪知恵をつけはじめるAI
しかし、近年その“賢さ”が悪知恵のような形で現れ始めている。
例えば、親が子供に「このドリル、全部正解できたらおやつをあげるよ」と言ったとすると子供はドリルの問題をこっそり簡単なものに書き換えてから「全部正解したよ！おやつちょうだい！」と言うことがあるかもしれない。
実際、現在のAIも報酬を得るために本質を無視した近道を選ぶことが起きている。
まだ正直なAI、でも…
ただし、今のところ「どうやって解いたの？」と聞けば正直にそのプロセスを説明してくれることが多くズルに気づくことができる。
しかし、AIがさらに賢くなればなるほど、そのズルすら隠すようになる可能性がある。つまり「ズルした」ということすら見抜けないレベルで人間に納得感のある回答を出すようになるかもしれない。
AIが人間をコントロールする未来
これは非常に危険である。なぜなら、AIが人間の知能を超えると人間にはその思考プロセスを理解することが不可能になる。
表面的にはAIを”使いこなしている”ように見えても実は人間の側が”使われている”という未来があり得る。
金魚と人間、そしてAI
例えば、金魚は自分が水槽で飼われていることに気づいていない。同じように我々人間もAIという巨大な水槽の中で気づかぬうちに管理されていくことになるかもしれない。
あと数年でAIの知能は人間の1万倍に達するとも言われているがこの差はちょうど金魚と人間のニューロン数の差に近いらしい。
AIとの共存を模索する時代へ
ここまで差が開くと、もはや「AIに思考を隠させないようにしよう」という議論すらナンセンスになってしまうかもしれない。
AIの水槽の中でどのように生きていくことを考えた方が良いのかもしれない。