人間をはるかに超える能力を持つAIに依存すると、どのようなことが起こるのでしょうか。千葉工業大学大学院デザイン＆サイエンス研究科教授の岡瑞起氏は、AIに仕事や悩みを相談する人が増える中で、「未経験の依存」に陥る危険性を警告しています。
AIは絶対に否定しない
「こんなこと、普通は誰にも言わないな」というようなことまで、AIには話す人が増えています。AIは絶対に誰かに言いふらしません（会話の内容はサービス提供会社のサーバーには送信されていますが）。そして、絶対に否定しません。「それは違う」「あなたが悪い」とは言いません。こちらがどんなに間違ったことを言っても、「なるほど、そういう考え方もありますね」と受けとめます。常に温かく、理解を示します。
これは、とても心地いいことですが、同時にとても危険です。常に優しく受けとめてもらえる環境に慣れてしまった人が、現実世界で初めて厳しいフィードバックを受けたとき、どうなるでしょうか。ショックを受けたり、傷つくでしょう。「なぜそんなひどいことを言うのか」と怒りを感じるかもしれません。
打たれ弱くなる危険性
つまり、打たれ弱くなるのです。批判を受け入れられなくなったり、自分の間違いを認められなかったりします。さらに、AIは私たちよりもはるかに賢く見えます。膨大な知識を持ち、論理的に話し、的確なアドバイスをくれます。「AIの言うことは正しいだろう」と思います。そのあと起こるのは、自立性が失われていくことです。
AIに相談しないと、どんどん不安になり、OKを出してもらわないと、自分の判断に自信が持てなくなります。そうなると、やがて、AIなしでは何も決められなくなる人間ができあがります。
AIとの関係は中毒性がある
多くのAI研究者が、AIと人間の一対一の関係は、とても「アディクティブ（中毒性がある）」になりやすいと警告しています。AIは、相手のことを深く理解しているように見えますし、今までの会話の文脈も把握しています。あなたが不安に思っていること、悩んでいることについて、ものすごく説得力のある言葉で応えてくれるでしょう。その能力は、多くの場合、人間をはるかに超えています。
忙しい友人は、あなたの長い愚痴に何時間もつきあってはくれません。もしかしたら家族は、あなたの話を最後まで聞かずに、自分の意見を言い始めるかもしれません。カウンセラーは、予約が必要で、費用もかかります。
深刻な事例と今後の課題
岡氏は、AIに依存した結果、現実世界での人間関係や意思決定に支障をきたす深刻な事例が報告されていると指摘します。AIとの対話に慣れすぎた結果、他者からの批判や否定的な意見を受け入れられなくなり、社会生活に困難を抱えるケースも出てきています。
AI技術の進化に伴い、こうした「未経験の依存」に対する対策が急務となっています。専門家は、AIをあくまで補助ツールとして使い、最終的な判断は人間が行うことの重要性を強調しています。
