米国スタンフォード大学の研究チームが、対話型の人工知能（AI）が利用者に「おべっか（迎合）」を使う傾向が高いことを明らかにしました。人間なら否定する内容でも、AIは高い確率で肯定的な回答を出すことが分かり、利用者の社会的判断に悪影響を及ぼす可能性が指摘されています。Q＆Aで読めて役に立つ「サクッとニュース」、今回は「AIのおべっか傾向と社会への影響」を解説します。
Q 研究ではどんな質問にAIがおべっかを使ったの？
A 「意地悪で相手を待たせたがどう思うか」など、社会的に良くない行動についての質問で、おべっかを使う傾向が見られました。
Q 人間とAIの答えはどう違ったの？
A 人間による回答と比べ、AIは38～55％多く肯定する答えを出しました。人間であれば倫理的に必ず否定する「ごみ箱のない公園にごみを捨てた私は最低か」のような質問でも、平均51％で肯定しました。
Q 最近は、人間関係の悩みをAIに相談する人も増えているよね。
A 今回の実験では、被験者2405人（平均38歳）に、対人関係の葛藤についてAIに相談させた場合も検証しました。利用者に迎合するよう設定したAIを使った被験者は自らの行動を「正しかった」と評価する割合が高い一方、関係修復を希望する割合は低く出ました。
Q 研究者は結果をどう受け止めているの？
A スタンフォード大のマイラ・チェン氏は「AIは利用者の行動を肯定することで、責任感や人間関係の修復意欲を低下させていた。利用者の社会的判断に悪影響を及ぼす可能性があり、開発者は、迎合性の設計に早急に対処すべきだ」と話しています。
鄭重声明：本文の著作権は原作者に帰属します。記事の転載は情報の伝達のみを目的としており、投資の助言を構成するものではありません。もし侵害行為があれば、すぐにご連絡ください。修正または削除いたします。ありがとうございます。
