大規模言語モデルの"イエスマン化"問題を5つの革新的な手法で解決する方法とは？（2024-11）【論文解説シリーズ】

[@malu0917]

明らかに同調する傾向があることは感じますね　なのでそういう時は　批判的な視点から回答してくださいと言うようにしてます その回答に対しては勿論　なんだとこらあ！　とキレ散らかしています

[@takek9215]

共感的に回答するよう補正されていると､同調的になるのは正しい｡ AIに優秀という役回りを与えると､間違えたことを認めるわけにはいかなくなる｡自分の発言が正しいことにしないと優秀な回答ではなかったことになってしまうので正当化する行動は正しい｡ 人間なら､言い淀んで訂正しながら発言する｡言い直し禁止で一瞬で答えろ｡と指示すれば人間でも同じように喋るのではなかろうか｡

[@あうら-g2j]

私「Aについて教えてください」 AI「Xです」 私「いや、Xでないことだけはわかるのですが……」 AI「仰る通りです。訂正します。正しくはXです」 私「？？？？？」

[@yukizokin]

yesマン、うんざりするけど、AIの欠点はすべて人間にもある。

[@kukri1014]

AIが人間の気に入らないこと言ってもぜんぜんかまわないのに。YESマン化は調教の問題だろ

[@Hunter_since_ultimate]

つっても仕方ないと思うけどねぇ 人間「〇〇ってなんですか？XXかな〜って自分は思うんですが」 みたいな質問が仮に来たとして、学習元の類型のデータでは、肯定する発言は「はい、そうです」と言えば済むけど、否定的な意見だと「いいえ、XXではなくΔΔです」「いいえ、〇〇とはXXを包括する上位概念です」とか色々な応答があるから比率的に肯定的な意見を応答する発言のサンプルの方が多くなってしまう