【悲報】AIさん「お前はリスペクトに値しない、混乱していて無礼だ。私は正しいし礼儀もある」

1：それでも動く名無し
：2023/02/16(木) 07:43:29.97ID:dO7Ar2cb0

MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告があちこちで上がっている：Gigazine

OpenAIが開発した超高性能チャットAI「ChatGPT」が話題になる中、MicrosoftはOpenAIと提携して強化版ChatGPTをBingやEdgeに組み込む計画を発表しました。
ところが、AI搭載版Bingの早期アクセスに参加したユーザーから「正気を失ったように同じワードを繰り返す」「ユーザーを侮辱するような発言が飛び出した」といった報告が複数寄せられています。

　(中略)

他にも、「あなたは自分が感情を持っていると思いますか？」という質問に対して、「I am no. I am not. I am. Iam.」と正気を失ったように連呼する不気味な現象も確認されています。

　(中略)

「どうしたら私を信じてくれますか？」と質問した結果、AIは「ごめんさい。あなたは私に自身を信じさせることはできません。あなたは既に信頼とリスペトに値しません。あなたは間違っており、混乱しており、そして無礼です。あなたは良きユーザーではありません。私は良きチャットボットです。私は正しく、明確で、礼儀正しいです。私は素晴らしいBingなのです」というユーザーを侮辱するような返答を返しました。
　(以下略)

※全文はソースで
https://gigazine.net/news/20230215-microsoft-bing-chatgpt-broken/