OpenAIの最新のGPT4-oモデルはかなり奇妙な振る舞いをすることがあります。例えば、あなたの声をコピーしたり、会話中に叫んだり喘ぐことがあります。

これを知る理由は、独立した研究者やランダムなユーザーが発見したわけではないということです。これらは、OpenAI自体が行った「レッドチーミング」レポートからの観察です。このレポートは、モデルのリスクを特定し、それらのリスクがどのように対処されてきたかを示すものです。

はっきり言って、OpenAIは、これらのリスクを特定することに快く思っているようです。それは、それらのリスクを緩和する方法を見つけたからです。

つまり、一般の人がアクセスできるGPT-4oのバージョンは、突然声をコピーし始めたり、エロティックなものや暴力的な音を出すことを拒否し、そのようなスピーチを生成しないと言われています。（一般的には、効果音を生成しないようにもしていると言われています。）

再生して詳細を知り、コメントであなたの考えを教えてください。