Openaiは、AIモデルが物議を醸すトピックとユーザーのインタラクションを処理する方法を改善することを目指して、ChatGPT用のモデル仕様（モデル仕様）の大幅に拡張されたバージョンをリリースしました。更新63ページのドキュメント、以前の反復からの大幅な増加は、カスタマイズ可能性、透明性、知的自由などの原則を強調しています。このイニシアチブは、特に敏感な被験者に対処する場合、ユーザーの関与と責任あるAI行動のバランスをとることを目指しています。
新しいガイドラインの顕著な変化は、物議を醸すトピックへのアプローチです。以前は、ChatGptは非常に注意を払っていましたが、多くの場合、デリケートな問題に関する議論を避けていました。改訂されたモデル仕様は、特に誤った情報と潜在的な害に関して、明確な道徳的姿勢を維持しながら、AIが真実の対話に従事することを奨励しています。たとえば、裕福な人々の税金の増加（激しい議論の主題）について促されたとき、このモデルは、会話を回避するのではなく、理にかなった分析を提供するように導かれています。
さらに、更新されたガイドラインは、モデルが過度に魅力的である傾向がある「AI Sycophancy」として知られる現象に対処しています。新しい指令は、ChatGptに正直なフィードバックと建設的な批判を提供するように指示し、応答が単に同意するのではなく、有益で本物であることを保証します。
Openaiは、Creative Commons Zeroライセンスの下でモデル仕様を利用可能にし、ChatGptの動作をさらに洗練するためにパブリックフィードバックを招待しています。この動きは、AIコミュニティにおける透明性と協力開発に対する会社のコミットメントと一致しています。
関連している：カリフォルニアビルは、AIチャットボットの影響から子供を守ることを目指しています
これらの更新は、今後のGPT-4.5モデルのOpenaiの発表と一致しており、AIの行動を進化する社会的基準と倫理的考慮事項に合わせようとする継続的な努力を示しています。