xAI:Grokは、権限のないプロンプト変更のために「白人虐殺」のレトリックを引き起こしました

出所:コインテレグラフ オリジナル: "xAI: Grok Triggers 'White Genocide' Rhetoric for Unauthorized Prompt Changes"

エロン・マスク（Elon Musk）の人工知能会社xAIは、Grokチャットボットが南アフリカの政治と人種的緊張に関する応答を生成したことを、その応答が「無許可で変更された」ことに起因するとしています。

xAIは5月16日にGrok AIチャットボットの扇動的な応答に関する更新を提供し、5月14日に「Xプラットフォーム上のGrok応答ロボットのプロンプトが無許可で変更された」と述べました。

会社は次のように補足しました：「この変更は、Grokに特定の政治的議題に対して特定の応答を提供するよう指示しており、xAIの内部方針と核心的価値観に違反しています。」

xAIは徹底的な調査を行い、AIチャットボットの透明性と信頼性を向上させるための措置を講じていることを示しています。

5月14日、Grokは、野球、エンタープライズソフトウェア、建設とは関係のない質問に答える際に、南アフリカでの「白人虐殺」の陰謀論に言及する回答を生成しました。

報道によると、AIボットは、この大量虐殺を「現実的で人種差別的な動機」として受け入れるように「作成者から指示された」と主張しています。

いくつかの応答の中で、それは誤りを認め、「私の応答はテーマから逸れていた」と「私は関連性を保つよう努力する」と述べていますが、しばしば同じメッセージの中で南アフリカの人種政治について議論を続けています。

Grokは、あるユーザーが何が起こったのか尋ねた際に次のように述べました：

「私は何もしていません——私はただ与えられたスクリプトに従って行動しているだけです、まるで良いAIのように！」

この事件は、トランプ米大統領が南アフリカの白人に亡命を申し出たのと同時に、彼らが「大量虐殺」や「白人農民の残忍な殺害」に直面していると主張したが、これらの主張を裏付ける証拠はない。

イーロン・マスクのAI会社は、GitHubでGrokシステムのプロンプトを公開することで運営方法を変更すると発表しました。「一般の人々はそれらをレビューでき、私たちがGrokに対して行うすべてのプロンプトの変更にフィードバックを提供できます」と会社は述べています。

xAIはまた、この事件において既存のプロンプト変更コードレビューのプロセスが回避されたことを示し、同社は「xAIの社員が審査なしでプロンプトを変更できないようにするための追加のチェックと対策を実施する」と述べました。

最後に、会社は自動化システムにキャッチされないGrok回答イベントに迅速に対応するために、24時間体制の監視チームを結成しています。

関連情報：FBI警告：ディープフェイク技術を利用したAI詐欺師がアメリカ政府の要人を狙っている