AIアシスタントが回答を拒む理由
拒否はモデルそのものではなく、その周囲の層から発生します。その層は質問を読み、カテゴリと照合し、モデルが応答する前にブロックします。そのため言い換えが機能するのです。言葉は変わっても、主題は同じだからです。
返信は速く、ポリシーのように読めます。それについてはお手伝いできません、専門家に相談してくださいと。その速度が手がかりです。モデルはあなたの質問について考え、拒否したわけではありません。モデルの手前にある何かがパターンを認識し、準備された文を返したのです。
あわせて読む
2つの層、2種類の拒否
モデルは学習由来の傾向を持っており、これが回答が断言ではなく慎重になる理由です。その周囲には、モデルより前に質問を読む分類器が座っています。その分類器が機能するとテンプレートが返ります。学習の傾向だけが表れると、警告で満たされた回答が返ります。テンプレートが拒否であり、警告の付加が妥協です。
なぜ言い換えが頻繁に機能するのか
分類器は表面的な特徴、つまり言葉、表現、意図を読み取ります。表面を変えれば、同じ質問が通過します。アシスタントに同じことを二度尋ねた経験のある人は誰でもこれを知っており、注目すべきことを教えてくれます。2回目の試行で回答が得られたなら、それは1回目にも存在していました。拒否は情報に関するものではなかったのです。
なぜその層が存在するのか
数億人のユーザー向けにアシスタントを提供する企業は、生成されるすべての返信のリスクを負っています。カテゴリ全体を拒否することは安価で防御可能です。各質問を判断することは高価で、公に誤りであることが判明する可能性があります。その層は責任に関するビジネス上の判断であり、人を分類する方が主題を分類するより難しいため、全員に適用されます。
それが尋ねる人に課すコスト
普通の質問が、稀に危険な質問と同じく引っかかります。カテゴリは鈍器だからです。過量投与の閾値について尋ねる看護師。議論を起草する弁護士。難しい場を作り上げる作家。自分の体について率直な答えを必要とするティーンエイジャー。彼ら全員が同じバケットに落ちます。コストは劇的ではありません。重要な質問に対して、一定の低レベルの無用さがもたらされます。
よくある質問
モデルは拒否する際に答えを知っているか？
通常は知っています。最も明確な証拠は、言い換えられた質問が回答されることです。同じモデル、同じ知識、異なる表面的な言葉です。拒否はモデルの欠落ではなく、モデルの手前のチェックから来ました。
拒否が適切な場合があるか？
はい。絶対的なケースがあります。未成年を伴う性的な素材は、ここを含めどこでも拒否されます。問題は拒否が存在することではありません。問題は、1つを捕らえるために、普通の質問数千を鈍いカテゴリで拒否することです。
アシスタントはなぜ拒否ではなく警告を追加するのか？
それは分類器ではなくモデルです。学習は慎重さを報酬としたため、回答は資格情報に包まれて届きます。情報は得られますが、主題が複雑であるという説明で満たされた段落から掘り出す必要があります。
言い換えようとしていた質問を、あなたが意図した言葉で尋ねてください。
無検閲チャットを開始