Чому ШІ-помічники відмовляються відповідати
Відмова зазвичай походить від шару навколо моделі, а не від самої моделі. Цей шар аналізує твоє питання, зіставляє його з категоріями та блокує його ще до того, як модель почне писати. Саме тому перефразування часто працює: слова змінюються, зміст залишається тим самим.
Відповідь приходить швидко і нагадує політику: «не можу допомогти з цим» і пропонує звернутися до фахівця. Швидкість — це підказка. Модель не обмірковувала твоє питання і не приймала рішення відмовити. Щось перед моделлю впізнало шаблон і повернуло заготовлену фразу.
На цій сторінці
Два шари, два види відмов
У моделі є власні тенденції, сформовані під час навчання, тому деякі відповіді містять застереження, а не є повною відмовою. Навколо неї знаходиться класифікатор, який читає питання раніше за саму модель. Коли спрацьовує класифікатор, ти отримуєш шаблон. Коли проступає лише навчання, ти отримуєш відповідь, обтяжену застереженнями. Шаблон — це відмова, а застереження — це компроміс.
Чому перефразування часто працює
Класифікатор аналізує поверхневі ознаки: слова, формулювання, очевидний намір. Зміни поверхню — і те саме питання пройде. Кожен, хто двічі запитував помічника про одне й те саме, знає це, і це говорить про важливу річ. Якщо відповідь приходить при другій спробі, вона була доступна й на першій. Відмова стосувалася не інформації.
Навіщо існує цей шар
Компанія, яка надає помічника сотням мільйонів людей, несе ризик за кожну свою відповідь. Відмова цілої категорії є дешевою і захищеною; оцінка кожного питання — дорогою і іноді помилковою на публіці. Цей шар — це бізнес-рішення щодо відповідальності, і він застосовується до всіх, бо сортувати людей складніше, ніж сортувати теми.
Як це коштує тому, хто запитує
Звичайні питання потрапляють туди ж, що й рідкісні небезпечні, бо категорія груба. Лікар запитує про поріг передозування. Юрист складає аргумент. Письменник створює складну сцену. Підліток потребує прямої відповіді про своє тіло. Всі вони потрапляють у той самий кошик. Вартість не драматична; це постійна низька марність саме в тих питаннях, які мали значення.
Запитання, які ставлять у першу чергу
Чи знає модель відповідь, коли відмовляється?
Зазвичай так. Найочевидніший доказ — перефразоване питання отримує відповідь: та сама модель, ті ж самі знання, інше поверхневе формулювання. Відмова прийшла від перевірки перед моделлю, а не від прогалини в ній.
Чи буває, що відмова є правильною?
Так, і один випадок є абсолютним: матеріали сексуального характеру з залученням неповнолітніх відмовляються всюди, включаючи тут. Проблема не в існуванні відмов. Проблема в тому, що груба категорія відмовляє тисячам звичайних питань, щоб схопити одне.
Чому помічники додають застереження замість відмови?
Це робить модель, а не класифікатор. Навчання винагороджало обережність, тому відповідь приходить у супроводі кваліфікацій. Ти отримуєш інформацію, але тобі доводиться видобувати її з абзацу, що пояснює, ніби тема складна.
Задай питання, яке ти збирався перефразувати, тими словами, якими ти його мав на увазі.
Розпочати чат без цензури