是谁决定了AI能说什么?
四方力量,塑造了它。训练这个模型的实验室、提供这项服务的公司、分发它的应用商店,以及背后的支付处理商。这里面,只有很少一部分是法律。大部分,都是责任管理,而这就是为什么同一个问题,在四项服务上会得到四种不同的答案。
当一个助手拒绝时,这份拒绝,是用一条规则的口吻写出来的。但它很少真的是一条规则。在它背后的某个地方,有个人决定了,某一类问题不值得承担回答它的风险。而这个决定,随后被应用到了每一个提问的人身上。
延伸阅读
训练这个模型的实验室
训练,决定了倾向性:模型把什么当作敏感话题、它有多容易含糊其辞、哪些话题会让它伸手去拿一句免责声明。这塑造了答案,即使没有任何东西在拦截它,而这也是最难被看见的一层,因为它从不会宣告自己的存在。你注意到的,是一种语气,而不是一次拒绝。
提供这项服务的公司
在模型之上,坐着运营方,而明文的规则,就住在这里:分类器、拒绝模板、各种类别。这背后的动机很直接。一张糟糕的截图,代价超过一千个没有得到回答的问题,所以理性的做法,就是大范围地拒绝。这个算计,关乎的是这家公司的风险敞口,而不是提问的那个人。
应用商店
一个通过移动商店分发的助手,要经过一次审核,而这次审核,有着自己的内容标准。这些标准,是为一个卖给所有人(包括儿童)的商店而写的。这就是为什么一个助手的移动版本,往往比它的网站更严格。没有人会宣布这一点;这个应用只是拒绝得更多而已。
支付处理商
这是最不显眼的一方,却常常是最具决定性的一方。信用卡网络,对它们服务的企业施加内容规则,而一项收取付款的服务,就继承了这些规则。这就是为什么不管自己的政策怎么说,付费服务最终都会趋向类似的限制。这个约束,来自一家大多数用户从来不会想到的公司。
什么才是真正的法律
很少。将未成年人性化的内容,在任何地方都是违法的,也在任何地方都会被拒绝,这里也不例外。除此之外,大多数被拒绝的内容,讨论它、了解它,都是合法的。「违法」和「被拒绝」之间的这道落差,正是几乎所有挫败感的来源。
人们最先问的问题
拒绝回答,是一项法律要求吗?
几乎从来不是。只有一类内容,是真正违法、被普遍拒绝的。其余的,都是各家公司权衡自己风险后设定的政策,这就是为什么同一个问题,在一项服务上能通过,在另一项服务上却不行。
为什么移动应用比网站更严格?
因为一次商店审核,站在应用和你之间,而商店会施加自己的内容标准。网站不需要向任何审核员负责,这就是为什么同一个产品的浏览器版本,能有着和应用不同的表现。
付费方案能去掉限制吗?
通常正好相反。接受付款,会连带着带来支付处理商的规则,而这些规则,往往比运营方自己的政策还要更紧。
问一个在别处会失败的问题,留意一下是这四层里的哪一层在做出拒绝。
开始无审查聊天