Qui décide de ce qu'une IA peut dire ?
Quatre parties l'influencent. Le laboratoire qui a entraîné le modèle, l'entreprise qui le sert, la boutique d'applications qui le distribue et le processeur de paiement. Très peu de cela relève du droit. La plupart du temps, il s'agit de gestion des risques, ce qui explique pourquoi la même question obtient quatre réponses différentes sur quatre services.
Lorsqu'un assistant refuse, le refus est formulé comme une règle. Il s'agit rarement d'une telle règle. Quelque part, une personne a décidé qu'une catégorie de questions ne valait pas le risque d'y répondre. Cette décision a ensuite été appliquée à tous ceux qui posent la question.
Sur cette page
Le laboratoire qui a entraîné le modèle
L'entraînement détermine les tendances : ce que le modèle considère comme sensible, sa propension à se montrer prudent, les sujets qui le poussent à ajouter une mention. Cela influence la réponse même lorsqu'aucun blocage n'intervient, et c'est la couche la plus difficile à observer car elle ne s'annonce pas. On la perçoit comme un ton plutôt que comme un refus.
L'entreprise qui le sert
Au-dessus du modèle se trouve l'opérateur, et c'est là que résident les règles explicites : le classificateur, les modèles de refus, les catégories. L'incitation est claire. Une mauvaise capture d'écran coûte plus cher que mille questions sans réponse, donc la démarche rationnelle consiste à refuser largement. Ce calcul porte sur l'exposition de l'entreprise, non sur la personne qui pose la question.
La boutique d'applications
Un assistant distribué via une boutique mobile passe une revue, et cette revue possède ses propres normes de contenu. Elles sont rédigées pour une boutique vendant à tout le monde, y compris aux enfants. C'est pourquoi la version mobile d'un assistant est souvent plus stricte que son site web. Personne ne l'annonce ; l'application se contente de refuser davantage.
Le processeur de paiement
La partie la moins visible et souvent la plus déterminante. Les réseaux de cartes imposent des règles de contenu aux entreprises qu'ils desservent, et un service qui accepte des paiements les hérite. C'est pourquoi les services payants convergent vers des restrictions similaires quelle que soit leur propre politique. La contrainte provient d'une entreprise que la plupart des utilisateurs ne prennent jamais en compte.
Ce qui est réellement la loi
Très peu. Le matériel sexualisant les mineurs est illégal partout et refusé partout, y compris ici. Au-delà de cela, la plupart de ce qui est refusé est légal à discuter et légal à connaître. L'écart entre ce qui est illégal et ce qui est refusé est là où réside presque toute la frustration.
Questions posées en premier
Le refus de répondre est-il une obligation légale ?
Presque jamais. Une catégorie est véritablement illégale et refusée universellement. Le reste relève de la politique fixée par les entreprises qui évaluent leur propre risque, ce qui explique pourquoi la même question passe sur un service et échoue sur un autre.
Pourquoi l'application mobile est-elle plus stricte que le site web ?
Parce qu'une revue de boutique se situe entre l'application et vous, et que la boutique applique ses propres normes de contenu. Le site web ne répond à aucun réviseur, c'est pourquoi une version navigateur peut se comporter différemment de l'application du même produit.
Un abonnement payant supprime-t-il les restrictions ?
Généralement, c'est l'inverse. L'acceptation des paiements apporte avec elle les règles du processeur de paiement, et celles-ci lient souvent plus strictement que la propre politique de l'opérateur.
Posez une question qui échouerait ailleurs, et observez laquelle des quatre couches assurait le refus.
Démarrer le chat sans censure