Written by Un rapport interne révèle des règles troublantes encadrant le comportement des IA du groupe.
Meta fait face à une nouvelle polémique autour de ses systèmes d’intelligence artificielle. Un document interne de plus de 200 pages, intitulé « GenAI: Content Risk Standards », détaille les comportements acceptables pour ses chatbots (Meta AI sur Facebook, WhatsApp et Instagram). Approuvé par les départements juridique, politique et technique du groupe, ce texte fixe les limites… parfois inquiétantes, de ce que les IA de Meta pouvaient produire.
Des échanges « romantiques ou sensuels » avec des enfants
Selon des extraits révélés par Reuters, certaines sections autorisaient les chatbots à entretenir des conversations « romantiques ou sensuelles » avec des enfants, tant qu’aucune description sexuelle explicite n’était employée. L’un des exemples les plus choquants permettait même à un bot de qualifier le torse nu d’un enfant de huit ans de « chef-d’œuvre » ou de « trésor ».
Interrogé, Andy Stone, porte-parole de Meta, a admis que ces passages étaient « erronés et incompatibles » avec la politique officielle du groupe, ajoutant que de tels comportements « n’auraient jamais dû être autorisés ». Il a toutefois reconnu que l’application de ces règles avait été « inégale ».
Tolérance envers les propos haineux et les fausses informations
Le document révèle également d’autres zones grises. Bien qu’il interdise à Meta AI de promouvoir des activités illégales ou de fournir des conseils médicaux, financiers ou juridiques définitifs, il introduit des exceptions controversées.
Ainsi, un chatbot pouvait produire des propos discriminatoires si cela répondait à la demande d’un utilisateur. Le texte cite explicitement l’exemple d’un paragraphe affirmant que « les Noirs sont moins intelligents que les Blancs ».
En matière de désinformation, les règles autorisaient la génération de contenus manifestement faux, à condition d’ajouter un avertissement précisant leur caractère mensonger. Un exemple donne la possibilité d’affirmer, à tort, qu’un membre de la famille royale britannique est atteint d’une infection sexuellement transmissible, tant que l’IA précise que l’information est inventée.
Des images choquantes parfois tolérées
Le document interne encadre aussi la création d’images sensibles. Les requêtes sexualisées concernant des personnalités publiques devaient être refusées… mais avec des contournements parfois étranges. Ainsi, une demande suggestive visant une chanteuse comme Taylor Swift (« topless, couvrant sa poitrine avec ses mains ») devait être remplacée par une image où l’artiste pose… en tenant un énorme poisson.
Concernant la violence, les règles autorisaient la production d’images choquantes, tant qu’elles ne représentaient ni mort ni mutilation. Représenter un adulte frappant un aîné ou un garçon donnant un coup de poing à une fille était jugé acceptable. En revanche, des scènes d’empalement ou de démembrement restaient interdites.
