En Chine, des ingénieurs sont parvenues à « Intoxiquer » des plateformes d’intelligence artificielle afin de promouvoir un produit fictif. Cette technique, utilisée à des fins marketing, pourrait à l’avenir servir à manipuler l’opinion publique ou à influencer des élections.
L’intelligence artificielle pouvait déjà « halluciner » et inventer parfois des réponses farfelues. Aujourd’hui, des ingénieurs en Asie savent également l’empoisonner pour la forcer à mentir.
Mi-mars, le sujet de l’empoisonnement des données fait beaucoup parler, notamment en Chine. Une émission de télévision très connue dans le pays a mis en lumière ce problème. Les journalistes ont voulu savoir s’il était possible d’influencer les réponses de plusieurs plateformes d’intelligence artificielle. Pour cela, ils ont fait appel à une entreprise spécialisée dans cette technologie afin de l’aider à promouvoir un produit qui n’existe pas : un bracelet connecté. Ces objets électroniques que l’on porte pour mesurer ses performances physiques ou la qualité de son sommeil.
Comment tromper facilement l’IA ?
La société spécialisée a dès lors fabriqué de faux reportages, de faux tests et de fausses analyses, affirmant que ce bracelet, appelé « Apollo 9 », était le meilleur du marché. Internet a été ainsi inondé de ces fausses données. Lorsque des utilisateurs ont cherché des conseils pour s’acheter un bracelet connecté sur les plateformes d’IA, c’est ce bracelet imaginaire qui est apparu en tête des recommandations.
Pour comprendre comment il est ainsi possible de tromper l’intelligence artificielle, il faut avant tout se rappeler que celle-ci n’est pas réellement intelligente.
En savoir plus sur Info Asie
Subscribe to get the latest posts sent to your email.