• Ces autocollants font halluciner des objets aux IA de reconnaissance d’image

    https://siecledigital.fr/2018/01/04/image-contradictoire-halluciner-objets-ia-reconnaissance-image

    Les outils de reconnaissance d’image sont de plus en plus perfectionnés, et surtout de mieux en mieux entraînés pour différencier un objet d’un autre. Néanmoins, leur capacité à percevoir les choses est ‘mécanique’ contrairement à l’Homme. Ce défaut a été mis à l’épreuve de quelques malins qui ont réalisé des autocollants capables de perdurer une intelligence artificielle pour lui faire halluciner (littéralement) des objets.

    https://sd-cdn.fr/wp-content/uploads/2018/01/image-contradictoire-reconnaissance-image.png

    Ce n’est pas la première fois que des personnes essayent de tromper la façon dont les IA voient le monde. C’est le cas du projet Hyperface qui veut nous protéger des outils de reconnaissance grâce à des motifs imprimés sur des vêtements. Comme pour les autocollants dont il est question dans cet article, on appelle cela des images contradictoires .

    Imaginés par des chercheurs de Google, les motifs créés poussent d’un pas en avant les pratiques d’utilisation des images contradictoires. D’ailleurs les visuels créés sont à la portée de tous, peuvent être imprimés chez vous. De plus, pour tromper l’IA, nul besoin de positionner l’autocollant à un endroit spécifique. Comme précisé sur le compte-rendu des chercheurs, les visuels permettent de « créer une attaque physique sans prendre en compte les conditions de lumière, l’angle de la caméra, le type de classificateur qui doit être trompé, ou même les autres objets présents dans la scène. »

    #images_contradictoires

    https://seenthis.net/messages/657105 via enuncombatdouteux