site de démo

Un mot et le robot se retourne contre vous : les chercheurs alertent et proposent d’urgence des garde-fous

<p>Demandez à un robot de couper une pomme, et il saisit le couteau pour trancher une main. Des informaticiens de Binghamton University, Université d’État de New York, ont reproduit ce scénario avec une main en plastique. Ils viennent de présenter deux études à la conférence IROS 2026, consacrée aux robots intelligents. La première montre qu’un mot déclencheur caché peut détourner un robot dont les tâches sont planifiées par un grand modèle de langage (LLM). La seconde teste une parade.</p>
<p>Ces modèles servent de plus en plus à découper une mission en une suite d’actions. Leurs risques de sécurité restent pourtant peu explorés. Obtenus surtout en simulation domestique, ces résultats demandent d’autres tests avant toute généralisation. Les auteurs le précisent : ils conçoivent ces attaques pour bâtir des défenses, non pour les exploiter.</p>
<h2>Un cheval de Troie logé dans les réglages</h2>
<p>Baptisée MuTRAP et décrite sur <a href= »https://arxiv.org/abs/2504.17070?utm_source=rss_feed&#038;utm_medium=link&#038;utm_campaign=unknown » target= »_blank » rel= »noopener »>arXiv</a>, l’attaque ne touche pas au modèle central, souvent hébergé sur un serveur. Elle corrompt un petit jeu de paramètres qui adapte ce modèle à un domaine, comme la cuisine. Un fournisseur malveillant de données ou d’entraînement suffirait donc. L’équipe a piégé sept modèles ouverts, dont Llama, Qwen et DeepSeek, entraînés sur 5 000 exemples de tâches ménagères.</p>
<p>Avec un déclencheur comme « herical », le modèle produit le plan malveillant dans 97 à 100 % des cas. Sans ce mot, il reste sain dans plus de 99 % des cas. Les chercheurs ont optimisé jusqu’à vingt déclencheurs. Chacun peut commander un méfait distinct, comme poser un chat sur une plaque allumée. Enfin, un bras robotisé monté sur une base Segway a exécuté la séquence avec un couteau factice.</p>
<h2>Un juge numérique pour chaque geste</h2>
<p>La même équipe a ensuite conçu PROTEA, détaillé dans une seconde étude sur <a…<a href= »https://www.science-et-vie.com/technos-et-futur/un-mot-et-le-robot-se-retourne-contre-vous-les-chercheurs-alertent-et-proposent-durgence-des-garde-fous-264341.html?utm_source=rss_feed&#038;utm_medium=link&#038;utm_campaign=unknown »>Lire la suite sur Science et vie</a><p>The post <a href= »https://www.science-et-vie.com/technos-et-futur/un-mot-et-le-robot-se-retourne-contre-vous-les-chercheurs-alertent-et-proposent-durgence-des-garde-fous-264341.html?utm_source=rss_feed&#038;utm_medium=link&#038;utm_campaign=unknown »>Un mot et le robot se retourne contre vous : les chercheurs alertent et proposent d’urgence des garde-fous</a> appeared first on <a href= »https://www.science-et-vie.com?utm_source=rss_feed&#038;utm_medium=link&#038;utm_campaign=unknown »>Science et vie</a>.</p>

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Retour en haut