Un agriculteur a fait confiance à l'IA – et a perdu toute sa récolte

Combien de fois avez-vous posé une question à un chatbot d'intelligence artificielle et reçu une réponse qui semblait parfaite et tout à fait professionnelle ? La plupart d'entre nous le font quotidiennement, que ce soit pour le travail ou pour résoudre des problèmes courants. Cependant, l'histoire suivante illustre clairement pourquoi une confiance aveugle dans ces outils, sans vérification supplémentaire, peut se solder par un lourd désastre économique qui aurait pu être facilement évité par une simple recherche sur le web.

Le conseil qui a détruit 25 acres de récolte

Un agriculteur de 67 ans de la ville de Chuzhou, en Chine, ayant récemment commencé à faire confiance aux capacités de l'intelligence artificielle, a décidé de consulter un chatbot pour résoudre un problème de mauvaises herbes et de nuisibles dans son champ de sésame d'environ 25 acres. Le chatbot lui a fourni une recette détaillée pour mélanger divers pesticides. L'agriculteur a agi exactement selon les instructions reçues et a pulvérisé tout le champ, mais le lendemain matin, il a découvert avec stupéfaction que tous les plants de sésame s'étaient flétris et étaient morts pendant la nuit.

L'erreur critique venait du fait que le chatbot recommandait une combinaison de produits chimiques incluant une substance destinée à détruire les mauvaises herbes à feuilles larges. Comme le sésame est lui-même une plante à feuilles larges, la substance a détruit les cultures beaucoup plus rapidement que les mauvaises herbes. Des experts agricoles ont confirmé que le mélange de ces produits chimiques était particulièrement destructeur, surtout compte tenu du fait que l'agriculteur a pulvérisé tout le champ au lieu d'effectuer une pulvérisation ciblée comme requis.

Comment vous protéger des dommages causés par l'IA

L'agriculteur frustré est retourné vers le chatbot pour comprendre ce qui n'allait pas et a découvert qu'il n'avait tout simplement pas fait attention à l'avertissement qui apparaissait à l'écran. Comme la plupart des outils d'intelligence artificielle aujourd'hui, ce chatbot affichait un avertissement explicite indiquant que les informations produites pouvaient être erronées et devaient être vérifiées. Ce manque d'attention lui a coûté la perte de toute la récolte, et peut-être même l'utilisation de la terre pour toute une saison.

Cet événement douloureux est un rappel important pour nous tous. Pour éviter des dommages similaires dans la vie quotidienne, au travail ou dans les études, souvenez-vous toujours de vérifier les conseils critiques de l'intelligence artificielle par une simple recherche sur le web ou en consultant des professionnels. Ne faites pas confiance les yeux fermés à la première réponse que vous recevez de l'écran.