En janvier, mon collègue a reçu un e-mail particulier. Le message, qu’elle m’a transmis, provenait d’une poignée d’employés de Walmart, se faisant appeler les «Associés du Home Office concernés». (Le siège social de Walmart à Bentonville, Arkansas, est souvent appelé le Home Office.) Bien qu’il ne soit pas rare que les journalistes reçoivent des conseils anonymes, ils ne viennent généralement pas avec leurs propres vidéos produites avec brio.
Les employés ont déclaré qu’ils avaient «dépassé leur point de rupture» avec Everseen, une petite entreprise d’intelligence artificielle basée à Cork, en Irlande, dont la technologie Walmart a commencé à utiliser en 2017. Walmart utilise Everseen dans des milliers de magasins pour empêcher le vol à l’étalage dans les registres et les kiosques de libre-paiement. . Mais les travailleurs ont affirmé qu’il avait mal identifié un comportement inoffensif comme étant un vol et n’avaient souvent pas empêché de véritables cas de vol.
Ils ont dit à WIRED qu’ils étaient consternés que leur employeur – l’un des plus grands détaillants au monde – s’appuie sur l’IA qu’ils croyaient défectueuse. Un travailleur a déclaré que la technologie était parfois même appelée en interne «NeverSeen» en raison de ses erreurs fréquentes. WIRED a accordé l’anonymat aux employés car ils ne sont pas autorisés à parler à la presse.
Les travailleurs ont déclaré qu’ils étaient contrariés par l’utilisation par Walmart d’Everseen depuis des années et ont affirmé que leurs collègues avaient fait part de leurs préoccupations concernant la technologie aux gestionnaires, mais avaient été réprimandés. Ils ont décidé de parler à la presse, ont-ils dit, après une Juin 2019 Business Insider Cet article a rendu public le partenariat de Walmart avec Everseen pour la première fois. L’histoire a décrit comment Everseen utilise l’IA pour analyser les images des caméras de surveillance installées au plafond et peut détecter les problèmes en temps réel, comme lorsqu’un client place un article dans son sac sans le scanner. Lorsque le système détecte quelque chose, il alerte automatiquement les associés du magasin.
«Everseen surmonte les limites humaines. En utilisant l’intelligence artificielle de pointe, les systèmes de vision par ordinateur et les mégadonnées, nous pouvons détecter une activité anormale et d’autres menaces », a vidéo promotionnelle référencée dans l’histoire explique. « Notre œil numérique a une vision parfaite, et il n’a jamais besoin d’un jour de congé. »
Dans le but de réfuter les affirmations formulées dans l’article Business Insider, les Concerned Home Office Associates ont créé une vidéo, qui prétend montrer que la technologie d’Everseen ne parvient pas à signaler les articles qui ne sont pas numérisés dans trois magasins Walmart différents. Sur une musique d’ascenseur gaie, cela commence par une personne qui utilise le paiement automatique pour acheter deux paquets géants de tasses de beurre d’arachide blanc de Reese. Étant donné que les colis sont empilés les uns sur les autres, un seul est numérisé, mais les deux sont correctement placés dans la zone d’ensachage sans problème.
La même personne saisit ensuite deux gallons de lait par ses poignées et les déplace à travers le scanner d’une main. Un seul est sonné, mais les deux sont placés dans la zone d’ensachage. Ils ont ensuite mis leur propre téléphone portable sur le dessus de la machine, et une alerte apparaît indiquant qu’ils doivent attendre de l’aide – un faux positif. «Everseen alerte enfin! Mais le fait par erreur. Oups encore », indique une légende. Le cinéaste répète le même processus dans deux autres magasins, où il ne parvient pas à numériser une boîte de chocolat en forme de cœur pour la Saint-Valentin avec un chiot à l’avant et une brosse à dents électrique Philips Sonicare. À la fin, une légende explique qu’Everseen n’a pas réussi à arrêter plus de 100 $ de vol potentiel.
Faux positifs
La vidéo n’est pas une preuve définitive que la technologie d’Everseen ne fonctionne pas aussi bien qu’elle est annoncée, mais son existence témoigne du niveau de frustration ressenti par le groupe d’employés anonymes de Walmart et des efforts qu’ils ont déployés pour prouver que leurs objections étaient fondées.
Au cours des entretiens, les travailleurs, dont les emplois comprennent la connaissance des programmes de prévention des pertes de Walmart, ont déclaré que leur principale préoccupation avec Everseen était les faux positifs lors de l’auto-paiement. Les employés estiment que la technologie interprète souvent de manière erronée un comportement innocent comme un vol potentiel à l’étalage, ce qui frustre les clients et les associés du magasin et conduit à des lignes plus longues. «C’est comme une technologie bruyante, une fausse IA qui prétend simplement protéger», a déclaré un travailleur.
La pandémie de coronavirus a rendu leurs préoccupations plus urgentes. Un associé du Home Office inquiet a déclaré qu’il craignait que les faux positifs puissent amener les travailleurs de Walmart à briser inutilement les directives en matière de distanciation sociale. Lorsque Everseen signale un problème, un associé de magasin doit intervenir et déterminer si un vol à l’étalage ou un autre problème se produit. Dans une communication interne d’avril obtenue par WIRED, un responsable de Walmart a exprimé sa vive inquiétude que les travailleurs soient mis en danger par le contact supplémentaire rendu nécessaire par les faux positifs et a demandé si le système Everseen devait être désactivé pour protéger les clients et les travailleurs.
Avant COVID-19, «ce n’était pas idéal, c’était une mauvaise expérience client», a expliqué le travailleur. « L’IA crée maintenant un risque pour la santé publique. » (HuffPost signalé la semaine dernière que les employés de Walmart étaient préoccupés par la technologie d’Everseen mettant les associés des magasins en danger au milieu de la pandémie.)
Bon pour les ventes
Lorsque COVID-19 a atteint les États-Unis, les Américains se sont précipités pour s’approvisionner en produits alimentaires et en articles ménagers essentiels chez Walmart, et les ventes ont grimpé. Les travailleurs ont rapidement commencé à tomber malades; au moins 20 associés de Walmart sont décédés après avoir contracté le coronavirus, selon Unis pour le respect, un organisme à but non lucratif qui défend les travailleurs du commerce de détail et qui est crowdsourcing Taux d’infection au COVID-19 et conditions de travail dans les magasins Walmart du pays. Le mois dernier, United for Respect a déclaré que des centaines d’employés de Walmart avaient participé à un grève nationale exigeant des conditions de travail plus sûres et de meilleurs avantages.
Un porte-parole de Walmart a déclaré que la société travaillait avec diligence pour protéger les clients et sa main-d’œuvre et estime que le taux auquel les associés ont contracté COVID-19 est inférieur à celui de la population américaine en général. Ils ont nié que les faux positifs causés par Everseen étaient un problème répandu et ont déclaré que la société n’avait pas envisagé d’éteindre le système en raison de préoccupations concernant COVID-19.
«Nous évaluons régulièrement notre technologie, et comme en témoigne la mise en œuvre à grande échelle d’Everseen à travers la chaîne, nous sommes convaincus qu’elle respecte actuellement nos normes», a déclaré le porte-parole dans un e-mail. Juste avant le début de la pandémie, Walmart a déclaré avoir apporté des améliorations significatives à son système Everseen, ce qui a entraîné une diminution globale des alertes. Le porte-parole a refusé de répondre aux questions sur les implications des mises à jour.
Le porte-parole a également noté qu’il existe un certain nombre de raisons différentes pour lesquelles un associé peut intervenir lors d’une transaction d’auto-paiement, comme lorsqu’un client a des problèmes avec sa carte de crédit. La société a déclaré qu’elle avait pris un certain nombre de mesures pour garantir la protection des personnes lors de ces interactions, notamment le nettoyage régulier des bornes d’auto-paiement et la fourniture d’équipements de protection aux employés. En outre, les travailleurs reçoivent des appareils portables qui leur permettent de gérer la plupart des interventions à distance, a indiqué l’entreprise.
Des questions
Everseen a refusé de répondre aux questions sur sa technologie. Dans un communiqué, un porte-parole a déclaré que la société «identifie avec précision et efficacité les vols potentiels [sic] C’est pourquoi les détaillants l’ont déployé avec succès dans des milliers d’emplacements à ce jour, avec de nombreuses autres installations prévues. » Ils ont ajouté qu’Everseen ne représente généralement que moins de 10% du total des interventions lors des caisses libre-service. Dans un communiqué séparé, le porte-parole a déclaré: «Everseen s’engage à aider ses clients à offrir la meilleure expérience possible aux acheteurs et aux associés de magasin, en particulier pendant la pandémie de COVID-19. L’auto-paiement offre les avantages d’une expérience de magasinage généralement sans contact, permettant une distanciation sociale appropriée et évitant les voies habitées dans les magasins occupés avec un personnel limité disponible.
Mais les responsables du Home Office ont déclaré que leurs inquiétudes concernant Everseen étaient antérieures à la pandémie. Les e-mails obtenus par WIRED montrent que d’autres employés de l’entreprise ont soulevé des problèmes au sujet de la technologie qui n’a pas empêché le vol en 2017 et 2018. Les employés se sont déclarés particulièrement contrariés par l’investissement continu de Walmart dans Everseen parce que NCR Corporation, qui constitue la majorité des registres de Walmart, avait acquis un concurrent Everseen appelé StopLift. Ils ont considéré l’acquisition comme une approbation et ne savaient pas pourquoi la technologie de StopLift n’était pas explorée plus avant.
De plus, les travailleurs ont déclaré qu’un groupe interne de recherche et développement de Walmart, l’Intelligent Retail Lab (IRL), avait créé son propre logiciel antivol qu’ils jugeaient plus précis que celui d’Everseen, selon des informations qui leur avaient été communiquées en interne. Un employé de Walmart a déclaré que la technologie, dont l’existence avait été précédemment signalée par Le journal de Wall Street, est actuellement testé dans environ 50 magasins.
Walmart a refusé de répondre aux questions sur son logiciel antivol interne, mais n’a pas contesté les rapports de WIRED. « Au niveau de l’entreprise, un certain nombre de tests sont effectués à tout moment sur notre empreinte de près de 5 000 magasins », a déclaré un porte-parole dans un communiqué. «L’objectif d’IRL est de développer des capacités d’IA qui peuvent être transférées vers des magasins supplémentaires. Nous testons régulièrement des capacités construites en interne dans un petit nombre de magasins. »
Rétrécissement croissant
La technologie d’Everseen a été conçue en partie pour aider à résoudre un problème persistant avec l’auto-paiement. Tout en permettant aux clients de numériser et de payer leurs propres articles réduit les coûts de main-d’œuvre pour les détaillants, cela a également entraîné une plus grande perte d’inventaire, ou «rétrécissement», en raison du vol à l’étalage, du vol des employés et d’autres problèmes. «Le vol dans les voies de libre-service est exponentiellement plus élevé que dans les voies de paiement traditionnelles», explique Christopher Andrews, professeur de sociologie à l’Université Drew et auteur de Le consommateur surchargé de travail: les caisses automatiques, les supermarchés et l’économie du bricolage.
Dans le passé, Walmart et d’autres détaillants s’appuyaient sur des capteurs de poids pour empêcher le vol à l’étalage via l’auto-paiement, mais ceux-ci étaient sujets à des erreurs et à des clients frustrés. Certains magasins se tournent désormais vers des entreprises comme Everseen, qui promettent de réduire le rétrécissement et d’augmenter la satisfaction des clients en s’appuyant plutôt sur des caméras de surveillance et la vision industrielle. Everseen a déclaré qu’il travaille avec un certain nombre de grands détaillants. Amazon utilise une technologie similaire dans ses dépanneurs Amazon Go, où un réseau de caméras enregistre automatiquement les produits que les clients prennent. (Amazon octroie désormais une licence pour sa technologie «Just Walk Out» à d’autres sociétés.)
Valeur de l’auto-paiement
Pendant la pandémie de coronavirus et ses conséquences, l’auto-paiement peut devenir encore plus important pour les magasins, car les clients recherchent des moyens de faire leurs achats à faible risque. La société NCR a déclaré qu’elle aidait désormais les détaillants à modifier son équipement pour qu’il soit aussi sans contact que possible: par exemple, en reconfigurant les machines afin que les clients puissent insérer une carte de débit ou de crédit sans avoir à appuyer sur l’option de paiement «carte de crédit». «Il est fascinant de voir l’auto-paiement devenir une stratégie de santé publique, en plus de choses comme le paiement sans numéraire», explique Alexandra Mateescu, chercheuse à l’institut à but non lucratif Data & Society, qui a écrit sur les effets des nouvelles technologies sur les travailleurs du commerce de détail.
«L’auto-paiement n’est que l’une des façons dont nous avons proposé aux clients des solutions pour obtenir les articles dont ils ont besoin en toute sécurité pendant cette période, en plus d’autres options comme la livraison, la collecte, le paiement sans contact à la caisse et les achats en ligne», Walmart porte-parole a déclaré dans un communiqué. «Les clients utilisent cette option maintenant, autant que jamais, et nous continuerons à travailler dur pour assurer que l’expérience en magasin pour nos clients soit sûre, abordable et pratique, ainsi que sûre pour nos associés.»
Cette histoire est apparue à l’origine sur wired.com.
