La crise actuelle a également montré que les choses peuvent empirer par rapport aux pires scénarios assez vanillés inclus dans les ensembles d’entraînement. Sharma pense que davantage d’IA devraient être formées non seulement sur les hauts et les bas des dernières années, mais aussi sur des événements anormaux comme la Grande Dépression des années 1930, le krach boursier du Black Monday en 1987 et la crise financière de 2007-2008. «Une pandémie comme celle-ci est un déclencheur parfait pour construire de meilleurs modèles d’apprentissage automatique», dit-il.

Dépenses restreintes

Même ainsi, vous ne pouvez pas tout préparer. En général, si un système d’apprentissage automatique ne voit pas ce qu’il attend, alors vous aurez des problèmes, explique David Excell, PDG de Featurespace, une société d’analyse comportementale qui utilise l’IA pour détecter la fraude par carte de crédit. Peut-être surprenant, Featurespace n’a pas vu son IA frapper trop mal. Les gens achètent toujours des choses sur Amazon et s’abonnent à Netflix comme ils l’étaient auparavant, mais ils n’achètent pas d’articles coûteux ou ne dépensent pas dans de nouveaux endroits, qui sont les comportements qui peuvent soulever des soupçons. «Le comportement de dépense des gens est une contraction de leurs anciennes habitudes», explique Excell.

Les ingénieurs de l’entreprise n’ont eu qu’à intervenir pour s’adapter à une augmentation du nombre de personnes achetant du matériel de jardinage et des outils électriques, explique Excell. Ce sont les types d’achats anormaux à prix moyen que les algorithmes de détection de fraude pourraient détecter. «Je pense qu’il y a certainement plus de surveillance», déclare Excell. «Le monde a changé et les données ont changé.»

Phrasee, basée à Londres, est une autre société d’intelligence artificielle qui est en train de travailler. Il utilise le traitement en langage naturel et l’apprentissage automatique pour générer des copies de marketing par e-mail ou des publicités Facebook au nom de ses clients. S’assurer qu’il obtient le bon ton fait partie de son travail. Son IA fonctionne en générant de nombreuses phrases possibles, puis en les exécutant à travers un réseau de neurones qui sélectionne les meilleures. Mais comme la génération du langage naturel peut mal tourner, Phrasee demande toujours aux humains de vérifier ce qui entre et sort de son IA.

Lorsque Covid-19 a frappé, Phrasee s’est rendu compte que plus de sensibilité que d’habitude pourrait être nécessaire et a commencé à filtrer le langage supplémentaire. La société a interdit des expressions spécifiques, telles que «devenir viral», et n’autorise aucun langage faisant référence à des activités découragées, comme «porter des fêtes». Il a même abattu des emojis qui peuvent être lus comme trop heureux ou trop alarmants. Et il a également abandonné des termes qui peuvent attiser l’anxiété, tels que «OMG», «être prêt», «faire le plein» et «se préparer». «Les gens ne veulent pas que le marketing les rende anxieux et craintifs – vous savez, par exemple, cet accord est sur le point de s’épuiser, faire pression sur la pression», explique Parry Malm, PDG de la société.

En tant que microcosme pour le commerce de détail dans son ensemble, cependant, vous ne pouvez pas battre Amazon. C’est également là que certains des ajustements les plus subtils en coulisses sont effectués. Alors qu’Amazon et les 2,5 millions de vendeurs tiers qu’il soutient luttent pour répondre à la demande, il apporte de minuscules ajustements à ses algorithmes pour aider à répartir la charge.

La plupart des vendeurs Amazon comptent sur Amazon pour exécuter leurs commandes. Les vendeurs stockent leurs articles dans un entrepôt Amazon et Amazon s’occupe de toute la logistique, de la livraison au domicile des personnes et de la gestion des retours. Il fait ensuite la promotion des vendeurs dont il exécute lui-même les commandes. Par exemple, si vous recherchez un article spécifique, comme une Nintendo Switch, le résultat qui apparaît en haut, à côté du bouton «Ajouter au panier», est plus susceptible de provenir d’un fournisseur qui utilise la logistique d’Amazon que d’un ça ne marche pas.

Mais au cours des dernières semaines, Amazon a inversé la tendance, explique Cline. Pour alléger la demande sur ses propres entrepôts, ses algorithmes semblent désormais plus susceptibles de promouvoir les vendeurs qui gèrent leurs propres livraisons.

Marchés volatils

Ce type d’ajustement serait difficile à réaliser sans intervention manuelle. «La situation est tellement instable», explique Cline. « Vous essayez d’optimiser pour le papier toilette la semaine dernière, et cette semaine tout le monde veut acheter des puzzles ou du matériel de gym. »

Les ajustements qu’Amazon apporte à ses algorithmes ont ensuite des effets d’entraînement sur les algorithmes que les vendeurs utilisent pour décider des dépenses en publicité en ligne. Chaque fois qu’une page Web avec des publicités se charge, une enchère ultra-rapide a lieu où les enchérisseurs automatisés décident entre eux qui doit remplir chaque case d’annonce. Le montant que ces algorithmes décident de dépenser pour une annonce dépend d’une myriade de variables, mais en fin de compte, la décision est basée sur une estimation de la valeur que vous, les globes oculaires de la page, leur accordez. Il existe de nombreuses façons de prédire le comportement des clients, y compris non seulement les données sur vos achats antérieurs, mais également le pigeonnier dans lequel les agences de publicité vous ont placé en fonction de votre activité en ligne.

Mais maintenant, l’un des meilleurs prédicteurs de savoir si quelqu’un qui clique sur une annonce achètera votre produit est le temps que vous dites qu’il faudra pour le livrer, dit Cline. Nozzle discute donc avec les clients de l’ajustement de leurs algorithmes pour en tenir compte. Par exemple, si vous pensez que vous ne pouvez pas livrer plus rapidement qu’un concurrent, cela ne vaut peut-être pas la peine d’essayer de les surenchérir lors d’une enchère publicitaire. D’un autre côté, si vous savez que votre concurrent est en rupture de stock, alors vous pouvez vous lancer dans des jeux bon marché qu’il n’enchérira pas.

Tout cela n’est possible qu’avec une équipe dédiée qui garde un œil sur les choses, explique Cline. Il pense que la situation actuelle est révélatrice pour beaucoup de gens qui pensaient que tous les systèmes automatisés pouvaient fonctionner eux-mêmes. « Vous avez besoin d’une équipe de science des données capable de relier ce qui se passe dans le monde à ce qui se passe sur les algorithmes », dit-il. « Un algorithme ne ramasserait jamais certains de ces trucs. »

Avec tout ce qui est connecté, l’impact d’une pandémie s’est fait sentir de loin, touchant des mécanismes qui, à une époque plus typique, restent cachés. Si nous recherchons une doublure argentée, il est maintenant temps de faire le point sur ces systèmes nouvellement exposés et de demander comment ils pourraient être mieux conçus, rendus plus résistants. Si l’on veut faire confiance aux machines, nous devons les surveiller.

Written by

manuboss