Les consommateurs craignent de perdre le contrôle.
Les consommateurs craignent les répercussions de la cession du contrôle à l'IA et de son autorisation à effectuer des achats en leur nom. Ils craignent, par exemple, que l'IA ne prenne des décisions erronées ou coûteuses, difficiles à corriger ou annuler, comme le fait de commander plus d'articles que souhaité. Même les consommateurs qui acceptent que l'IA sélectionne automatiquement la marque de café à commander, par exemple, voudraient garder la prérogative apparemment anodine de cliquer sur « Acheter ».
Lors de nos entretiens qualitatifs, les consommateurs ont exprimé ces craintes, en mentionnant fréquemment les erreurs et les imprécisions. Un sondé critique : « Les assistants vocaux comprennent souvent mal les commandes. Ils n'ont pas d'écran qui me permette de confirmer que j'ai fait ce qu'il fallait ». Une autre préoccupation concerne la sécurité des données. « Je ne sais pas si je suis à l'aise à l'idée de laisser l'IA utiliser mes informations et les stocker pour faciliter les paiements », explique un autre sondé.
La méfiance à l'égard de ce qui motive les décisions de l'IA est également très répandue. « J'ai le sentiment que l'algorithme suivra les instructions du plus offrant et ne traitera pas l'achat dans mon intérêt », déclare un consommateur.
Les niveaux de confort chutent, même pour les outils d'IA les plus populaires
Même les utilisateurs les plus enthousiastes de l'IA hésitent à céder leur pouvoir de décision lors de la phase d'achat. Par rapport à la phase de renseignement, les quotients de confort des accélérateurs et des précurseurs passent de 50 à 33 pour les premiers et de 58 à 34 pour les seconds. Plus précisément, alors que 41 % des accélérateurs (et 52 % des précurseurs) se sentent à l'aise avec l'IA conversationnelle pendant la phase de renseignement, ce niveau d'aisance tombe à 33 % et 46 %, respectivement, pendant la phase d'achat (voir la Figure 4). La dynamique est la même pour les assistants vocaux, qui passent de 38 % pour les accélérateurs et 53 % pour les précurseurs lors de la phase de renseignement à 30 % et 42 %, respectivement, lorsqu'il s'agit de la phase d'achat.
Il est intéressant de noter que les technologies qui ajoutent des vérifications de sécurité telles que la reconnaissance faciale sont en concurrence étroite avec d'autres technologies, en particulier parmi les ancrés, au stade de l'achat. Un consommateur l'a qualifié de « couche supplémentaire de vérification et de protection ».