Amazon vuole bannarmi ma non riesco a capire perché

La scelta degli algoritmi di Amazon di vietare ai clienti di restituire troppi articoli senza spiegare quante volte possano farlo, non è solo una seccatura, ma li esclude dalla partecipazione al sistema economico in rapida ascesa di Amazon. Questa minaccia costituisce un pericoloso precedente, che potrebbe portarci a modificare il nostro comportamento per venire incontro ai suoi algoritmi.

Questa settimana ho ricevuto una lettera da Zappos, che è di proprietà di Amazon, in cui sembrava volermi piantare. Diceva che non sembravo soddisfatta dalla qualità del loro Servizio Clienti (quando, in realtà, lo ero), e che avevo mandato indietro troppe scarpe; così, nel tentativo di migliorare quel Servizio Clienti, avrebbero interrotto il Servizio Clienti stesso.

”Sebbene il nostro obiettivo principale sia la piena soddisfazione dei nostri clienti, dobbiamo considerare anche il rapporto costi/efficacia del continuare a fare affari su base individuale,” recitava l'email. ”Dopo un'attenta revisione della cronologia del tuo account, questa mail vuole essere un avvertimento, per cui qualsiasi istanza dovesse verificarsi a partire dalla data di questo avviso potrebbe risultare nella chiusura permanente del tuo account e di qualsiasi account associato.”

Zappos mi ha anche chiesto cosa fare per migliorare il Servizio Clienti (Un piccolo suggerimento: non bloccare il mio account e non mandarmi lettere che sembrano ultimatum tra fidanzati).

Negli ultimi anni, il dominio di Amazon nel settore della vendita al dettaglio ha portato alla chiusura di molte piccole imprese locali in tutto il paese. Nella sua missione di ”dominare la vendita al dettaglio,” Amazon sta diventando sempre più il servizio attraverso cui molti americani fanno tutti i loro acquisti, imponendosi come un giardino recintato per accedere al quale è necessario ”obbedire a una serie di regole” per acquistare prodotti e riceverli in consegna.

In questo contesto, se Amazon inizia a bannare gli utenti dalla sua piattaforma per motivi poco chiari che vengono decisi da un algoritmo, questo non comporta una semplice seccatura per le persone interessate dai provvedimenti, quanto piuttosto l'essere tagliati fuori da una catena di approvvigionamento che ha inglobato qualsiasi alternativa a essa. Questi ban non sono il semplice equivalente di Amazon che caccia qualcuno da un negozio fisico, ma assomigliano di più al cacciarlo via da un intero mercato che prima era accessibile a tutti IRL e ora è stato privatizzato in forma digitale.

Nel mio caso, ho chiamato Zappos. A quanto pare, il problema era che avevo ordinato diverse scarpe costose e le avevo restituite, causando la loro preoccupazione per le mie abitudini di acquisto. Vai a capire perché.

L'impiegato del Servizio Clienti ha detto che era tutto dovuto alla cifra totale dei miei resi, che mi ha fatto segnalare al sistema. Zappos mi ha inviato quella mail solo perché ha guardato alla quantità dei prodotti restituiti e non al contesto in cui è avvenuta la loro restituzione.

Le scarpe che avevo ordinato sono fatte a mano. Le scarpe fatte a mano sono un terno al lotto. Spesso le taglie sono irregolari, magari la destra ti sta in un modo e la sinistra in un altro e tanti altri tipi di problemi. Alle volte devo ordinare due paia della stessa taglia per provarle, oppure modelli di taglia diversa per trovare quella giusta.

In generale, le scarpe sono una di quelle cose che devi provare, ci vuole tempo per trovare la calzata perfetta, che varia da marca a marca — spesso anche da modello a modello di una stessa marca — e richiede una componente tattile per essere acquistata. Le scarpe non sono come i libri.

Per quanto non copri spesso scarpe fatte a mano, a quanto pare, ne ho ordinate a sufficienza per farmi inviare un ultimatum. L'impiegato di Zappos con cui ho parlato ha capito il mio discorso sul contesto, ma non poteva fare granché per evitare le segnalazioni. Ha potuto solo inserire delle "note" al mio account. Ma non ha potuto revocare l'ammonizione che pende sul mio profilo.

La settimana scorsa, sono stati pubblicati diversi articoli riguardo ad Amazon che cancella account dei clienti che hanno restituito troppi prodotti o richiesto troppi rimborsi. Le ragioni per i provvedimenti sono numerose e anche legittime: frode, l'utilizzo gratuito dei prodotti per poi restituirli e altre attività illegali. Ma ci sono anche ragioni legittime per la restituzione basate sulle capacità di scelta degli esseri umani e sui loro gusti.

Il quadro che ne emerge è che Amazon e Zappos auspicano un'omogeneità e una normalizzazione del comportamento dei consumatori oltre ad avere programmato l'incapacità di capire che scarpe, vestiti e simili sono ben diversi dai libri o altri beni di consumo. Entrambi sembrano utilizzare gli stessi algoritmi per analizzare gli acquisti di una vasta gamma di prodotti. E questo è un problema perché gli algoritmi di Amazon non sembrano essere in grado di comprendere il contesto in cui si svolge un acquisto e quindi, probabilmente, segnalano gli utenti in base a modelli di utilizzo estremamente semplicistici. Ma dato che gli esseri umani prendono iniziative, pensano e agiscono in modi ben al di fuori delle norme previste all'interno di determinati contesti, i nostri comportamenti non corrispondono alle aspettative degli algoritmi. Aspettative che si rivelano troppo rigide.

Ci sono vari motivi comuni per cui restituire un articolo: può essere difettoso, può essersi danneggiato durante l'imballaggio o durante il trasporto o la consegna. Tuttavia, se un cliente acquista un prodotto non standard (ad esempio, delle scarpe fatte a mano su Zappos), o un prodotto costoso o in qualche modo inusuale, gli algoritmi entrano lo stesso in azione e, a volte, lo fanno in modo errato.

Il sistema fallisce proprio nel capire il perché di queste scelte. Al momento, gli esseri umani non sono in grado di comprendere come agiscono gli algoritmi e le IA e, allo stesso tempo, gli algoritmi e le IA non sono in grado di capire il ”perché” di certe scelte e, quindi, il contesto in cui gli esseri umani compiono determinate scelte. Sembra che gli algoritmi possano solo memorizzare e segnalare certi pattern di comportamento e confrontarli con altri. Ad esempio, se la maggior parte delle persone acquista un articolo e lo conserva, chi restituisce lo stesso articolo che ha soddisfatto altri può finire per essere segnalato. Se la restituzione si ripete un numero sufficiente di volte, allora quella persona potrebbe essere segnalata e ricevere una lettera o ritrovarsi con l'account chiuso senza alcun preavviso e, forse, senza alcun intervento umano.

Se da un lato Amazon sostiene che i casi segnalati vengono supervisionati da esseri umani, dall'altro, sostiene anche di avere 300 milioni di clienti in tutto il mondo. È altamente improbabile che gli esseri umani possano esaminare tutti questi casi. E anche quando un caso viene esaminato da un essere umano, gli agenti del Servizio Clienti operano attraverso una serie di procedure predeterminate che possono ostacolare ulteriormente la richiesta di ripristino dell'account da parte di un cliente.

Purtroppo, questo tipo di ”Assistenza Clienti” e di sorveglianza automatizzata crea una sorta di ”intolleranza algoritmica” che crea dei bias nei confronti dei clienti solo perché presentano esigenze e preferenze prettamente umane — allo stesso modo dei loro corpi, costretti ad adattarsi a prodotti progettati in base a uno standard di massa a cui la maggior parte di noi non riesce facilmente a conformarsi o a prodotti realizzati a mano che possono avere moltissimi dettagli da prendere in considerazione.

Amazon ha inglobato il mondo della vendita al dettaglio, diventando l'unico negozio attraverso cui si servono molte persone. Tuttavia, se le persone, una volta acquistati gli oggetti, hanno esigenze personali, emotive o fisiche che non sono del tutto soddisfatte dai prodotti di Amazon, il tutto in un lasso di tempo che è impossibile conoscere a priori, vengono misteriosamente rispedite nel mondo della vendita al dettaglio locale che la stessa Amazon ha contribuito a mettere in crisi.

Così, siamo autorizzati ad acquistare su Amazon e dagli esercizi associati a condizione di tenerci quello che acquistiamo, a non avere problemi con chi ci ha consegnato i prodotti o la terza parte all'interno di Amazon che ce lo ha venduto. Finché le nostre azioni non attirano l'attenzione di un pattern algoritmico sconosciuto, quello che facciamo è OK.

Questo potrebbe non essere un grosso problema per i consumatori che non sono stati ancora completamente coinvolti dal sistema di Amazon per acquistare generi alimentari, prodotti d'intrattenimento, capi d'abbigliamento, articoli per la casa e tutto il resto. Certo, Walmart, Target e altri rivenditori online sono ancora disponibili, ma anche questi stanno accusando le conseguenze dello strapotere di Amazon.

Tuttavia, il punto in cui questo sistema comincia a diventare problematico è nella valutazione di come Amazon si insinua nelle risorse dei beni comuni on-line — portandosi dietro questi "divieti." I negozi di Amazon Go non hanno personale e per comprare dei prodotti richiedono un account Amazon, le librerie di Amazon sono connesse al suo negozio online e, potenzialmente, se Amazon dovesse inglobare la vendita al dettaglio di tutti gli altri beni comuni, finirebbe per escludere le persone che sono state bannate dai suoi algoritmi per aver fatto restituito troppi articoli.

Inoltre, cosa succede quando qualcuno ha investito in un Alexa Echo e/o in un sistema Dot e Amazon cancella il suo account? Perde l'accesso alla sua smarthome e un investimento considerevole in hardware. Dato che i negozi di Whole Foods (di proprietà di Amazon) continuano a vendere beni di prima necessità e ad offrire sconti speciali ai clienti Prime, chi è bannato dal sistema verrà escluso da questi servizi — e alla fine, Amazon potrebbe scegliere di rendere i suoi negozi di alimentari accessibili ”solo ai suoi membri” dopo aver sbaragliato la concorrenza.

Non è che Amazon o la stessa Zappos costituiscano un problema in sé. Sono ottimi per molte persone e chiaramente hanno affinato una formula che viene apprezzata dai clienti (sempre ammesso che non restituiscano troppi articoli.) Tuttavia, sono gestiti da algoritmi che non vengono monitorati correttamente oltre a imporre delle conseguenze molto concrete sulle persone. Oggi se Amazon o Zappos escludono determinati clienti dalla piattaforma per la vendita dei loro prodotti o da quella di altri servizi di Amazon potrebbe non essere un problema ma, se Amazon continuerà a crescere, continuando ad inglobare la vendita dei beni comuni — e noi stessi come clienti — la questione diventerà assolutamente problematica.

Infatti, se cominciamo a modificare il nostro comportamento adeguando le nostre esigenze e preferenze per venire incontro a quelle di un algoritmo che funziona in modo piuttosto approssimativo solo per mantenere il privilegio di acquisto, perdiamo la nostra possibilità di scelta e la nostra capacità di azione legandoci, invece, volontariamente a un sistema di vendita al dettaglio che erode la nostra dignità e libertà di scelta.

È proprio così che diventiamo più facilmente controllabili e il tutto diventa più pericoloso dal momento che l'acquisto di sempre più prodotti alimentari, medicinali e altri beni di primo consumo passa attraverso le maglie di un colosso economico.

Probabilmente, se decidessi di acquistare nuovamente della scarpe attraverso Amazon, metterò in moto lo stesso meccanismo di segnalazione. Certo, posso sempre trovare le scarpe altrove, e probabilmente comprarle altrove perché voglio sostenere le imprese locali. Farsi consegnare i prodotti direttamente a casa va bene solo nella misura in cui si viene monitorarti, giudicati e condannati da degli algoritmi.

Ho intenzione di orientare i miei acquisti verso i negozi locali il più possibile — il tutto nell'attesa che non mi sia più concesso di partecipare al sistema economico di Amazon.

S. A. Applin, Ph.D. è un'antropologa il cui lavoro di ricerca esplora i campi dell'azione umana, gli algoritmi, l'intelligenza artificiale e l'automazione, nel contesto dei sistemi sociali. Potete seguirla su @anthropunk.

Questo articolo è comparso originariamente su Motherboard US.

Seguici su Facebook e Twitter.