Ormai lo sappiamo da anni. La nostra vita è osservata, misurata, giudicata secondo procedure di tipo algoritmico. Ogni volta che, per esempio, si valuta la nostra affidabilità creditizia, il nostro curriculum in vista di una possibile assunzione, le nostre richieste di trasferimento o promozione, le nostre preferenze di consumo. Sono le “Armi di Distruzione Matematica” (ADM) di cui ci parla Cathy O’Neil nell’omonimo saggio (2017). I modelli di interpretazione dei dati, non privi di “angoli ciechi” che, lungi da essere neutrali, riflettono le valutazioni e le priorità dei loro creatori. Che non sono matematiche, ma umane, arbitrarie, soggettive, eppure potenziate nei loro effetti dalla capacità dei modelli algoritmici di crescere esponenzialmente. A questo proposito la O’ Neil scrive:
“La diffusione delle ADM in settori come le risorse umane, la sanità e il sistema bancario – solo per citarne alcuni – sta introducendo norme generali che vengono imposte su di noi quasi in forza di legge. Se qualcuno vi bolla come mutuatario ad alto rischio in base al modello di una determinata banca, il mondo vi tratterà esattamente come tale: un parassita che non paga i debiti, anche se la realtà è completamente diversa. E quando quel modello viene applicato su più vasta scala, com’è accaduto con quello del credito, si ripresenta continuamente nella vita di una persona e stabilisce se è idonea a ricevere un prestito per un appartamento o un’automobile o per essere assunta in un posto di lavoro.”
Dunque, siamo già tutti sorvegliati, giudicati, valutati, nostro malgrado. Ma un ulteriore elemento critico si collega strettamente alla precedente osservazione. Gli algoritmi che, come abbiamo visto, ci profilano e ci valutano, funzionano ovviamente con i dati. Viviamo nell’epoca dei Big Data, in quella che, di fatto, è una società del controllo e gli algoritmi sono la struttura portante nel quale i sorvegliati sono attivamente complici dei sorveglianti. Oltretutto spesso in modo incosciente.
” … L’esibizionismo e il voyeurismo alimentano la rete. La società del controllo si realizza là dove il suo soggetto si denuda non in conseguenza di una costrizione esterna, ma di un bisogno auto-prodotto, quindi là dove l’angoscia di dover abbandonare la propria sfera privata e intima cede al bisogno di esporsi alla vista senza pudore.”
Lo Studio Magro si propone di eliminare queste asimmetrie, penalizzanti e fuorvianti per i clienti. Anzi condivide assieme a loro sia le informazioni che le strategie da attuare in modo da aiutare e gestire le soluzioni migliori possibili. Perchè al di là dei numeri e degli algoritmi contano le persone.