La ricerca mostra che non sono più gli umani a prendere decisioni, sono algoritmi

Il governo dell'algoritmo non è una cosa del futuro

È evidente che viviamo nell'era dell'algoritmo. Quasi tutti gli spazi in cui ci muoviamo sono determinati da un algoritmo, che si tratti della strada principale, della distribuzione di prodotti in un supermercato o del newsfeed di un social network. L'essere umano confida che gli algoritmi siano più efficienti e prenderà decisioni migliori, ma ciò non è necessariamente vero e, inoltre, gli algoritmi sono riflessi di un sistema capitalista che non ha un controllo centrale ma è programmato per continuare a crescere in qualsiasi modo, senza tregua, come un cancro. Come suggeriscono Douglas Rushkoff e Mark Pesce, mentre gli algoritmi "si nutrono della tua energia (attenzione: dati), conoscono i tuoi punti deboli e possono influenzare i tuoi stati emotivi ad agire in modi che non sono in linea con i tuoi migliori interessi ", possiamo chiamarli demoni, o questo è ciò che è stato chiamato qualcosa del genere qualche secolo fa.

In un'indagine scientifica, Allen Lee e Dionysios Demetis hanno concluso che "i ruoli della tecnologia dell'informazione e degli esseri umani sono stati invertiti", perché ora "la tecnologia è avanzata al punto che ci sta usando e persino controllando". Questo è paradossale, dal momento che gli algoritmi non hanno alcuna agenzia; Gli umani sono quelli con un'agenzia, ma ora gli algoritmi ci hanno eliminato dal processo decisionale. Ora siamo "artefatti umani" che esistono nell'ambiente degli algoritmi.

Gli esempi citati dai ricercatori sono i seguenti: gli analisti legali vengono sostituiti dall'intelligenza artificiale; I software sono autorizzati a prevedere i futuri criminali e influenzare le decisioni dei giudici (anche se non comprendono nemmeno la complessità di questi meccanismi). Le più grandi aziende del mondo già filtrano i curriculum attraverso il software, il che impedisce alle persone di rivedere alcuni dettagli di potenziali candidati. Come notano i ricercatori, questo fa sì che alcune aziende, come Amazon, seguano determinati pregiudizi indesiderati nelle loro politiche di assunzione e gli algoritmi tendono a essere discriminatori. D'altra parte, l'85% delle transazioni finanziarie sui mercati internazionali sono effettuate esclusivamente tramite algoritmi. E questi algoritmi prendono decisioni basate su meccanismi complessi che non comprendiamo appieno. Si ritiene che la crisi del 2010 chiamata Flash Crash, in cui il Dow Jones è sceso del 9% in pochi minuti, sia stata innescata da algoritmi. Le persone che controllano i mercati e le politiche finanziarie ritengono che le decisioni umane rappresentino un ostacolo all'efficienza del mercato, ma ciò ha dimostrato che gli algoritmi sono imprevedibili. Demetis e Lee concludono:

Mentre nuove frontiere sono delineate tra uomo e tecnologia, dobbiamo riflettere attentamente su dove la nostra estrema dipendenza dal software ci sta portando. Mentre le decisioni umane vengono sostituite da decisioni algoritmiche e diventiamo strumenti le cui vite sono modellate da macchine e le loro conseguenze impensabili, ci stiamo preparando per essere dominati dalla tecnologia. Dobbiamo decidere, mentre possiamo ancora, cosa significhi per noi come individui e come società.

Dobbiamo chiederci se l'umanità non diventerà quel guidatore Uber che sa solo come andare dove gli dice la sua app e smette di sapere come pensare e decidere da solo. La fiducia cieca nell'algoritmo è il peggior fanatismo. Alla fine, tutti i driver Uber verranno sostituiti da robot.