dati vicarianti

Data Scientist: il Giuramento per chi fa gli algoritmi

Data Scientist: il Giuramento per chi fa gli algoritmi

La figura del Data Scientist – in estrema sintesi, chi ha le competenze necessarie per analizzare ed interpretare i Big Data – assume un ruolo centrale nella definizione dei modelli di business delle aziende.

Soprattutto se le aziende hanno la possibilità di investire per trasformare la propria attività verso quei famosi processi di digitalizzazione tanto discussi in questi anni.

A maggior ragione, se da un lato gli algoritmi “giusti” su cui si basano sempre più le attività online sono fondamentali per fare profitti, dall’altro sarà decisivo capire cosa fare anche dal punto di vista dell’etica professionale.

Sono sempre più gli ambiti di lavoro (e non solo) in cui i modelli matematici definiscono il destino di molte decisioni imprenditoriali.

Dalla selezione del personale ai finanziamenti bancari, dalla sicurezza nazionale alla salute, passando per i luoghi di lavoro, i social network e i motori di ricerca, ormai non esiste software che non riesca a gestire quantità di dati enormi in tempi davvero da record rispetto al lavoro umano.

Ok, ma a quale prezzo?

Per provare a iniziare a disciplinare il ruolo dei Data Scientist, sarebbe opportuno fissare delle regole sulla gestione non tanto del Data Scientist quanto degli algoritmi utili per fare impresa o gestire parte delle nostre vite.

Un esempio concreto esiste, in tal senso. Dopo la crisi finanziaria del 2008, Emanuel Derman e Paul Wilmott, due ingegneri finanziari statunitensi, nel 2009 hanno scritto una sorta di Giuramento di Ippocrate per i Data Scientist con i seguenti impegni:

  • Mi ricorderò che non ho fatto io il mondo, e che non soddisfa le mie equazioni.
  • Pur utilizzando i modelli in maniera spregiudicata per stimare il valore, non mi lascerò troppo impressionare dalla matematica.
  • Non sacrificherò mai la realtà all’eleganza senza spiegarne le ragioni.
  • Né darò alle persone che utilizzano il mio modello false rassicurazioni circa la sua accuratezza. Al contrario, renderò espliciti i presupposti su cui si basa e i suoi errori.
  • Prendo atto che il mio lavoro potrebbe produrre effetti dirompenti sulla società e l’economia, molti dei quali vanno oltre la mia comprensione.

È vero che l’Italia – e l’Europa più in generale – ha delle norme sull’utilizzo dei dati (online e offline) più rigide rispetto a Paesi come gli Stati Uniti d’America, dove, nonostante alcune leggi restrittive, i pericoli di discriminazione, di ingiustizie e di disuguaglianze tramite algoritmi sono sempre dietro l’angolo.

Tuttavia, si impone una riflessione almeno sulla tenuta dei dati da parte delle aziende, sulla portabilità di tali dati da una piattaforma all’altra, sulla possibilità dei singoli utenti del web di poter intervenire per modificarli, sulla collocazione geografica dei server che li gestiscono.

Ci sarà sempre più bisogno di rendere più giusto un algoritmo, aldilà della provenienza, con un costante monitoraggio e miglioramento per evitare che i proxy data – i dati vicarianti, approssimativi o inadeguati usati se un dato manca – influiscano negativamente sulla vita delle persone.