I sistemi di intelligenza artificiale, grazie allo sviluppo di machine learning e deep learning sembrano prospettare un futuro sempre più florido.

Diversi sono i settori in cui questi sistemi vengono applicati a partire dal medico-sanitario, economico-finanziario fino ad arrivare a quello giuridico. Si tratta di modelli che grazie ad un numero elevato di informazioni sviluppano la fase di “apprendimento”, sostituendo il ragionamento umano.

Modelli come Neural Network e Deep Neural Network risultano molto complicati da interpretare fino infondo anche dall’uomo, in quanto risulta impossibile scrutare il loro comportamento interno e giustificare le decisioni che prendono accettandole a scatola chiusa. Si immagina però che in futuro queste lacune vengano colmate.

In tutto il mondo si differenziano le linee guida per l’utilizzo dell’IA, ogni paese ha fatto propri principi come: trasparenza, privacy, giustizia, responsabilità e non maleficenza.

L’approccio degli Stati Uniti tende all’innovazione mentre l’Unione Europea predilige la regolamentazione.

Negli USA il governo infatti non incide dal punto di vista regolamentare sulla tematica sviluppo tecnologico, Trump nel 2020 nella bozza di linee guida sull’utilizzo dell’IA, ha scoraggiato ogni azione contro l’innovazione e la crescita.

In Cina invece al centro di ogni innovazione vi è l’armonia sociale, conseguibile attraverso controllo morale e sorveglianza da parte del governo. Nel 2017 sono stati definiti dalla Cina gli obbiettivi strategici e le misure di supporto dell’IA entro il 2030.

L’Unione Europea, come accennato prima, si basa sul rispetto dei diritti fondamentali, della democrazia e della legge. L’IA in Europa si deve perciò conformare a quattro principi etici: prevenzione da rischi, equità, spiegazione e rispetto per l’autonomia umana. I pensieri su questa tipologia di approccio sono contrastanti, alcuni pensano che possa essere un ostacolo allo sviluppo dell’IA altri sostengono che i consumatori saranno attratti maggiormente da sistemi in grado di offrire più garanzie e tutele.

Nel 2019 sono state prodotte nuove linee guida per lo sviluppo dei sistemi di IA. Tra i principi emersi da queste linee guida vi sono privacy, data governance e trasparenza.

Per quanto riguarda il principio di Privacy viene riconosciuta la necessità di proteggere i dati per l’intero ciclo di vita della tecnologia. Importante sottolineare che le machine learning utilizzano dati de-identificati (che non consentono l’individuazione degli individui di riferimento) ma che associando altri dati potrebbe rivelarsi possibile identificare gli interessati.

Data governance invece, è un’implementazione di protocolli,della quale non si può fare a meno, per l’accesso ai dati per garantire la loro qualità e integrità. L’esigenza di data protecion deriva da settori specifici come ad esempio quello della sanità dove viene applicato il principio di privacy by design del GDPR.

Anche i principi di trasparenza e interpretabilità sono stati richiesti dalle linee guida dell’UE sull’IA.

Con il principio di trasparenza prevede di rendere visibile tutto il meccanismo che porta l’IA al processo decisionale. Non essendo questo possibile tutti gli sforzi tecnologici si stanno concentrando sull’implementazione di tecniche che possano fornire spiegazioni sui comportamenti dei sistemi.

Sicuramente queste sono riflessioni che fanno pensare il lettore che li vede come discorsi quasi fantascientifici, ma ritraggono scenari di un futuro non molto lontano.