La sicurezza va integrata fin dall'inizio della progettazione.
Un’analisi riflette su chi governa lo sviluppo dell’intelligenza artificiale.
I problemi
- La tecnologia corre più veloce della capacità di valutarne gli effetti.
- Il potere decisionale è concentrato nelle grandi aziende tecnologiche.
- Queste rispondono prima agli azionisti che al bene comune.
- Nella competizione, la sicurezza rischia di essere vista come un ostacolo.
Gli agenti autonomi
- l’IA agisce da sola per raggiungere obiettivi;
- rischi se gli obiettivi sono mal definiti;
- possibili percorsi imprevisti o usi dannosi;
- nessuna comprensione morale delle conseguenze.
Le proposte
- sicurezza in tutta la fase di progettazione;
- regole condivise;
- forme di controllo distribuite.
