Intelligenza artificiale: un pericolo?

Si dice che il 2019 sarà l'anno dell'intelligenza artificiale, e la rivista del Mit ne parla come di qualcosa di potenzialmente rischioso. Tutti abbiamo visto i film in cui fantomatici computer prendevano il sopravvento sull'uomo e fortunatamente restano fantascienza, ma quanto davvero può essere rischiosa l'intelligenza artificiale: cosa ne pensate?

2019 anno dell'intelligenza artificiale, ecco i rischi
Da incidenti auto autonome a video fake e influenza su elezioni

Un futuro in cui le intelligenze artificiali (AI) prendono il sopravvento sull'uomo è ancora lontano, ma la loro sempre maggior diffusione in questi ultimi anni le rendono comunque pericolose, soprattutto per l'uso che se ne può fare. A mettere in fila i sei rischi principali è stata la rivista del Mit, che richiama a un maggior controllo sulle applicazioni e nuove tecnologie.
"Le ultime applicazioni dell'AI sono eccellenti in compiti 'percettivi' come classificare immagini e trascrivere discorsi - si legge sulla rivista -, ma il battage dovuto a queste nuove capacità ci hanno fatto dimenticare quanto siamo lontani dal costruire macchine intelligenti quanto noi".
I rischi paventati dagli esperti derivano da problemi già visti nel 2018, che potrebbero ripetersi in misura maggiore. Il primo pericolo citato riguarda proprio le auto autonome, con un prototipo che già nel 2018 ha causato un incidente mortale, problema che potrebbe ripetersi dato il boom di sperimentazioni in corso. Un altro rischio è che le intelligenze artificiali influenzino il risultato di elezioni politiche nel mondo attraverso i bot, algoritmi addestrati a 'usare' i social.
Questo potrebbe avvenire in paesi con scadenze elettorali quest'anno come la Nigeria, ma può succedere anche negli Usa.
"La lunga corsa verso le presidenziali del 2020 è già iniziata - spiegano gli esperti del Mit -, e potrebbe ispirare nuovi tipi di tecnologie per la disinformazione". Altro settore molto delicato da tenere d'occhio nel 2019 è quello del riconoscimento facciale, già usato da diverse polizie, che può portare a grandi violazioni della privacy.
Quest'anno si tornerà sicuramente poi a parlare delle armi autonome, di cui l'Onu dovrebbe varare un bando ufficiale ma su cui la ricerca è molto attiva, nonostante sia sorto un movimento di lavoratori del settore contrario alle applicazioni belliche.
Da tenere in considerazione sono anche i cosiddetti 'deep fake', video fasulli, spesso pornografici, creati con l'intelligenza artificiale, talmente perfetti da sembrare veri, che potrebbero coinvolgere personaggi famosi. "Quest'anno saranno varati programmi in grado di riconoscerli - spiegano gli esperti -, ma essendo basati anche loro sull'intelligenza artificiale sarà un po' un gioco del gatto col topo". Attenzione infine alle discriminazioni di razza e genere intrinseche negli algoritmi, che è emersa da diversi studi, e che può creare problemi ad esempio se l'AI si usa per le selezioni per un posto di lavoro.

FONTE: ANSA.IT
http://www.ansa.it/sito/notizie/tecn...2acd4d9f9.html

Il problema, finché non arriveremo agli Hal 9000, ai Terminator o agli Uomini Bicentenari, sono e saranno i bipedi umani dietro l'informatica, l'uso e le decisioni che prendono.

A me sembra che il pericolo sia giá presente.
Societá assicurative, Societá finanziarie, Fondi di investimento usano programmi ad hoc che reagiscono al corso delle Borse per ordinare, senza ulteriori controlli, l'acquisto o la vendita delle azioni e hanno giá causato in passato veri e propri sold out con considerevoli scivoloni che i nervi saldi di un esperto operatore di borsa avrebbero evitato.
Non oso pensare cosa un computer nei sotterranei del Pentagono o del Cremlino possa causare quando una serie di informazioni incrociate lo porta a decidere che il "nemico" si sta armando oltre i parametri della norma scritti nella sua memoria.

Citazione:

---

Originariamente Scritto da Vega

Il problema, finché non arriveremo agli Hal 9000, ai Terminator o agli Uomini Bicentenari, sono e saranno i bipedi umani dietro l'informatica, l'uso e le decisioni che prendono.

---

nel film Interstellar sulla base spaziale un astronauta della missione chiede ad Hal 18000 :
" Hal ! Jane e Paul sono intimi?"
>"non posso risponderle a questa domanda signore"
"ma come,tu sei programmato a rispondermi su tutto"
>" sono anche programmato a non dare risposte sulla privacy":asd:
tié

Magari l'umanità si estingue grazie a loro e ci risolvono i problemi.
Un cambio ci vuole, dai.

qualcuno saprebbe consigliarmi un buon libro sulla storia dell'informatica leggibile anche da un profano?

Ci abitueremo gradualmente, come abbiamo fatto finora all'introduzione di nuove tecnologie. Il problema forse è solo che siamo diventati un po' lenti, o meglio che i cambiamenti portati dalle tecnologie sono più veloci della nostra capacità di adattamento. Stiamo ancora a dover capire come gestire bene internet...

Gestire internet? Non mi sembra di vederne né gli sforzi né un'inclinazione della natura umana in tal senso, per pensare a una cosa del genere anche in un futuro.

Oddio spero che a forza di sbatterci la testa qualcosa si imparerà, una gestione ottimale certo non sarà mai possibile. Se pensi che siamo al mondo da migliaia di anni e ancora combiniamo gli stessi casini di sempre...

dunque anno 2019 I.A. , stiamo mettendo a punto i prossimi tv casalinghi con l'IA , ti ascoltano memorizzano le tue preferenze chi sei cosa fai e ti proporanno la cosa migliore al mometo giusto per te , siamo osservati ascoltati e con gli smartphone localizzati e un grosso cervellone dotato di neuroni artificiali negli usa sa ogni cosa di noi . Serve a districarci tra i mille impegni e mille cose , ci aiuterà prenderà il sopravvento su di noi..nun se sa..l'alternativa ritornare al medioevo , il progresso è anche questo

credo che la nostra civiltà sia arrivata a un punto morto, solo che la situazione è talmente ingarbugliata che sgarbugliarla con gli stessi mezzi che ci hanno portato fin qui è forse impossibile, indi ci vorrebbe qualche nuova idea, o qualche scoperta (mi riferisco al mondo interiore più che a quello esteriore)