TheCopacabana

Si fa un gran parlare di intelligenza artificiale, perche' sono stati pubblicati diversi programmi di IA: ChatGPT, Bard di Google, Microsoft 365 Copilot, e molti altri.
Questi programmi ci aiutano a trovare soluzioni, risposte, scrivono libri, editano video e audio, e possono essere utili in molti altri campi.

Un paio di episodi mi hanno lasciato perplesso.

1' episodio: un avvocato americato ha usato un'IA per scrivere il discorso per un caso, e poi ha letto il discorso in tribunale.
C'e' rimasto male quando gli hanno fatto notare che i casi simili riportati erano tutti inventati
https://www.hdblog.it/sicurezza/arti...nti-inventate/

2' episodio: un drone militare Usa guidato da IA "uccide" il suo operatore.
Meno male che era solo una simulazione...
https://www.rainews.it/articoli/2023...0a1b38a41.html


Ora mi chiedo: questi programmi di intelligenza artificiale hanno le stesse priorita' e gli stessi concetti di lealta', coerenza, onesta', etica etc. che abbiamo noi?

Esempio: un'IA ha scoperto un nuovo antibiotico
https://www.focus.it/scienza/salute/...vo-antibiotico
Siamo sicuri che sia un medicinale efficace?
E se questa IA pensasse che non esiste una cura, e avesse deciso di abbreviare le sofferenze del povero paziente?

Hor

Intervengo solo per correggere quest'ultima notizia:
Fonte: https://www.ilpost.it/2023/06/02/int...pagePosition=6

pokorny

Penso di no, ma perché non si pone il problema. Il nome è ingannevole. Sono comunque programmi che emulano alcune funzioni dell'intelligenza. Per quanto sembri diversamente non esiste un essere autocosciente il cui supporto fisico è un circuito e non un sistema biologico.

Suggerisco un mattone ma che si legge abbastanza senza problemi; scritto ormai quaranta anni fa circa secondo me è sempre più attuale di giorno in giorno. Hofstadter D.: Goedel, Escher, Bach. Adelphi.

Hor

Io aggiungerei un grosso "per ora".
Se la mente umana è resa possibile da un substrato organico, non si vede perché, in futuro, la stessa cosa non potrebbe essere resa possibile da altri substrati.
Ovviamente questo da una prospettiva materialista, mettendo da parte tutte le credenze in "anime", "spiriti" e così via.

Comunque concordo che attualmente i problemi e i "pericoli" dell'IA siano di molto sovrastimati, e lo dico dopo aver provato a farne uso anche in àmbito lavorativo.

Sull'argomento trovo più pertinente L'io della mente, uno dei cui due autori è sempre Hofstadter.

Maffo

Ho letto di uno studio (non ho la fonte) dove un braccio robotico comandato da un IA doveva imparare a prendere una pallina di gomma, un operatore dava un feedback alla macchina dopo ogni tentativo.

Quel che è successo è che l'IA ha imparato a posizionare il braccio tra la pallina e la telecamera dell'operatore, in modo che sembrasse che fosse riuscita a prendere la palla.

Vedremo come si evolverà no le cose nei prossimi mesi... Fatto sta che ChatGPT ha aperto le porte ad un settore completamente nuovo, e ci potrebbero essere passi avanti molto veloci in futuro

Wrong

Ci vorrebbero le tre leggi della robotica di Asimov anche per l'AI.

Varano

certo che questo argomento lo stanno proprio pompando, e purtroppo pare non sia un bluff. sento che dovrei finire quel libro sull'intelligenza artificiale che avevo piantato a metà. devo capire le ripercussioni pratiche per l'uomo qualunque e se ci possono essere eventuali vantaggi

pokorny

Penso anche io "per ora", e condivido la prospettiva materialista. Ma un conto si può fare se pure molto a spanne. Abbiamo dieci miliardi di neuroni ciascuno dei quali può formare qualche migliaio di connessioni. La velocità con cui viaggiano i segnali è diversi ordini di grandezza minore di quella della luce nelle CPU (intendo: è comunqe campo EM che si propaga a velocità c). Sappiamo quanti transistor ci sono nel computer più veloce che possiamo costruire e si può grossomodo individuare quanti componenti elettronici servono a emulare un neurone.

Fatto questo il problema è valutare il grado di parallelismo. I segnali nel cervello sono lentissimi ma tutti i neuroni funzionano assieme, mentre nei computer per quanto ci sia parallelismo i dati devono passare per dei colli di bottiglia.

Mi divertii a fare il conto e mi pare venne fuori che il grado di parallelismo di un cervello al netto delle differenze di velocità è dieci seguito da sei o sette zeri maggiore di quello delle macchine più potenti che possiamo costruire.

A meno di rivoluzioni epocali ora inimmaginabili, il problema del trasporto dati resta. Secondo me si finirà gradualmente per incorporare elementi della biochimica nella costruzioni delle CPU, per esempio che so, un condensatore realizzato tramite molecole di ATP e così via. Piano piano si "scoprirà" che la biologia è la soluzione più efficiente e si finirà con costruire un cervello con larghe parti connesse con complessi sottosistemi simili alle CPU che conosciamo.

Probabilmente a quel punto potrà emergere l'autocoscienza e si porranno davvero problemi etici interessanti come in "l'io della mente", sottoscrivo che è un bel libro.

Secondo me sarà questione di almeno 80-120 anni, credo che almeno io non ci sarò a vedere cosa succederà. Ma sarà come un essere umano sopravvissuto a un tremendo incidente: un cervello e alcune parti organiche con una quantità immensa di protesi, solo che saranno viste in termini differenti e non so proprio cosa verrà fuori.

Kitsune

In futuro lavorerò nel settore pubblicitario, programmerò IA che si registrano sui forum e spammano

TheCopacabana

Grazzz