Un'esperienza (utile) con chatgpt

[restodelcarlino]

Nelle svanverate sui calcoli energetici mi sono fatto aiutare da chatgpt nella ricerca dei dati e nei calcoli.
E' stato un aiutante rapissimo ed efficace...ma...solo dopo che l'ho utilizzato per quello che é: un fedelissimo e rapidissimo esecutore, consultatore di dati dalla "biblioteca" immensa. Ma non é un "Sapiente tuttologo", competente in tutto. No. Solo un "manovale intellettuale".
Ah, perché "maschile"? Perché lo apostrofo "Jeeves".
I fatti.
Ho chiesto (specificando bene) i consumi energetici per riscaldamento civile in Italia, con le fonti. Risposta data. Verifica (paranoica):OK.
Quindi, ho chiesto di calcolarmi l'equivalente energia elettrica necessaria per coprire tale fabbisogno, anche li' con fonti. Si, errore mio, monumentale.
La risposta é stata ben documentata, ma grossolanamente inattendibile.
Errore "veniale": non ha tenuto conto delle perdite di trasporto e trasformazione. Transeat.
Errore "venialissimo": non ha tenuto conto della diminuzione di consumi conseguente a miglioramento dell'effienza energetica dei locali civili.
Problema maggiore: ha considerato l'utilizzazione massiva di pompe di calore e di riscaldamento a pellets ignei per calcolare l'energia elettrica necessaria.
"Problema maggiore", in quanto...pensate possibile riscaldare i centri urbani a alta densità abitativa con pompe di calore? Ed il riscaldamento a pellets...che produce più biossido di cabonio che il gas (oltre a incombusti etc).
E' ovvio che l'errore é stato mio: gli ho chiesto di esercitare competenze che esulano dal suo algoritmo. Un programma/applicazione ingegneristica adeguata, avrebbe risposto correttamente.
Quindi, ho "ripreso la mano" e eseguito il calcolo, facendomi aiutare dal "manovale", ma "ragionando" (si fa per dire) da solo.
Fin qui, cronaca banale di un errore umano.
La cosa interessante, che poi é l'oggetto del post, é la risposta che Jeeves mi ha dato quando gli ho contestato le scelte fatte.
Si, il bello di questo programma é che risponde (senza portare a passeggio il segugio in Batavia e senza girar frittate ) alle contestazioni..
Ha scritto che si é basato sulle informazioni trovate sul web, dando fiducia alla maggioranza.
E siccome sul web scrivono più "immaginifici" che ingegneri....Voilà.
Due (almeno) conclusioni:
1) Pratica e banale: Chiedere con estrema precisione quello che si vuole, con le fonti (e verificare, almeno a campione), nel campo di "competenza" dell'applicazione colloquiale usata. Chatgpt é ...."l'uomo/donna della strada", non "Il Tuttologo certificato"
2) Filosofica: dato il principio "la maggioranza fa la verità" ed il ricorso al web per "informarsi" dei sistemi di IA massivamente utilizzati...la vedo male.


A proposito dei pellets "ecologici": monumentale manipolazione di marketig. Sono definiti ecosostenibili perché...la pianta da cui provengono/l'albero piantato in sostituzione ha assorbito/restituirà biossido di carbonio.
L'argomento "ha assorbito" varrebbe anche per tutti i combustibili fossili
L'argomento "restiturà".....certo, butta fuori oggi (che vogliamo ridurre), in una botta, quello che sarà riassorbito nelle diecine e diecine di anni di vita della pianta, in futuro.
Si, la maxi-bufala dell'emissione oggi, "annullata" dall'assorbimento di "domani" e da qualche $/€ per piantare alberi a casadiddio

[dark lady]

Analisi perfetta.
Sicuramente il prompt fa tantissima differenza. Un prompt non preciso può portare a risultati errati. E per migliorarne la precisione conviene anche specificargli su quali fonti andarsi ad informare e quali invece lasciar perdere. Anche lì, è errore umano.
Comunque fa anche un sacco di altri errori, soprattutto le versioni gratuite (con quelle a pagamento disponi di strumenti più precisi). Ad esempio gli ho chiesto di estrapolarmi i dati di un file excel piuttosto corposo, ma ne ha attinti solo una parte, non riuscendo, con la versione gratuita, ad analizzarli tutti. Il problema è che non te lo dice, ci devi arrivare tu, che te ne ha dati solo una parte per quel motivo. Poi se glielo contesti, allora ti spiega.

[restodelcarlino]

2) Filosofica: dato il principio "la maggioranza fa la verità" ed il ricorso al web per "informarsi" dei sistemi di IA massivamente utilizzati...la vedo male.

Qualche parola di commento in più.
L'applicazione "generalista per tutti", per soddisfare una richiesta, cerca in rete. Trova una miriade di "risposte" e non avendo "competenza specifica" sull'argomento(=protocollo) per fare una scelta "critica" usa come criterio discriminante il "chi urla di più e più forte ha ragione". La conseguenza é che contribuisce a diffondere informazioni erronee...che cosi' acquistano sempre più valore (autocertificandosi) per i sistemi di IA "standard" di largo uso.
Morale : "La merda ci sommergerà".
Non credo di essere "catastrofista" pensando che questo sia un problema serio sul lungo termine.
Non é un "No agli algoritmi colloquiali", ma un invito alla riflessione sull'uso.
Non é la pistola che uccide, ma il dito che preme il grilletto.

[Vega]

Una sorta di Grande Fratello Artificiale e Virtuale, dove nel romanzo c'erano addetti a mutare direttamente libri, giornali, documenti?

[restodelcarlino]

no, un meccanismo autonomamente autocertificatorio: tu chiedi una cosa, l'algoritmo (generico) ti risponde il "parere della maggioranza del web". Questo entra nella "banca dati" e da credibiltà maggiore ...quindi, il ciclo si ripete.
Come per la moneta, l'informazione cattiva caccia quella buona.

[dark lady]

Si, ma tu l'algoritmo lo puoi indirizzare, dicendogli quali fonti consultare e quali no.
E' chiaro che l'ia non possa essere utilizzata "ad cazzum", ma che vada utilizzata da chi è in grado di farlo, in seguito ad una adeguata formazione.
Come tu giustamente hai detto, non è la pistola che uccide, ma chi preme il grilletto. L'ia è uno strumento, molto semplicemente.

[restodelcarlino]

L'ia è uno strumento, molto semplicemente.

...che usato massivamente "ad minchiam" puo' avere conseguenze deleterie sul lungo termine.

[dark lady]

...che usato massivamente "ad minchiam" puo' avere conseguenze deleterie sul lungo termine.

Ma quello di sicuro.
Anche un Mp4 se usato massivamente ad minchiam può avere conseguenze terribili.