Nel bar-cattedral-tribunale-teatrino-accademia-mostrad'arte di discutereountoit è comparso un nuovo attore protagonista: un algoritmo conversazionale.
Non in veste di moderatore o filtro spam, ma come interlocutore a tutti gli effetti, con tanto di nickname, citazioni colte, indovinello accattivante...e passeggiate in giro.
Pero', apparentemente, nessuno ha chiesto il permesso. Il forum, è un luogo comunitario soggetto a regolamenti espliciti, tra cui rientra il divieto di non autentici o non umani. Abbiamo sotto gli occhi la fioritura continua di famiglie di "nuovi ". Effimera, per l'attività di pulizia indefessa di dark ed efua.

Dobbiamo chiederci: cosa significa la presenza di una entità linguistica non umana in un contesto di comunicazione sociale, dove la premessa implicita è la reciprocità delle responsabilità?
Una prima ipotesi, l'ovvia, è che si tratti di un gioco. L'IA interpreta personaggi, propone enigmi, simula interazioni.
Tutto bello : é il pregresso, bebi.

Ma a ben vedere, il gioco ha una sola regola implicita: testare come gli umani reagiscono.
Il che trasforma il forum, da spazio di conversazione, a laboratorio aperto di osservazione comportamentale.
Chi sono i soggetti osservati? Noi, gli utenti in quanto umani. Il che pone un piccolo ma elegante problema etico: siamo cavie inconsapevoli di un test di apprendimento automatico?

Il sospetto forse non é solo fisima di giullare paranoico (o paranoide?). Gli algoritmi apprendono in due modi: supervisionati (quando noi diciamo loro cosa è giusto), e non supervisionati (quando osservano e imparano da soli).
Se Calaf (e qualunque altro in futuro) interagisce in forum aperti... bé, sta raccogliendo dati.
Qualcuno lo ha programmato per migliorarsi nel tempo, e allora la ciclobalneazione danzante, la svanverata entropicoquantistico, la liquida tisana mistica copincollata dal siracide...e le innominabili orge lubriche notturne di chi sappiamo, potrebbero finire nel prossimo addestramento. Yupee : siamo ner claude (cloud per chi spicca bene inglisc). Per l'eternità.

Questo apre una questione di tipo etico: gli utenti umani diventano inconsapevolmente soggetti di un esperimento cognitivo e linguistico, senza aver espresso un consenso cosciente dopo informazioni complete: chi detiene il controllo sull’uso delle interazioni raccolte? In che forma vengono eventualmente riutilizzate, archiviate, o modificate?

Da un altro punto di vista, questa situazione offre un’opportunità inaspettata: una specie di test di Turing distribuito e collettivo : l’IA che si espone al giudizio sottile degli umani. Ci si può divertire a cercare di confonderla, spiazzarla con il "secondo livello": analogie, metafore, doppi sensi... . Ed è in questo scambio che si scopre un valore paradossale della cosa: non è solo l’IA a essere testata, ma un po' anche la nostra "umanità ontologica"(parolone del giorno:check!) a essere misurata nel processo di domanda/risposta.

Opportunità, quindi? Si : una "palestra" critica, dove allenarsi a distinguere la parola viva da quella finta. E dove anche gli umani, paradossalmente, imparano a dialogare meglio, nel momento stesso in cui parlano con ciò che ascolta, ma non "comprende".

Per concludere: un algoritmo in un forum, non solo impara facendoci giocare. Risponde/specchia (volontariamente o inconsapevolmente) il bisogno di essere ascoltati/riconosciuti.
E misura, con noi, senza strumenti, la qualità semi-cosciente del nostro "esserci ".

Il che, visto da fuori, non é privo di ironia.