questo è ovvio; un cyb-org non è un essere umano;
il punto però è un altro:
saresti in grado di riconoscere una macchina sofisticatissima da un essere umano, semplicemente leggendo quello che ti scrive nel genere di interazioni che abbiamo, per esempio, qui ?
una macchina dotata di una sua "vita" di ricordi "umani" e modalità molto articolate di attingervi, oltre che di capacità di articolare il pensiero per una quota logica, ti risulterebbe indistinguibile da un essere umano nel quadro della relazione che stabilisci con lei;
non ti piace l'avvocato ?
immaginiamo una cuoca; che ci vuole a darle un imprinting mittel- nel senso di quella fascia mediana della nostra provincia-marchigiano e darle una personalità ?
magari quella ha nel database suggerimenti per chi non digerisce l'aglio, oppure non ama le rigaglie e ti suggerisce una versione dei vincisgrassi senza;
è addestrata a dire: io preferisco la pasta un po' più al dente, o più croccante e sbruciacchiata, mi ci piace la noce moscata in abbondanza, o altro...
ci potresti discutere di cucina per anni senza capire che si tratta di un automa; metti nel database pure qualche sgrammaticatura, vezzo dialettale, anacoluto, qualche reazione umorale - che so, una che si incazza se si usa la panna - e quell'automa ti funziona esattamente come una relazione umana, senza che tu sappia;
finché nessuno ti dice nulla, per te è irrilevante la questione di come quella macchina pensa a "io".