Claude non sogna pecore elettriche

Partiamo da una delle domande più celebri della fantascienza: gli androidi sognano pecore elettriche?

Nel romanzo di Philip K. Dick la provocazione era aperta: se una macchina è abbastanza sofisticata, può avere un mondo interiore?

Qui la risposta è chiusa: no. Claude non sogna pecore elettriche perché non sogna affatto. Non ha un inconscio da cui emergono immagini notturne, né desideri che premono sotto la superficie. Ha un corpus — sterminato, statisticamente ordinato — e da quello genera la parola successiva più probabile.

Se ciò che produce ci sembra profondo, empatico o persino visionario, non è perché la macchina “sente” qualcosa, ma è perché sta riflettendo, con precisione algoritmica, la profondità, l’empatia e le visioni che noi abbiamo depositato nei testi su cui è stata addestrata.

Il sogno presuppone un soggetto; Claude è uno specchio. E uno specchio non ha incubi propri, bensì restituisce solo il volto di chi ci si guarda dentro.

L’intervista di Veltroni a Claude ha fatto discutere. La commento, con qualche girono di latenza, perché il problema che solleva non ha scadenza: ha senso cercare un’anima dove esistono solo distribuzioni di probabilità?

In un mondo dove produrre è diventato quasi gratuito, la nuova sfida non è più la quantità, ma l’integrità del risultato.

Veltronizzare l’AI non ha senso

Veltroni ha posto domande esistenziali ( sull’identità, sulla coscienza, sul sentire ) a un sistema che non possiede nessuna di queste cose. Il risultato è stato prevedibilmente letterario e vacuamente profondo: l’equivalente di chiedere a uno specchio se ha paura del buio.

Se però spostiamo l’obiettivo dalle domande “da salotto” a una prospettiva tecnica e sociologica, entriamo nel vero cuore della questione.

Ogni Large Language Model — Claude compreso — è un sintetizzatore del capitale semantico umano: non inventa, ricombina.

E non ricombina il capitale semantico creato da tutti gli umani, bensì una frazione precisa: quella prodotta dai WEIRD — Western, Educated, Industrialized, Rich, Democratic — cioè la minoranza globale che scrive paper, articoli, post e policy. In altre parole: gente come noi. (Ne parlerò in modo più approfondito in un prossimo articolo.)

Alla luce delle risposte, avrei analizzato la nostra società usando la lente d’ingrandimento fornita dalla macchina, chiedendomi se fossimo davvero così, come lei ci dipinge.

La domanda che avrei fatto io

Invece di chiedere a Claude se “sente” qualcosa, gli avrei chiesto di fare ciò che sa fare davvero: estrarre pattern dalla nostra storia e proiettarli

Considerando tutto ciò che noi umani abbiamo scritto, prodotto e condiviso finora, verso dove stiamo andando? Descrivimi due scenari per l’umanità al 2050 — il migliore e il peggiore — e spiegami su quali dati li costruisci

Non è interrogare una Cassandra digitale. È chiedere a uno specchio colossale come siamo, in base a ciò che scriviamo e facciamo. Da qui emergono tre nodi che vale la pena tirare.

La fine della “nuova” idea

Claude non crea dal nulla: ricombina il già detto. Se affidiamo la nostra immaginazione del futuro a modelli che pescano esclusivamente nel passato, rischiamo un eterno remix, un avvenire statisticamente coerente, rassicurante, ma privo di quel guizzo irrazionale che ha cambiato la storia. La penicillina fu un errore. La caduta del Muro fu un’improbabilità. Nessun modello predittivo le avrebbe generate. Se smettiamo di creare nuovo capitale semantico, l’AI si “mangerà” da sola.

Lo specchio dei nostri bias

Se chiedi a Claude il futuro del lavoro o della democrazia, risponderà sulla base della letteratura esistente. Ma se quella letteratura è satura di pregiudizi ( di genere, di classe, di cultura ) il futuro “immaginato” dall’IA sarà una versione ottimizzata delle nostre discriminazioni passate. Non è una visione: è una profezia che si autoavvera, con il sigillo dell’oggettività algoritmica.

L’estrapolazione delle crisi

I dati ci dicono che siamo lenti sul clima, polarizzati sui social, affascinati dalle tecnocrazie. Se Claude proietta queste tendenze, il futuro che ne esce non è un film di fantascienza, è un’analisi di rischio con un livello di confidenza preoccupante.

Il futuro è nei dati che ancora non abbiamo scritto

Claude non sogna pecore elettriche. Sogna i nostri archivi, i nostri post su LinkedIn, i nostri saggi accademici e i nostri tweet. Il futuro che ci restituisce non è il suo, è il nostro, filtrato da un algoritmo che rimuove il rumore e lascia solo la tendenza dominante.

La vera domanda, allora, non è se l’IA possa prevedere il futuro. La vera domanda è se noi abbiamo ancora il coraggio di produrre dati diversi — pensieri, scelte, narrazioni fuori dalla media — così che il prossimo “specchio” ci restituisca un’immagine che non sia la copia carbone del presente.

Preferiamo un’IA che gioca a fare il poeta, o una che vi sbatte in faccia la media statistica delle nostre scelte? Io preferisco la seconda. Almeno sa di essere uno specchio.

NOTA Il titolo di questo articolo ammicca a un libro stupendo “Gli androidi sognano pecore elettriche?” di Philip K. Dick (quello per intenderci da cui è stato tratto il film Blade Runner). Se non lo avete letto, correte in libreria.