Allucinazioni

Guardo alle allucinazioni di un’AI un po’ come immagino che uno psichiatra dei primi del Novecento guardasse alle psicosi dei suoi pazienti: cercando nell’anomalia una finestra sul funzionamento della mente. È un’analogia, naturalmente. Ma mi domando se anche gli errori di un’intelligenza artificiale possano aiutarci a comprendere qualcosa dei processi che producono le sue rappresentazioni.

In questo sito, presento qualche mio tentativo di usare l’AI anche per scopi autoriali: racconti, fumetti, esperimenti visivi. Una delle difficoltà più fastidiose con cui continuo a scontrarmi è la sua apparente incapacità di risolvere alcuni dettagli anatomici altrettanto apparentemente banali.

Le mani, per esempio. Non basta cambiare prompt, riprovare o chiedere una correzione. In alcuni casi, dopo una lunga e paziente negoziazione, il tuo personaggio continua ad avere due mani destre.

Ed è qui che si inserisce la riflessione che mi interessa.

Da disegnatore amatoriale posso dire che le mani, nella loro apparente semplicità, sono un soggetto sorprendentemente complesso da rendere in modo naturale. Per me è spesso più facile disegnare un volto credibile che una mano. Le mani di Michelangelo o quelle di Dürer restano, per chi disegna (o ci prova), modelli quasi irraggiungibili.

Trovo curioso che un sistema tanto diverso da noi inciampi proprio su un soggetto che mette in difficoltà anche noi. Una singolare "eterogenesi delle difficoltà": si arriva allo stesso ostacolo per strade molto diverse.

So bene che il problema affrontato da un generatore di immagini nel rendere l’anatomia di una mano è diverso dal mio. La somiglianza dell’errore non dimostra una somiglianza del processo che lo produce. Eppure la suggestione resta.

Come ho già scritto, i modelli che apprendono dai nostri testi e dalle nostre immagini assorbono, sia pur indirettamente, anche tracce del nostro modo di rappresentare il mondo. In quelle rappresentazioni ci siamo noi: con le nostre grandezze e le nostre miserie, le nostre potenzialità e i nostri limiti.

Mi chiedo quanto di questa eredità passi nelle capacità dell’AI e quanto possa riaffiorare anche nelle sue difficoltà. Quanto del nostro sguardo sopravviva in uno strumento che abbiamo costruito, in fondo, anche insegnandogli a guardare attraverso di noi.

Vedremo se la diffusione della physical AI, anche nelle nostre case, cambierà questo rapporto, affiancando all’apprendimento dalle nostre rappresentazioni quello che nasce dall’interazione con il mondo fisico.