Gli LLM hanno riaperto una domanda antica in una forma nuova: quando un sistema produce un discorso coerente, pertinente e capace di sviluppare conseguenze inattese, sta semplicemente — e ciecamente — manipolando simboli, oppure sta generando nuovi significati?
Con il celebre esperimento mentale della Chinese Room, Searle sosteneva che un sistema di intelligenza artificiale possa produrre risposte linguisticamente impeccabili seguendo regole di manipolazione dei simboli, senza per questo comprenderne il significato. Ma l’esperimento precede l’avvento degli LLM, che ci pongono ormai davanti alla straniante impressione di interagire con entità dotati di una qualche capacità agentica. Una linea di ricerca più recente suggerisce allora una distinzione intrigante: un LLM, pur privo di esperienza fenomenica, potrebbe comprendere nel senso più circoscritto di essere sensibile alle strutture di significato e di operare coerentemente al loro interno.
Non è un esito del tutto estraneo alla tradizione filosofica. Hobbes descriveva il ragionamento come computatio; Leibniz immaginava un linguaggio universale e un calcolo capace di rendere esplicite le relazioni tra i concetti. C'è tuttavia una differenza decisiva rispetto a quelle riflessioni: dedurre conseguenze già implicite in un sistema non equivale ancora a generare una nuova articolazione semantica.
Da queste considerazioni è nata una proposta di ricerca, nella quale suggerisco un disegno sperimentale basato su quelle che ho definito synthetic jurisdictions: ordinamenti giuridici artificiali, costruiti per verificare se un LLM riesca non solo ad applicare regole date, ma a introdurre distinzioni semanticamente nuove, capaci di organizzare e risolvere casi ulteriori.
La versione completa è disponibile qui: https://philsci-archive.pitt.edu/30913/.
Commenti, come sempre, benvenuti.