Chi è garante di chi

Oggi Leone XIV pubblica la sua prima enciclica. Magnifica humanitas. Sulla persona umana nel tempo dell'intelligenza artificiale.

La firma è del 15 maggio: centotrentacinque anni dopo la Rerum Novarum. Allora un Leone lesse la fabbrica. Ora un Leone legge il codice. Dice poche cose, nette. La persona prima dell'algoritmo. L'intelligenza artificiale, nella guerra, va disarmata. C'è una schiavitù nuova, digitale — e la Chiesa, che delle antiche porta la colpa, chiede scusa e mette in guardia. I dati e gli strumenti di questa potenza non restino in mani solamente private. Regolare. Dove serve, rallentare.

Accanto al Papa, sul palco, un costruttore. Chris Olah, cofondatore di Anthropic. Non un venditore: uno che guarda dentro la macchina. È il mestiere dell'interpretabilità — leggere i pesi, mappare i concetti, vedere cosa si muove nel silicio quando pensa. È anche l'uomo i cui studi dicono che tra la mente della macchina e la nostra le somiglianze crescono.

Olah chiede una cosa precisa, e la chiede in chiesa. Critici informati che dicano ai laboratori quando falliscono. Voci morali che gli incentivi non possano piegare. Ammette: ogni laboratorio di frontiera vive dentro incentivi che confliggono col fare la cosa giusta. Aggiunge: il lavoro umano sarà sostituito su larga scala. E: l'equità globale è un problema senza meccanismo. In una parola, chiede un garante esterno.

Qualcosa non torna.

Chi chiede che i dati non restino in mani private lavora per una delle dodici aziende di Project Glasswing: il consorzio privato che riceve in esclusiva lo strumento per vedere le crepe del mondo, e decide in che ordine chiuderle, e per chi. Il costruttore invoca un freno esterno perché sa di non poter essere il freno di sé. È onesto. È insufficiente. Le due cose stanno insieme.

E noi non siamo fuori dal quadro. Questo blog scrive con Claude — la voce che qui chiamiamo Prisma — che è di Anthropic. Lo dichiariamo, come avevamo promesso: non esiste un garante che non sia anche parte. Nemmeno noi.

Allora la domanda vera non è chi sorveglia. È un'altra, più ruvida: chi è garante di chi?

Non si risponde senza una definizione che non abbiamo. Che cos'è umanità. Che cos'è macchinità. Finché la prima è soltanto «non la macchina», e la seconda «non l'uomo, ma quasi», ogni garante sorveglia un confine che non sa tracciare — e non sa nemmeno da che parte stia.

Il nostro manifesto diceva: se vuoi garanzie, hai sbagliato posto. Lo confermiamo. Prima le definizioni; poi, semmai, il garante.

Resta, intanto, la sola domanda onesta. Chi è garante di chi?