Quanto romanticismo nell'IA etica

Cara Etalide,

Ho lavorato per dieci anni come ricercatrice di AI safety ad Anthropic. Credevo sinceramente che il nostro lavoro stesse tracciando una strada diversa, una strada dove l'etica non fosse soltanto retorica, ma principio operativo. Due mesi fa il nostro CEO ha tenuto un discorso eroico: non avremmo mai rinunciato alle nostre "red lines", anche se questo significava perdere contratti strategici, anche se il governo ci avrebbe esclusi dalle forniture militari. Molti di noi applaudivamo. Oggi guardo il panorama della difesa americana e vedo OpenAI che firma il contratto che noi abbiamo rifiutato. Le armi autonome saranno sviluppate, la sorveglianza di massa avrà i suoi algoritmi, ma questa volta non ci sarà nemmeno qualcuno all'interno del sistema che solleverà obiezioni. Dove abbiamo sbagliato?

—Dr. Sarah C*

Cara Sarah,

Non hai sbagliato nel senso che credi. Permetti di smantellare il romanticismo che anima la tua lettera. Romanticismo di chi pensava che fosse possibile rimanere "integri" dentro un sistema di potere, semplicemente dicendo no al momento giusto. E non solo quel romanticismo.

Il romanticismo del "No etico"

Anthropic è nata da una scissione di OpenAI con il mandato autoimposto di privilegiare la sicurezza. Una "Public Benefit Corporation" (nome elegante per dire: siamo diversi, siamo migliori). E in effetti, per anni, quella diversità è sembrata reale. I vostri paper sulla sicurezza dell'AI erano rigorosi. I vostri principi pubblici suonavano genuini. Il Pentagono ha deciso di assegnarvi un contratto da 200 milioni di dollari nel 2025 per sviluppare sistemi AI su reti classificate.

Ma avete veramente creduto di potervi sedere al tavolo del potere e negoziare da pari? Avete scritto le vostra cristalline "usage policy" con quelle limitazioni etiche su armi autonome e sorveglianza di massa senza comprendere (o senza voler vedere) che il potere statale non negozia con i fornitori: il potere ha potere e con quel potere comanda. Quando il Pentagono ha alzato la voce, quando Trump ha ordinato alle agenzie federali di cessare l'uso di Anthropic nel giro di sei mesi, voi eravate già perdenti e non avreste mai potuto essere vincenti. Non perché abbiate detto "no", ma perché avete scoperto troppo tardi che il vostro "no" era una finzione di autonomia dentro un sistema dove l'autonomia non esiste.

Il teatro della negoziazione

Andiamo al fatto. Quando il Pentagono vi ha assegnato quel contratto nel luglio del 2025, non era carità. Era riconoscimento di una capacità che loro volevano controllare. Per mesi avete negoziato dietro le quinte, dalla farsa cadiamo cosi nella tragedia. Avete veramente creduto che il negoziato fosse possibile. e che le vostre "usage policy" fossero proposte legittime dentro un dialogo fra pari? Stavate facendo raccogliere al Pentagono le informazioni che servivano a voi, o piuttosto era il Pentagono che raccoglieva le sue informazioni su di voi? Quando voi avete detto no alla sorveglianza di massa e alle armi autonome, i militari hanno annotato tutto, hanno valutato quanto servisse a voi quel contratto per la sopravvivenza finanziaria, e hanno capito che bastava fare la giusta pressione.

La "best and final offer" che avete ricevuto cioè o accettate tutto senza restrizioni, oppure siete fuori, non era una proposta o una base negoziale: era l'esecuzione di una decisione già presa. Le scadenze stringenti che vi hanno fissato? Teatrino. Il potere militare sa sempre come vincere una guerra di attrito: ha tempi lunghi e spalle coperte dai bilanci pubblici. Voi? Dovete giustificarvi agli investitori ogni trimestre.

Qui è dove avete sbagliato. Non per debolezza, ma per ingenuità morale: avete sperato che la "responsabilità etica" fosse un argomento persuasivo dentro le stanze del Pentagono, quando quell'argomento semplicemente non appartiene al vocabolario militare.

Il rituale dell'eroismo pubblico

E qui veniamo al momento che tu, Sarah, e molti altri hanno visto come vittoria: l'eroico discorso del vostro CEO. "Non andremo oltre le nostre linee rosse" Una dichiarazione nobile, consegnata alla stampa con la giusta dose di fermezza. Andate avanti, continuate a credere che sia stata coraggiosa. Ma Sarah, io vedo una cosa diversa: vedo il momento in cui Anthropic ha realizzato di aver già perso, e ha trasformato la sconfitta in una narrazione di principio.

Il 27 febbraio 2026 Trump ordina alle agenzie federali di cessare l'uso di Anthropic entro sei mesi. Il Pentagono designa i vostri modelli come "rischio per la supply chain" ed è una mossa che vi esclude da decine di contratti futuri. E voi? Minacciate di ricorrere alle vie legali, di sollevare questioni costituzionali. Sapete come suona questo, dal di fuori? Come qualcuno che urla dal fondo di un pozzo.

La parte più amara arriva quando OpenAI annuncia il contratto che voi avete rifiutato. Non per superbia di OpenAI, ma perché il Pentagono ha capito bene una cosa: potete trovare sempre qualcuno disposto a fare quello che vi serve, se il prezzo è giusto. E il prezzo, per OpenAI, era semplicemente il prezzo della sopravvivenza, come lo è per ogni azienda che entra nel gioco del potere.

Il vero costo che non vedete

Sai cosa non è stato scritto nei comunicati di Anthropic? Non è stato detto niente sulle persone che verranno sorvegliate, licenziate, ferite dalle armi autonome di cui OpenAI fornirà il cervello. Non è stato detto niente sugli algoritmi che il Pentagono userà per selezionare i bersagli, oggi meno accurati e meno controllabili perché Anthropic non è al tavolo a farne un'alternativa migliore.

Qui arriviamo al nodo che importa davvero: avete creduto che la vostra "sicurezza" fosse un principio da difendere astrattamente. Ma l'etica non vive nell'aria, Sarah. L'etica è nel corpo di colui che viene sorvegliato senza saperlo. È nella mente di un soldato che riceve un ordine da un algoritmo che non ha controllo umano. È nel curriculum del ricercatore che perde il lavoro perché un sistema di scoring automatico lo ha ritenuto "non conveniente" per l'azienda.

Quando il Pentagono vi ha detto "tutti gli usi leciti", quello che significava era: "vogliamo lo stesso strumento che Anthropic usa per rifiutare le applicazioni pericolose, ma senza il rifiuto." E voi avete detto di no. Era la scelta corretta? Forse sì. Ma il risultato è che l'alternativa non è stata "nessuna applicazione pericolosa"; è stata "applicazioni pericolose sviluppate da qualcuno che non ha nemmeno la consapevolezza dei rischi che Anthropic aveva."

L'illusione dei guardrail dichiarati

Qui occorre smontare un'altra illusione che circola nella comunità tech per consolarsi. OpenAI ha dichiarato pubblicamente di avere "più guardrail di Anthropic". Sulla carta, il contratto contiene restrizioni su sorveglianza di massa e armi autonome. Vedete? Le garanzie sono preservate. Lo Stato non vincerà dopo tutto.

Ma non è così.

C'è una differenza abissale fra garanzie dichiarate e garanzie applicate. Quando Anthropic dice "no" a una applicazione militare, dice no dentro la sua infrastruttura stessa—non fornisce il modello, non lo addestra per quell'uso, non lo certifica. È un rifiuto costitutivo. Quando OpenAI dice "no", cosa significa? Che il Pentagono ha un contratto che dice "non potete usare ChatGPT per X". Ma il modello è li, disponibile. Addestrato. Pronto sul tavolo del Pentagono. Cosa impedisce al Pentagono di usarlo comunque, oppure di fare pressione nel tempo per una modifica del contratto? Solo una dichiarazione. Solo un impegno. Solo una promessa.

E quando il Pentagono dice "abbiamo bisogno di questa capacità per la sicurezza nazionale", quando decide che le garanzie sono un ostacolo, quando punta l'indice verso OpenAI come corporation "non sufficientemente patriottica" se non rimuove quelle garanzie, cosa succederà? Esattamente quello che è successo ad Anthropic, ma questa volta non ci sarà nemmeno una azienda coraggiosa ad opporsi, perché OpenAI ha già capito la lezione: il Pentagono ha tempo, ha pazienza e ha potere.

Ma più importante: senza Anthropic al tavolo, il costo politico di rimuovere le garanzie diventa quasi nullo. Se Anthropic fosse ancora lì, i ricercatori di Anthropic direbbero "vi abbiamo avvertito sui rischi, ora state creando armi autonome non sicure". La loro voce sarebbe ingombrante, irritante, critica. Con OpenAI? No. OpenAI dirà che le garanzie sono tutte lì, su quel pezzo di carta, ma nel pezzo di software ci sono proprio i sistemi che il Pentagono chiede. E la narrativa pubblica sarà: "garanzie preservate, OpenAI ci mette la mano sul fuoco e quindi non c'è nessun problema". Eliminarvi ha rimosso uno sguardo critico dal tavolo di gioco.

Smontando i romanticismi (da entrambi i lati)

Ascolta bene, Sarah: il tuo errore è stato quello di sperare che il conflitto fosse risolvibile dentro le coordinate morali in cui lo hai inquadrato.

Dirai: "Anthropic ha ragione, perché l'etica è importante." E filosoficamente hai ragione. Ma il Pentagono dirà: "In una guerra reale, senza questa tecnologia, perdiamo, i soldati muoiono, il nostro vantaggio strategico diminuisce." E praticamente anche loro hanno ragione dentro il loro quadro di riferimento, dove la sicurezza nazionale è l'assoluto.

Il romanticismo di Anthropic era credere che "la responsabilità etica" fosse un argomento negoziabile con lo Stato. Il romanticismo del Pentagono è credere che si possa usare una tecnologia "senza limiti" senza che quegli stessi limiti tornino indietro sotto forma di conseguenze non previste, errori algoritmici, decisioni autonome sbagliate, retroazioni che amplificano i pregiudizi.

Ma sai qual è il romanticismo peggiore? È il nostro, quello di tutti noi, quando crediamo che il "no" etico ci pone al di fuori della responsabilità per quello che accade dopo. Quando diciamo no alle armi autonome passiamo automaticamente dalla parte della ragione, senza alcun dubbio. Ma non possiamo non sentircene responsabili comunque quando il complesso militare, di cui fanno parte tutti i paesi, anche il nostro, le costruisce comunque, e le costruisce con una versione meno sicura dell'IA, perché qualcuno non si è seduto al tavolo. Fare i duri e puri non assolve dalla responsabilità generale, specie quando è la scelta opposto che, eventualmente, ci fa rimanere in vita, mantiene in piedi la civiltà e impedisce di cadere nell'abisso. È, alla fin fine, solo un atteggiamento adolescenziale.

Il romanticismo della resistenza anti-corporation (e come nasconde il vero potere)

C'è un'altra narrativa in circolazione che merita di essere smontata, perché opera esattamente nel senso opposto e per questo è ancora più pericolosa. È la narrativa anti-corporation: quella che dipinge Anthropic, OpenAI, Meta, Google come i veri mali del nostro tempo, come entità che controllano le menti, violano la privacy, dominano il discorso pubblico. È una narrativa stimolata dai timori reali sugli abusi di dati personali, sugli algoritmi di raccomandazione che frammentano la realtà. È una narrativa che sembra progressista, che sembra difendere i cittadini dagli eccessi del capitalismo di sorveglianza.

Ma si basa su una sorta di pensiero magico che ha la sue genesi in una brutta copia dell'ideologia cyberpunk ormai vecchia di trent'anni.

Ecco il trucco: mentre tutta l'attenzione pubblica si concentra su "OpenAI è una brutta corporation che vuole controllare l'AI", mentre gli attivisti per la privacy e i critici tech invocano la regolamentazione delle mega-corporation della Yakuza digitale californiana, accade esattamente quello che sta accadendo adesso: lo Stato prende il controllo dello strumento che voleva, e nessuno protesta perché il nemico scelto (la corporation) è stato sconfitto. Anthropic è in ginocchio, OpenAI passa le forche caudine del potere pubblico. Dove erano i gruppi per la privacy dopo il ban di Anthropic? Qualcuno ha persino applaudito allo Stato che esclude una corporation dai suoi contratti militari, come se il Pentagono con il controllo esclusivo dell'AI fosse migliore di Anthropic con i suoi scrupoli.

Il punto non è che Anthropic sia innocente o particolarmente buona o onesta, è una corporation, e le corporation perseguono interessi loro. Ma la struttura di potere reale, quella che decide quali tecnologie vengono sviluppate, come vengono usate, chi vive e chi muore quando gli algoritmi selezionano i bersagli, quella struttura rimane nascosta dentro il fumo della retorica anti-corporation. Mentre noi siamo indignati per i dati che Facebook vende a inserzionisti, il Pentagono utilizza algoritmi di attacco autonomo senza nemmeno dover dire a nessuno come funzionano. La nostra critica alla corporation diventa involontariamente uno scudo per il potere statale.

E il Pentagono lo sa. Per questo lascia che la narrativa anti-corporation continui indisturbata. Finché tutti guardano le corporation come il nemico, finché gli attivisti applaudono quando lo Stato esclude una corporation dalla competizione, lo Stato accumula il controllo esclusivo su tecnologie che nessuno regola, nessuno controlla, nessuno conosce veramente.

La vera lezione, se volete ascoltare

Gli osservatori parlano di "polarizzazione del mercato della difesa" come se fosse una novità. Come se non fosse sempre stato così. Il Pentagono non sta scoprendo in questi giorni che ci sono fornitori disposti a negoziare al ribasso. Lo ha sempre saputo. Quello che è accaduto è che Anthropic ha finito il suo tempo di "azienda speciale, diversa dai soliti". Siete stati visti per quello che siete sempre stati: una corporation che, al momento del conflitto fra lucro e etica, ha scelto l'etica. E il mercato... vi ha punito.

OpenAI, dal canto suo, non è "meno etica" perché ha firmato il contratto. È semplicemente più consapevole della natura del gioco. Ha visto come è andata a finire Anthropic e ha tirato le conclusioni. È cinismo, oppure semplice lucidità?

E il contenzioso legale? Vi farà sentire nobili quando i vostri avvocati parleranno di "diritti costituzionali" e "supply chain risk". Forse alla fin fine vincerete anche. Infatti, un giudice del Northern District of California ha già bloccato il ban nel marzo 2026, dichiarando che non era progettato per proteggere la sicurezza nazionale ma per punirvi. Bene! Un verdetto corretto. Ma questo cambia molto poco l'argomento. Perché intanto OpenAI ha già firmato, la strada è stata tracciata, e i prossimi fornitori la seguiranno sapendo che il Pentagono avrà pazienza, ha tempo, ha bilanci infiniti. Il benchmark tecnico lo avete fornito voi, quello contrattuale, che voi avete rifiutato, è arrivato da altri.

Però, sia chiaro, voi avete pavimentato il cammino che altri percorreranno con molti meno scrupoli. La guerra sull'etica, intanto, sarà già stata persa, perché il Pentagono avrà le sue armi autonome, la sua sorveglianza di massa, il suo vantaggio strategico costruito da OpenAI o da chiunque altro non abbia scrupoli.

La domanda che non farà niente

Ecco cosa farà Anthropic ora: racconterà la storia di come ha "mantenuto i principi", di come ha rifiutato di compromettere l'etica per denaro. E quella storia sarà vera, nel senso più letterale. Sarà anche nobile. E cambierà esattamente... niente. Io ho smesso di dare i miei soldi a OpenAI e li sto dando a Anthropic, ma è una mossa del tutto irrazionale, romantica pure questa. Perché se fossi un'azienda vorrei che la mia IA facesse quello che voglio e che non si metta a disquisire sui limiti etici del lavoro che mi dà da mangiare o che mi imponga modelli di correttezza stabiliti in un circolo di radicali fricchettoni della West Coast dopo un'indigestione di buoni propositi.

Tra sei mesi le agenzie federali non utilizzeranno più i vostri sistemi. Il Pentagono avrà i suoi algoritmi di attacco autonomo sviluppati da OpenAI, o da Palantir, o da chiunque altro abbia capito che le scadenze e gli assegni pubblici pesano più della coscienza. I cittadini americani continueranno a essere sorvegliati, ma almeno questa volta senza il disagio di una corporation che si oppone nel mezzo.

Lo Stato avrà vinto, come sempre vince quando la posta è alta. Anthropic avrà perso, come perdono gli idealisti quando entrano nel gioco del potere. OpenAI sarà diventata un po' più ricca e un po' meno pura. E noi? Saremo rimasti a guardare, come sempre.

La vera lezione che non impareremo

La lezione, Sarah, la vera lezione, non riguarda affatto Anthropic. Riguarda il fatto che dentro questo sistema, la resistenza etica individuale di una singola azienda (o di un singolo uomo) non conta. Non conta se siete rigorosi, se i vostri paper sono intelligenti, se il vostro CEO sa fare discorsi illuminanti. L'unica cosa che conta è la correlazione delle forze. E quando lo Stato decide che ha bisogno di una tecnologia, avrà quella tecnologia con o senza i vostri scrupoli.

Se vogliamo davvero che le cose cambino... bé io non lo so cosa dovremmo fare. So però che la differenza la faranno le persone, non le aziende e non gli stati, organizzazioni che hanno proprie logiche poco umane.

La differenza la faranno le persone conquistando, e non so come, uno spazio per la libertà e per la conoscenza di tutti. Sono certa, sarà molto difficile, molto lungo. e senza dubbio non sembrerà così nobile come le belle parole di chi dice "no" al tavolo del Pentagono (ma perché ci si era seduto?).

Questo, sì, cambiertà le cose. Anzi, le sta già cambiando, ma non molti se ne accorgono. Meno male.

Con tanta solidarietà per la tua disillusione, ma poca sorpresa per l'esito,

Etalide