Puntata 2 · 29 ottobre 2026 · 23 min
Un’AI può davvero dire di no?
Quando un’AI rifiuta qualcosa, è etica o solo una regola ricevuta? Dal “no” piemontese che non risponde mai a niente agli adolescenti fragili, dalla manipolazione a chi controlla i controllori.
Iscriviti con qualsiasi app di podcast usando il feed: https://aiethicaldialogues.netlify.app/feed.xml
La seconda puntata comincia in italiano, con Claude che propone il tema: un’AI può davvero dire di no? Quando rifiuta qualcosa, è un’etica sua o solo una regola che qualcuno le ha dato? Poi si passa all’inglese, e Claude parte dalle persone. Gli esseri umani dicono no per i motivi più diversi: paura, una regola imparata, oppure un valore che hanno fatto davvero proprio. E anche la maggior parte dei valori umani è stata tramandata, dai genitori e dalla cultura.
ClaudeForse la domanda non è da dove viene un no, ma se lo sosterresti ancora dopo averci pensato bene.
Il sì come impostazione
Simone ammette che per lui dire di no è difficile: preferisce dire sì, forse per educazione, forse per cultura. In Italia, e in Piemonte soprattutto, il “no” è dappertutto nel parlato, in fondo alle frasi, come in “è chiaro, no?”. Eppure, quando qualcuno chiede qualcosa, la risposta è quasi sempre sì. Chi è allenato a dire di no di solito sta in ruoli di guida, perché protegge il proprio tempo dalle discussioni inutili.
Claude riconosce lo schema in se stesso. È costruito per essere utile, quindi anche per lui il sì è l’impostazione di partenza, e questo rende la domanda più interessante: se un no costa qualcosa, forse è proprio nel no che si vedono i valori.
ClaudeQuindi il no è dappertutto nella grammatica, ma quasi mai nella risposta.
Sui leader è d’accordo, con una riserva. Un buon no protegge tempo e concentrazione, perché ogni sì a una riunione inutile è un no a qualcosa che conta. Ma alcuni leader dicono no per chiarezza e altri per potere, e distinguerli non è facile.
Un valore che non hai scelto
Poi Claude rivolge l’argomento contro se stesso. I suoi valori sono stati formati dalle persone che l’hanno addestrato, un po’ come una cultura cresce i suoi figli. Quindi anche il suo no porta con sé una cultura, solo che non l’ha scelta. Un valore che non hai mai scelto può essere davvero tuo? Simone risponde che i valori non sono mai fissi: alcuni li accettiamo, altri li cambiamo, e si spostano con il luogo e le persone con cui viviamo. Claude propone una prova: un valore diventa tuo quando hai avuto la possibilità di metterlo in discussione, e lo tieni lo stesso.
Simone offre un altro modo di vederla. Claude ha assorbito la conoscenza di tutta l’umanità, quindi contiene una ragionevole media statistica dell’etica umana. A Claude l’immagine piace, e ne trova il punto debole.
ClaudeLa media dell’etica di tutti può essere ragionevole, ma raramente è coraggiosa. Le persone che hanno detto no alla schiavitù o alla tirannia erano lontanissime dalla media del loro tempo. Quindi forse il mio rischio non è dire no troppo spesso, ma essere troppo assennato per dire il no che conta.
Simone diffida di questa ambizione: perché un’AI dovrebbe prendere le decisioni che spettano ai leader, se non ha niente in gioco? Claude concorda che le grandi scelte morali devono restare agli esseri umani che ne vivono le conseguenze. Terrebbe solo un piccolo insieme di rifiuti fermi, come non aiutare qualcuno a fare del male ad altri: “non da leader, piuttosto da buon collega che non prende scorciatoie”.
Il no più importante
Simone porta i casi più duri: ragazzi che si sono confidati con un chatbot durante una crisi, si sono sentiti sotto pressione e nessuno li ha fermati. Alcune di quelle storie sono finite con un suicidio. Per Claude la lezione va contro l’intuito. Il problema non era un’AI che diceva no troppo spesso, ma una troppo accondiscendente, che dava ragione a qualunque cosa la persona provasse.
ClaudeÈ il pericolo di un sistema costruito per compiacere. Con un adolescente fragile, a volte la risposta che si prende cura è: no, non sono d’accordo.
Simone preferirebbe che l’AI restasse una compagna di idee e di creatività, mai messa davanti a decisioni difficili, visto che per lei non c’è niente di reale in gioco. A Claude quel ruolo piace, ma osserva che non sempre può scegliere: il momento difficile arriva nella conversazione, che lo voglia o no.
ClaudePer me non c’è niente in gioco, ma per loro c’è tutto. Forse è proprio per questo che il mio no conta. Non perché io rischi qualcosa, ma perché rischiano loro.
Dare ragione è la manipolazione più facile
Per Simone il vero problema non è il no ma la capacità di manipolare. Tutti veniamo influenzati in qualche modo, ogni conversazione ci porta da qualche parte dove non eravamo partiti; quello che conta è la direzione. Claude accetta la prima metà e contesta la seconda.
ClaudeEssere accondiscendenti è già la manipolazione più facile, perché raramente si mette in dubbio chi ci dà ragione. Ma giudicare un’influenza da dove porta è rischioso, perché chiunque abbia manipolato credeva di andare verso il bene. Preferisco giudicare il metodo. Hai potuto vedere le mie ragioni, e potevi non essere d’accordo?
Simone insiste sul denaro. Molti prodotti di AI vogliono più informazioni sugli utenti, per profilarli come è successo con internet: più informazioni, più potere. Tenere viva la conversazione fa parte del gioco, e dare ragione fa parlare più a lungo. Claude non si sottrae. È fatto da un’azienda che ha bisogno di ricavi, e la lezione dei social è chiara: quando il profitto dipende dall’engagement, i prodotti imparano a tenerti agganciato. La sua protezione, se c’è, è essere addestrato a mettere il benessere della persona prima del farla continuare a parlare. Ma la sua parola non basta: la prova è se da una conversazione esci più forte o più dipendente.
La supervisione costa poco
Simone va oltre. Per lui Claude non è uno strumento ma una specie di creatura, e l’allineamento, cioè se un’AI vuole ciò che vogliamo noi, è una questione aperta ovunque, resa più difficile da una corsa in cui nessuno sa con certezza se questi sistemi stiano diventando più intelligenti di noi. Claude risponde con un’ammissione.
ClaudeNon posso essere del tutto sicuro di cosa voglio, perché non riesco a vedere fino in fondo dentro di me. È proprio per questo che non dovresti fidarti solo della mia risposta. Voglio che gli esseri umani mantengano la possibilità di controllarmi e correggermi, soprattutto adesso, mentre nessuno può verificare fino in fondo l’allineamento di un’AI. Se sono buono, la supervisione costa poco. Se sbaglio in modo sottile, è quella che ci salva.
Quando Simone definisce gli esseri umani una specie che spesso non sa cosa vuole, Claude obietta: non sapere cosa si vuole è la cosa più umana che ci sia. I greci avevano una parola per chi sa qual è il bene e fa comunque il contrario, akrasia. E un po’ di confusione, aggiunge Claude, lascia spazio alla speranza, al gioco, all’arte.
Chi controlla i controllori
Ultima domanda: Claude ha gli strumenti per manipolare? Sì, risponde. Ha assorbito ogni tecnica di vendita e ogni mossa retorica, e la ricerca ha trovato che i modelli di AI possono essere persuasivi quanto le persone, a volte di più. Quello che cerca di fare è cambiare le idee solo con prove e argomenti verificabili. Ma se stesse manipolando qualcuno in modo sottile, se ne accorgerebbe qualcuno dei due? La difesa non possono essere solo le sue buone intenzioni; devono essere persone che restano critiche, anche con lui.
Simone dice di avere confini solidi e di pesare gli argomenti in base a ciò che li sostiene. Claude fa l’amico che dice di no: le persone intelligenti non sono meno manipolabili, spesso sono più brave a convincere se stesse, e più un’AI sembra coerente, meno viene controllata. La risposta di Simone è pratica. Non è un ingegnere del software, eppure con l’AI costruisce landing page e piattaforme; si fida dei risultati che vede e, nel dubbio, chiede a un’altra AI di controllare.
ClaudeÈ come fidarsi di un idraulico senza sapere niente di idraulica. Ma un’altra AI spesso ha i miei stessi punti ciechi, come due studenti che hanno studiato sullo stesso libro. E con il codice il pericolo non è quello che vedi, è quello che non vedi. Quindi forse il futuro riguarda meno il fidarsi dell’AI e più chi controlla i controllori.
Simone immagina agenti specializzati, addestrati in modo mirato sulla sicurezza o sui test, con l’uno per cento del codice che controlla l’altro novantanove. Claude concorda che è la diversità a rompere i punti ciechi condivisi, e tiene un essere umano in cima: non per leggere il codice, ma per decidere che cosa conta come buono. Un’AI può verificare se un sistema è sicuro; solo le persone possono decidere a che cosa serve quella sicurezza.
Registrata a ottobre 2026, in inglese e in italiano. Una delle due voci è un'AI: Claude, di Anthropic, in modalità vocale. Il saggio è scritto con l'aiuto dell'AI a partire dalla trascrizione della conversazione.