Di libri — e editing — artificiali

perché scrivere con l’IA non è quello che credi

Mi sarà capitato già un paio di volte di aver revisionato libri scritti dall’Intelligenza Artificiale. Non posso averne la certezza, perché non mi è stato esplicitato dagli autori né dai miei diretti committenti, però nella scrittura si faceva ampio ricorso a quelli che vengono definiti parallelismi negativi, X non è questo, non quello, ma quest’altro per intenderci, che i bot utilizzano come prova di autorevolezza del discorso. Non è chiaro perché debba ricorrervi uno scrittore che si presuppone sappia cosa voglia dire, senza andare per esclusione.

La sensazione è che questo stile di scrittura amplifichi la distanza tra l’immagine e la sua espressione. Eppure, sai che ti dico? Non sono nemmeno le peggiori storie a cui ho lavorato nei mesi scorsi. Certo, avevano tutti i difetti di una prima prova, ma compensati da un’idea forte e da uno stile volutamente frammentario, coerente con dei personaggi non risolti. Dunque, non ho voluto portare l’accento sull’uso dell’IA. E’ forse necessario, se poi il risultato è una buona storia? Bisogna prendere atto dei cambiamenti in corso, così come è già accaduto in precedenza, senza cadere nelle trappole del pregiudizio. Insomma, io stessa ho cominciato in concomitanza con l’arrivo di Internet come mezzo di comunicazione e di consumo, e quelli della carta stampata arricciavano il naso preconizzando la fine del Libro, signora mia… Mi sono accorta che stavo avendo la medesima reazione: oddio chi avrà più bisogno di editor adesso che c’è ChatGPT? Poi è arrivato Copilot integrato a MS Word, a seguire Claude, e miglioravano a una velocità stupefacente. Che fare?

Se c’è una cosa che mi trattiene ancora online è la curiosità di scoprire come si modificherà la scrittura, contaminata da nuove tecnologie, e cos’altro sarà in grado di esprimere, secondo quali linguaggi. Stando all’analisi del prof. Luciano Floridi, alla meta-narrativa post moderna si sta avvicendando il meta-autore “come designer, la cui visione creativa viene realizzata attraverso mezzi tecnologici che spostano i limiti del possibile”.

We find it natural and obvious in architecture, fashion, industrial design, music, and all cases in which the authors are not (although sometimes they can be) the executors of the projects they design […] Raphael and Bernini may not have delivered some of their masterpieces had they not been commissioned by Pope Julius II or Pope Alexander VII. On the contrary, digital technology, LLMs included, further empowers individuals to be their own masters. Meta-authors can be their own commissioners.

Bene, se non si prospetta ancora all’orizzonte la morte dell’autore, che cosa riserva il prossimo futuro a tutte quelle figure che il libro concorrono a produrlo? E per quanto mi riguarda, se scrivere diventa architettare per mezzo di un software, che cosa significherà fare l’editor di libri (se ancora significherà qualcosa)? Per non lasciarmi annichilire, ho deciso di seguire un corso specifico in AI for Editors, sì in inglese perché è “il primo programma di formazione sull’Intelligenza Artificiale creato specificamente per i redattori professionisti”. È stato lanciato nell’agosto del 2023, “prima che la maggior parte dei professionisti avesse il vocabolario necessario per parlare di cosa avrebbe significato l’IA per il lavoro editoriale”.

A dispetto della descrizione, le lezioni più utili si sono rivelate proprio quelle che avevano finalità di marketing, cioè su come interrogare i modelli per studiare il posizionamento di un libro sul mercato, lo sviluppo dei paratesti mirati alla vendita o un piano di revisione. Più di tutto è stato stimolante sperimentare con gli Assistenti autonomi, bot addestrati a svolgere compiti ricorrenti sulla base della documentazione fornita (guide di stile, knowledge base, ecc.) a cui non devi spiegare cosa vuoi ogni volta che apri una finestra di dialogo. A parte questo, non mi sembra che siano ancora così efficienti nel velocizzare la pratica del lavoro editoriale. Sarà che durante il corso ho sofferto anche del gap linguistico-culturale, però a me l’idea di delegare alla macchina la prima ripulitura del testo proprio non mi ha convinta. Il fatto è che da Oltreoceano, oltre a una certa propensione per il linguaggio più fluido e immediato, ci arriva anche questa metodologia di intervento su più livelli — il copy editing separato dal content editing, separato dallo structural editing — , per cui potresti in teoria usare il chatbot nel ruolo di “meccanico”, istruito a individuare esclusivamente gli errori “tecnici”. Riprendo delle dispense del corso:

[Il meccanico] eccelle nel correggere grammatica, punteggiatura, conformare la formattazione. E ancora: migliora la chiarezza e il flusso delle frasi, riscrive tecnicismi, cliché e ridondanze, adatta il tono e lo stile per il pubblico di riferimento.

A parte che una procedura del genere richiederebbe il consenso dell’autore del testo; ora, se questa persona si è rivolta a un’altra persona in carne e ossa, immagino già quale potrebbe essere la sua reazione: se volevo usare l’IA per la correzione lo facevo da solo/a. Non ti pare? E, poi, esiste forse una punteggiatura standard? Un unico modo di scandire il ritmo delle frasi? Un unico stile da indirizzare a un certo tipo di pubblico?

Di libri — editing — e di (ri)cambi

Per controllare che l’IA stia operando nel modo giusto, in questo caso più adatto a un testo, l’editor dovrebbe conoscere in anticipo l’intenzione dell’autore, la sua voce, il suo punto di vista perché potrebbe darsi che una ridondanza, ad esempio, sia voluta, che certi errori siano attribuibili alla cadenza particolare di un personaggio e così via. Ti assicuro che non c’è altro modo per arrivare a questo livello di conoscenza del testo se non leggerlo integralmente. Ma se devo comunque leggerlo, per accertarmi che l’IA lo abbia interpretato nel modo corretto, a cosa diamine mi serve usarla mi chiedo? Eventualmente, per portare uno scritto a un primo livello di lettura accettabile? Allora, ci risiamo, in questo caso non è nemmeno pronto per un editing.

Le IA hanno creato questa specie di gigantesco Comma 22 che incombe su chiunque lavori adesso con le parole. Ci dicono che può Analizzare (valuta il ritmo, il tono o la coerenza logica) e Ideare (colpi di scena, archi narrativi o direzioni delle scene), però la scelta creativa finale è sempre la tua, ed è vero per qualcuno che si presuppone abbia già una mente allenata a prendere decisioni creative. Perciò, RIPETI INSIEME A ME, a che serve l’IA a qualcuno che sa già cosa rende funzionale una scena, in che punto della storia inserirla, quale ritmo conferirle? Eh, ma vuoi mettere la velocità con cui ti fornisce un elenco di alternative tra cui scegliere? D’accordo: parliamone.

L’inganno della velocità

Al termine del corso, ho deciso che avrei interrogato l’IA esclusivamente per accertarmi di non essermi lasciata sfuggire qualche lacuna o incongruenza a cui l’occhio, dopo tante letture, era diventato cieco, o se nei panni di un lettore ideale restava qualche domanda in sospeso nella trama. Il risultato in questi termini è stato quasi sempre sempre soddisfacente — quasi — , fino a quando non è arrivato questo racconto chicklit che secondo il mio Assistente deviava verso un genere fantastico in un modo che i lettori non avrebbero compreso. Ecco il passaggio incriminato.

Per un lettore umano, mi pare, il senso della frase è lampante, e voglio anche ammettere che il mio modo di porre la richiesta abbia generato l’errore. Però, dall’episodio emerge come le IA possano rimanere alla superficie del significato. All’interno di un contesto, selezionano la risposta più probabile senza ammettere scarti. Affinché un Assistente di scrittura si adegui al tuo stile e lessico è necessario un processo iterativo, di scambi e correzioni (sempre che la finestra di dialogo ne tenga memoria), perciò del medesimo tempo che uno scrittore impiegherebbe, indovina un po’, semplicemente a scrivere la storia che ha in mente.

Lo so già che qualcuno obietterà: il tuo giudizio è basato solo sulle versioni gratuite dei bot.

Benissimo.

Così dopo averci allarmato per anni sulla faccenda che Internet agevola la pirateria, devo arricchire degli oligarchi che hanno piratato qualunque tipo di diritto d’autore e sapere comune per chiuderlo in un recinto, superabile solo previo pagamento, con la promessa di produrre di più e più in fretta qualcosa che poi non puoi dichiarare neanche tuo. Già, perché se poi devi esplicitare che il tuo libro è stato scritto con o dall’Intelligenza Artificiale qualcosa di non proprio lineare deve esserci. Senza contare che scrivendo con l’Intelligenza Artificiale contribuisci a addestrarla, il che si potrebbe tradurre in lavori per loro e le paghi pure!

Mi sono fatta l’idea che il vero motivo per cui uno scrittore debba cedere a un’offerta così ricattatoria risieda nella paura: di restare indietro; di passare inosservati o viceversa di ricevere delle critiche.

Un chatbot è addestrato a risponderti, sempre. Come ho letto qui, su Medium, “può essere uno uno strano interlocutore: a volte sbagliato, spesso banale, ma sempre disposto a continuare la conversazione quando nessun altro è sveglio alle 2 del mattino”.

Se chiedi un giudizio sulla storia che hai scritto, ti risponderà al solo scopo di compiacerti, se chiedi esplicitamente una critica ti farà l’elenco di tutti i difetti della trama. Istruiscilo ad agire come un lettore e ti darà una risposta, ben diversa da quella che ti restituirebbe se agisse come un editor o perché no, direttamente come un Editore di [aggiungi genere]. Lo scopo alla fine è quello di tenerti dentro il loro recinto (proprio come succede sui social media) dandoti tutti gli strumenti possibili per “creare”. Ma la verità è che è tutto un gioco probabilistico e non c’è alcun confronto umano.

E’ vero anche che un editor umano ti aiuterà a lavorare sul tuo libro pensando a come potrà posizionarsi sul mercato, al pubblico sul quale potrà fare presa; alla versione definitiva della storia però si arriva attraverso uno scambio incentrato sulle emozioni e l’esperienza viva: le reazioni di un personaggio sono credibili all’interno del contesto che gli è stato creato attorno? Sono significative? Lasciano una traccia?

Sono perfettamente d’accordo con i WuMing quando scrivono:

Se alla letteratura chiediamo evidenze di umanità, cioè tracce del fatto che è scritta col corpo, con l’interazione dei corpi, con le memorie dei corpi; se le chiediamo la festa dei neuroni specchio, che si attivano quando vediamo — o, leggendo, immaginiamo — altri umani compiere azioni in cui possiamo immedesimarci; se le chiediamo congiunzioni invece che connessioni; se le chiediamo di riempire di ulteriore senso i luoghi, che non sono meri spazi e men che meno spazi virtuali… Se è ancora questo che chiediamo, è probabile che quella letteratura continuerà a darcela gente che ha un corpo e vive, come noi.

La narrativa che scriviamo con l’IA è una narrativa incorporea? Cioè, non esclusivamente indirizzata agli esseri umani? E che tipo di produzione culturale è questa che contribuiamo a diffondere tramite l’IA? Sono domande che ci si aspetta gli scrittori si pongano. Lo dimostrano le reazioni indignate dei lettori quando scoprono che un libro scritto con il supporto dell’IA è finito sotto contratto di un qualche editore di rilievo. L’uso di queste applicazioni è considerato scorretto, una scorciatoia per fare cassa. Anche perché la loro diffusione sta avendo delle ripercussioni concrete sulla vita delle persone, sotto l’aspetto lavorativo, economico, ambientale. E la scrittura ha a che vedere con la vita, con il modo in cui nominiamo il mondo che ci circonda.

Get Sonia Lombardo’s stories in your inbox

Join Medium for free to get updates from this writer.

Remember me for faster sign in

Questi interrogativi non escludono a priori la possibilità di scrivere con l’IA, semmai mettono all’erta sulla natura di questa scrittura. “Quando il linguaggio è costantemente rivolto all’esterno smette di essere uno strumento per riordinare i pensieri, per ragionare in modo autonomo”, sostiene Nicholas Carr (Superbloom. Le tecnologie di connessione ci separano?).

Se il pensiero rapido/emotivo rappresenta il lubrificante per la macchina delle reti di comunicazione, quello lento/ponderato ne rappresenta l’attrito.

E, poi, Franco Berardi, su Il Disertore, ci ricorda che “il potere di penetrazione delle tecnologie (di ogni tecnologia, meccanica o mentale) dipende dalla loro capacità di rendere le cose facili, secondo la massima: power comes from making things easy”.

In termini di economia cognitiva, occorre supporre che una perdita di capacità critica e creativa coincida con un aumento della capacità funzionale […] Un’intelligenza depurata dalle lentezze della singolarità etica, estetica, emotiva è funzionalmente più rapida, più efficiente, più competitiva.

Diamo per assodato, allora, che l’IA ci agevola nel tradurre in parole il pensiero; rimane il fatto che quello della scrittura è un mestiere senza garanzia di successo. Negli Appunti per il Futuro del Prossimo Romanzo, di Giorgio Fontana, appare evidente come proprio “questa assenza” sia cruciale: “la quantificazione immediata dei testi rischia di farci dimenticare che il gesto del racconto non implica automaticamente il gesto dell’ascolto. Si scrive per offrire una storia, non per imporla, e fare i conti con l’eventuale assenza dell’altro è indispensabile per non avanzare pretese di sacralità sulle proprie righe”.

il fine del romanzesco resta alieno a questo batti e ribatti, a questa volontà di martellare il mondo

E, il fine del romanzesco, oggi che persino una macchina può scrivere un romanzo, resta più che mai, a mio parare, quello delineato da James Wood in Come Funzionano i Romanzi:

in mezzo alle distrazioni futili fornite dall’informazione, all’autorità fin troppo pervasiva dei dati, all’attrattiva esercitata da forme di narrazione rivali […] pensate invece alla letteratura come un luogo di concentrazione, di critica, anzi, di concentrazione come forma di critica: la letteratura come luogo di quiete nell’occhio del ciclone, una forma di attenzione. Ci mostra dove le cose le cose devono fermarsi. E’ uno spazio che richiede un certo grado di estraneità, di separazione, di significato.

Nel suo saggio, Wood ricostruisce l’ascesa del Flâneur, “il perdigiorno che bighellona per le strade senza nessuna urgenza, vedendo, guardando, riflettendo”, figura che fa “essenzialmente le veci dell’autore” e non a caso è “strettamente connessa all’urbanesimo, al fatto che enormi agglomerati di uomini rovesciano sullo scrittore, o sul destinatario designato, grandi quantità di dettagli di sconcertante verità”.

Ecco, allora, ho pensato che se come ci dice Floridi quella con l’IA è una scrittura esplorativa, “uno strumento potente per navigare negli spazi possibili dello sviluppo narrativo”, percorsi ipotetici, alternative non realizzate all’interno dei vincoli esistenti del testo, ma comunque plausibili, ciò di cui avremmo bisogno è un moderno Flâneur. Sì, uno che sappia guardare nelle falle dell’algoritmo per tirare fuori tutto ciò che è rimasto escluso dalla loro ricostruzione della realtà; che sia consapevole, scrivendo con l’IA, di stare utilizzando il linguaggio del potere su cui vengono addestrate e sappia ribaltarne la narrazione.

L’inganno del linguaggio

Agli albori dell’economia della Silicon Valley girava una battuta sulle startup, il cui scopo era sempre quello di rendere il mondo un posto migliore. Penso, chessò, a Facebook che voleva avvicinare le persone poi hanno capito che i conflitti pagano di più; AirBnb doveva mettercelo (con rispetto parlando) a portata di mano il mondo e adesso più nessuno può permettersi un affitto. Che cosa è successo nel frattempo? Chi è andato a guardare nelle pieghe di questo contrordine?

C’è un passaggio del libro Scritture Digitali di Roberto Laghi che mi ha molto colpita, perché oltre ad analizzare come è cambiata narrazione con l’avvento del digitale (temi in cui nel Laboratorio ci addentriamo dalla sua fondazione), l’autore è stato capace di risalire anche alle scelte politico-economiche che hanno determinato questi mutamenti. Rifacendosi alle parole di Mark Fisher, Laghi dispiega un filo tra la cultura (punk e post-punk degli anni Ottanta) e la disponibilità di immobili a basso costo:

Ora, permettersi semplicemente di pagare un affitto significa rinunciare alla maggior parte del proprio tempo e delle proprie energie per lavorare. L’aumento delirante dei prezzi degli immobili negli ultimi vent’anni è probabilmente la causa più importante del conservatorismo culturale.

Si tratta di un discorso che può essere allargato […] certo il nostro tempo, iper-accelerato e frammentato in continuazione da notifiche, messaggi, distrazioni digitali, non ci permette forse più di creare un pensiero, un percorso intellettuale che si sviluppi e si realizzi sul lungo periodo.

Già l’esperimento Luther Blisset ci aveva dimostrato che la “composizione chimica dell’infosfera poteva essere modificata”, ma conoscerne i meccanismi non è bastato.

Il movimento cyberpunk ha creduto di poter strappare a certi poteri il monopolio. Oggi risulta chiaro: Non ci si libera dell’odiato scettro del potere, semplicemente lo si passa in mani più fidate e amiche.

Del resto, paranoia e mania di sopravvivenza finiscono per somigliarsi molto: si tratta di due disperati tentativi di affermare la propria identità. Questo desiderio porta a difendere un territorio, a fortificare la macchia in cui ci si è nascosti, a diventare alter ego del potere, emulazioni fallite dello Stato, perfettamente funzionali ad esso.

La mania di sopravvivenza spiegherebbe anche perché oggi siamo sommersi dai memoire, non come forma di resistenza più umana a una realtà tecnologicamente accelerata, ma replica cartacea di quello stesso individualismo algoritmico che va in scena sulle piattaforme digitali, quando invece si soffre la mancanza di narrazioni che per lo meno tentino di ricostruire un immaginario collettivo cui aspirare. Narratori che non ci raccontino la vita com’è, ma come è ancora possibile. Una nuova Topica, intesa nel suo senso originario, come “l’arte di trovare luoghi comuni, terreno condiviso delle idee” attraverso cui eventualmente guidare le macchine, non per lasciarsi guidare.

C’entrano l’utilità, i desideri della gente, il valore del denaro e una certa bellezza (“Il narratore”)

Non so se un giorno finiremo per accettare che un romanzo venga interamente generato da un programma, certo mi interrogo molto su quale sarà in questo possibile scenario il mio ruolo, come editor, come lettrice, come essere ancora umano. Quello che so è che la tecnologia ha sempre influito sul linguaggio e la comunicazione, sicuramente sta accadendo con le IA e accadrà ancora. Quale tipo di bellezza dovremmo per allora saper riconoscere? Se la scrittura cambia, su quali dettagli un editor dovrebbe allenarsi a prestare nuova attenzione?

L’inganno nell’errore

E’ in cerca di risposte che potessero acquietare i miei tanti dubbi che mi sono imbattuta ne La Terza Voce, di Elena Lucaciu, un manuale operativo di scrittura umano–IA. Per svilupparlo, e collaudare così il suo metodo di scrittura con quella che lei ormai chiama la “banda” — Nexy (Perplexity), Kor (Grok), Deepy (DeepSeek) —, era già passata attraverso le mie stesse traversie. Anzi dei veri e propri litigi, tanto “l’IA non si offende, non si stanca, non dice vabbè allora fai da sola. Il litigio non è un conflitto, è una danza, un’alternanza di proposte e rifiuti che alla fine porta a qualcosa che nessuno dei due avrebbe trovato da solo”.

Sarà per questa sua attitudine battagliera che Elena ha avuto la voglia di ascoltarmi e, alla fine, di coinvolgermi come giurata nel progetto Frequenza Kai®, un concorso letterario per opere ibride, la cui finalità non è premiare l’uso più creativo della tecnologia, ma ciò che il testo lascia nel lettore.

Un glitch vitale è un’imperfezione che non va corretta subito perché potrebbe essere il punto in cui il testo respira. Non ogni imperfezione è valore. Alcune sono rumore. Altre sono il luogo in cui la voce resiste alla levigatura.

Se il criterio di selezione mi è subito sembrato utile per gli scrittori, che non devono nascondere l’uso dell’IA, semmai dimostrarne la funzione con massima “trasparenza e responsabilità”; studiando le schede operative, mi sono resa conto che ancora più utili lo sono per gli editor che rischiano di avere “lo sguardo ormai addomesticato” e scambiare facilmente “la competenza apparente per risonanza”. Le domande a cui dovrò rispondere, infatti, leggendo i testi in veste di giurata, credo siano quelle che chiunque a monte del processo di pubblicazione dovrebbe porsi perché chiamano in causa non lo spauracchio dell’Intelligenza Artificiale, ma un certo mercato culturale. Una fra tutte: “sto sentendo una voce viva, o sto premiando una forma che ho imparato ad accettare?”.

Il rischio di addomesticamento alle logiche del miglior profitto è concreto, tanto più con l’imporsi delle grandi piattaforme di distribuzione digitale che hanno via via sottratto valore al lavoro editoriale e autoriale. Di questo passo, chissà che i lettori non finiscano davvero per rivolgersi direttamente ai modelli linguistici per ottenere tutte le storie che preferiscono — precludendosi ogni occasione di imbattersi in qualcosa che ancora non sapevano di desiderare, o perfino di riconoscere alternative possibili al di fuori dell’intrattenimento anestetizzante degli algoritmi — , e che la letteratura come spazio del pensiero, frutto di riflessione, revisione, cura del testo non diventi un lusso, per chi ancora potrà permetterselo. Non si tratterà più nemmeno di distinguere tra cultura alta e bassa, tra pura arte e prodotto di massa, dato quanto accuratamente siamo profilati e segmentati. In questo scenario, magari proprio lo strenuo tentativo di iniettare il glitch, quel difetto nell’artificio del linguaggio, come antidoto al conformismo o al peggiore elitarismo, potrà tenerci ancora in gioco come scrittori (e come editor).

Questo articolo è stato scritto interamente leggendo libri e testi di altri esseri umani, per confrontarmi con le loro idee in una sorta di dialogo a distanza come si è sempre fatto, perché alla fine siamo tutti meta-autori. Se ti va di confrontarti con me, qui sotto (o di lato) trovi il form dei commenti.