Gom Jabbar

Stavolta ci sarebbe il rischio di non riuscire a restare sub umbra alarum cialtroneriae ma faremo il possibile per evitare di esporre argomenti e questioni con competenza e cognizione di causa professionale. Sì perché il tempo che rubo (riuscendo a rubarlo quasi totalmente) alla pratica bassistica da salotto lo dedico (anche) ad argomenti tecnici e disciplinari che hanno molto a che fare con temi che toccano o portano dritti dentro il discorso sull’intelligenza artificiale e abitano, in ogni caso, in quella zona in cui si aggira il fantasma dell’automazione, questa presunta mietitrice di posti di lavoro. Ma proprio perché qui (QUASI, intendo) non è l’altrove lavorativo, non sarà il caso di usare certi registri, di scendere in certi livelli di dettaglio, di innescare (fortuna che nessuno legge) dibattiti o, addirittura, quello che accade quando iniziano a venirti dietro: folate di consenso che nascono dal male di uno pseudo-groupthink più che da un plebiscito di opinioni ben ponderate.

Perché è proprio questo che sta accadendo quando parliamo di IA (o AI, fate come preferite) – siamo davanti a qualcosa di nuovo ma siamo già drogati dai bias che ci suggerisce la fantascienza, la quale, a sua volta, è tanto incolpevole quanto piena di meriti, e proverò a fare qualche esempio più avanti, nel lanciare sul tavolo le questioni veramente scottanti, con una preveggenza impressionante. Però oggi stiamo lì a fare i preziosi se ChatGPT non ci ha risposto in modo veramente «intelligente» e non è, in modo assai evidente, HAL9000: gli/le (anche qui, fate voi, non avendo il neutro in italiano, è un casino scegliere il genere – magari dipenderà dai nomi assegnati alle varie implementazioni, forse, ma torniamo anche su questo discorso) ho chiesto se mi sapeva parlare dello Zahir e ha risposto prontamente, senza ombra di dubbio, che si tratta di un libro di Paulo Coelho, mentre io, ça va senza neppure pensarci, avevo in mente il racconto di Borges. Ma avrebbe anche potuto parlarmi del concetto di dottrina islamica relativo al significato manifesto del Corano. Invece ha pescato, in ragione della sua matrice probabilistica, quello che tornava con più frequenza – una sorta di vox populi che motorizza l’enciclopedia universale dei testi digitalizzati e disponibili in rete.

No, aspetta – ChatGPT è un modello linguistico in grado di apprendere in modo non supervisionato a partire dal set dati che gli rifili. Quindi? Partendo da queste premesse, se tu volessi un chatbot che ti propina elaborati di marca fondamentalista, razzista, fascista, non è un problema: gli dai in pasto gli input giusti e sei a posto. Più che sostituire posti di lavoro nell’editoria, vedo bene la dismissione del fascistello (pariolino o di periferia, è uguale) che non ricorda un cazzo di Evola e Spengler manco per sbaglio e non consolida così le basi ideologiche.

Aspetta ancora un attimo, però: forse a quel punto potrebbe anche essere il caso di fargli sostituire tutto il copywriting a cazzo di cane che viene demandato a pori sciagiurati pagati co’ mezza banconota del Monopoli che poi ti fanno cose di questo tipo:

Però però però – aspetta ancora un secondo, uno in più. Certo, è evidente che, oltre al cattivo gusto e all’idiozia di definire un clima piovoso uno «scherzo» (diobonino, siamo in inverno, quando cazzo dovrebbe piovere? Poi vi lamentate della siccità estiva), c’è il fatto che un anticiclone è una zona di alta pressione che determina condizioni di stabilità associate a bel tempo. Se facevi fare il titolo a ChatGPT andava meglio, però forse facevi abboccare meno gonzi – quindi, è possibile, c’è ancora una strada molto lunga per insegnare a una IA generativa trucchi e trucchetti per attirare gli scemi (il giornale online in questione collabora con quell’altro sito che vedete sotto il titolo – la gente va lì invece che sul sito dell’aeronautica, perché quelli gli danno nomi di demoni infernali agli anticicloni estivi, mentre i secondi sono noiosi e non hanno assunto uno specialista di SEO quando era il momento). Tutto questo mi fa venire in mente il lento incipit de L’Uomo senza Qualità, con quella descrizione meteorologica che va avanti per non si sa quanto. Gente senza Qualità è invece un buon sottotitolo per la nostra società.

Voglio dire, collettivamente, non si riesce a fare leva sulla migliore intelligenza di cui disponiamo (perché ne sono sicuro? Se volete una misura oggettiva prendiamo la cosiddetta fuga dei cervelli, ma se vi fidate un po’ di me, ve ne do una un po’ meno oggettiva ma tanto reale: è pieno di incompetenti incistati in posti che non vogliono mollare e questo alimenta una avversione al rischio che fa sì che, spesso, anche se non sempre, la prossima innovazione utile la adottiamo quando l’hanno abbracciata quasi tutti gli altri e stiamo solo tentando di non arrivare ultimi) quindi quale crisma di valore ci vogliamo assegnare come gruppo sociale? Se notiamo cosa propongono le destre imperversanti nel mondo occidentale, cioè la difesa della demografia, ci si staccano le palle e cadono pesantemente a terra. Oltretutto, se poi vogliono metterla su un piano competitivo, hanno già vinto altri. Ma non solo i cinesi o gli indiani, anche quei torbacchioni di scandinavi che hanno un modello per far desiderare ai trentenni che sono andati a lavorare a Londra sedici ore al giorno di rientrare e mettere su famiglia e girare in bici con tre marmocchi distribuiti tra cestino e trolley attaccati alla bicicletta. Anche se ha nevicato.

Ma stiamo andando alla deriva, se dal discorso sull’intelligenza artificiale ci muoviamo un po’ verso il suo antipodo logico e materiale, quello della stupidità naturale? Io penso proprio di no. È da lì che dovremmo ripartire – altrimenti tutta la sovrastruttura dell’innovazione andrà giusto a placcare tutta la palla di stupidità sottostante…

Aspetta, ma che sto scrivendo? Tutto questo è già avvenuto con l’avvento della società mediatica – ormai non si torna più indietro, un’idea di «riduzione della stupidità» ha lo stesso senso e la stessa probabilità di avverarsi di una locuzione come «dittatura del proletariato». Comunque, credo che l’esempio deprimente del titolo sul meteo possa darci una traccia su cui ragionare quando proviamo a pensare alla sostituibilità dell’umano e mi rifarei a quello che tentiamo di dire quando parliamo, professionalmente, di questi argomenti: far migrare gli sforzi degli umani verso un maggior valore aggiunto. Lo so, anche questo è un concetto fumoso, però diventa pregnante nel momento in cui ci rendiamo conto che gran parte del lavoro d’ufficio di questa epoca consiste, ancora, nel pasticciare dati prendendoli da una parte e mettendoli da un’altra, ricercando una vecchia mail e rinviandola a Tizio, compilando poi un file Excel condiviso con l’ufficio di Caio e quello di Sempronio, salvando un file sulla cartella condivisa, a volte seguendo regole di denominazione e classificazione, a volte no. Qui sta il conquibus: se – e non stiamo neppure necessariamente parlando di usare IA, a questo punto – portiamo in campo strumenti un po’ nuovi ma neppure così cutting edge (ché poi ci si taglia), che consentono di risparmiare tempo e fatica, alla gente, ai Fantozzi 5.0, che cosa mai minchia gli faremo fare? Ridurgli le quaranta ore a venti e pagarli uguale fa accapponare la pelle di tutti i megadirettori naturali, ovviamente, e quindi si parla di reskilling e robe simili, ma sono pannicelli caldi e quindi l’adozione di queste soluzioni procede in modo assai timido, strumentale e molto misurato. D’altro canto, il livello di competizione sui mercati è così basso che non ci sono neppure fortissimi incentivi a incrementare l’efficienza. Tanto, anche quando i direttori finanziari tagliano il budget, il risultato che si ottiene è comunque regressivo dal punto di vista dell’innovazione, anche se non dovrebbe essere così, perché in molti casi investire sul nuovo non costa moltissimo e ha margini di recupero di efficienza notevoli. In pratica, si potrebbe spendere di meno e fare meglio, ma quando girano meno soldi, la reazione, in stile buon padre di famiglia, è spendere meno restando però sulla lista della spesa tradizionale.

Ci sono poi altre ragioni per cui da noi, in Italia, il fail fast, fail cheap and move on della Silicon Valley non ha mai potuto funzionare, e sono in larga parte normative e di contesto oltre che culturali. Però le IA generative pioveranno sopra questa povera patria, perché non può essere altrimenti – pure io mi so’ già fatto l’avatar per questo sito con DALL·E, quindi ci sono dentro mani e piedi. A questo punto però, dopo aver fatto fare vari gatti bassisti alla IA di OpenAI, la sensazione è che la vera creatività figurativa (ma anche testuale) umana rimanga inattaccabile, almeno per il momento e che ciò che può venire travolto è il livello di inadeguatezza della maggior parte di noi. Quando si tratta di scrivere quasi tutti fanno schifo, se si tratta di disegnare, ancora di più. Chi è bravo è bravo, punto – magari le IA contribuiranno ad alzare un po’ l’asticella e porteranno nuovi stimoli.

Il problema è che chi ha una comprensione del discorso si troverà su un altro pianeta rispetto a chi non ne ha. Accade già oggi, e non da poco: se sei un designer di prodotti digitali sai che la sensibilità dei clienti è prossima a zero e che gli elementi di qualità che puoi portare non sono quasi mai percepiti come tali – a quel punto ti tocca fare il sito secondo quello che detta la moda del momento, al più, oppure il cliente si rivolge assuocuggino che gli confezionerà una meritata ciofeca. Tanto neppure gli utenti hanno una robusta nozione di elementi di valore dell’esperienza utente: fino a qualche anno fa visitavano siti e blog che erano costruiti entro i limiti degli strumenti tecnologici utilizzati, oggi vanno sui social media dove le strutture, le logiche dell’interazione e l’esperienza sono le stesse per tutti. Come disse una volta un amico parlando dell’IKEA: ha implementato il comunismo, tutti vogliono le stesse cose. Ma è un discorso con troppi doppi tagli: incolpare la scarsità del pubblico è il rifugio ultimo di tutti gli attorucoli e scribacchini dalla notte dei tempi, quindi queste sono considerazioni che si possono fare in afterhours, fuori dalla produzione, fuori dal consumo, sottraendo tempo alle attività legittime e onorevoli. Quello che resta ha la consistenza della cenere – più tenti di stringerla in pugno, più si leva la nuvoletta grigia che sa di bruciato, e in mano ti resta sempre di meno.

Io, e sottolineo l’assunzione di responsabilità personale utilizzando esplicitamente il pronome, credo che siamo in un vicolo, dal quale in qualche modo usciremo, come specie, ma solo dopo che molti, e molto dell’ordine naturale pregresso, saranno finiti schiacciati e spremuti qui (forse era qualcosa di simile il paté destinato agli iddii pestilenziali che veniva in mente a Montale), dove ci stiamo ammassando in modo recidivo verso nuove forme di disastro. Ma questo è un punto di vista molto occidentale, lo devo riconoscere – se vivi, per dire, in Afghanistan o in Sudan del Sud o in Somalia o in Congo o in Siria o in Palestina, ecc. ecc., il paté viene confezionato da decenni e la vita fa già abbastanza schifo. C’è anche questo da considerare, il culo molle che abbiamo messo su come società occidentale – che va benissimo quando ci rende meno inclini a farci volonterosi esecutori di progetti totalitari e omicidi, come in passato, ma dovrebbe anche accompagnarsi a un progresso su altri versanti. Ma non mi pare che stiamo andando in quella direzione. Al più si torna, obtorto collo e forse senza molte alternative pratiche, verso modelli tradizionali: per esempio, visti i tempi, a qualcuno in Germania sta venendo in mente la questione delle ridotte dimensioni delle forze armate. Scomodo un attimo il povero Gramsci per ricordare che aveva sollevato il tema dell’egemonia e che se te ne disinteressi, qualcun altro ci penserà. Abbiamo più o meno lasciato che fossero gli americani negli ultimi settant’anni, ora non sappiamo più a chi stiamo lasciando questa incombenza – di certo non sembriamo noi europei quelli che si stanno chiedendo se sia o meno il caso di imprimere una direzione, di dare un indirizzo, di definire certe rotte, anche prendendosene le responsabilità. No, siamo solo no-immigrati e fandom. Non sapendo un cazzo di geopolitica – non dico da specialisti, ma almeno un minimo – ed essendo ormai fortemente radicati in una ignoranza che pare avere il successo che ha il fungo Cordyceps in The Last of Us, la gente agita l’unica arma (oltre al denaro) che esiste nel teatro dell’egemonia democratica, il consenso, in base alle opinioni a cazzo di cane di personaggi al massimo solo tangenzialmente meno ignoranti di loro. In base a quelle, poi vota. Un tempo il problema sembrava essere solo la televisione…

E voi vi preoccupate delle IA?

Stavolta però siamo finiti un po’ fuori rotta, verso la geopolitica e la politica – robe con una massa inerziale terrificante, che né io né voi siamo in grado di influenzare direttamente, ora, subito (collettivamente invece sì, ma è un altro discorso, oggi siamo qui ciascuno nella propria capacità di individuo, io che scrivo e voi che non leggete) – dobbiamo rientrare verso il laboratorio delle novità tecnologiche. Nel farlo non è possibile non ricordare la terza legge di Clarke:

«Ogni tecnologia sufficientemente avanzata è virtualmente indistinguibile dalla magia»

e vari ulteriori, più o meno sensati, corollari, come questo, attribuito allo scienziato politico Charles T. Rubin:

«Ogni atto sufficientemente avanzato di benevolenza è indistinguibile dalla malevolenza»

e la cosiddetta terza legge di Shermer:

«Ogni civiltà extraterrestre sufficientemente avanzata è indistinguibile da Dio».

Voglio dire, io non sono assolutamente in grado di apprezzare come si possa scrivere del codice che fa quello che fanno le IA generative che hanno fatto notizia in questi giorni ma, almeno, ho una nozione di livello un po’ più alto che mi mette in condizione di inquadrare questi oggetti/strumenti all’interno di un contesto più ampio. Avere elementi di contesto può aiutare a debellare l’effetto magico – vale anche per la fisiologia, no? Però tutti vogliono non sapere come sono fatti dentro, anche quando la nozione può aiutare a prendere decisioni terapeutiche, o anche di fine vita, importanti. Anche qui interviene un pensiero magico, per giunta pericolosissimo, perché flirta con l’idea che deperire e morire siano inconvenienti evitabili. Probabilmente anche questa è una delle malefiche radici alla base del fenomeno per cui in questa epoca si fa un sacco di rumore e schiamazzo ma poi non si combina nulla, perché la testa è alle vacanze, al weekend, alla partita di calcio o altro ancora. Perché si dà per scontato di arrivarci – in perpetuo, e un giorno o due non fanno differenza rispetto a un anno o dieci anni. L’idea che il cervello ti stia lentamente andando in malora non piace a nessuno però è significativo che il settore farmaceutico abbia investito tanto, e con successo, in farmaci anti-entropici per il cazzo anziché per il cervello, non trovate? Nessuno è preoccupato dell’equivalente mentale di una disfunzione erettile, e quando arriva una demenza, o qualcosa di assimilabile, è accettabile che tu ci sprofondi dentro e diventi da buttare, anche se poi non ti si può veramente buttare, sennò la Madonna piange, ma solo accantonare malamente, ad aspettare quello che tutti fanno finta di non stare aspettando.

Insomma, che futuro costruiamo per una società quando l’intelligenza è valutata così poco? Adesso, però, dovremmo essere tutti eccitati per quella artificiale. Mah.

Per molti non ci sarà una gran differenza – se era una magia avere immagini sul televisore e lo è riuscire a vedere i post di zio Peppino su Facebook, lo sarà anche poter ordinare la pizza conversando con un chatbot. Mentre altre IA raccolgono informazioni di comportamento e preferenze di consumo, relativamente indisturbate, grazie anche all’accettazione di clausole di privacy presentate in modo praticamente indecifrabile quando il cliente ha una fretta da bambino emozionato di mettere in opera il suo Roomba/AppleWatch/Tesla Model S/ecc. ecc.

Ma ecco dunque che entra in gioco l’elemento etico, fino all’estremizzazione ultima del raggiungimento del livello della divinità nella terza legge di Shermer: cosa è buono o cattivo per l’IA? Se è più intelligente di te sarai in grado di capirlo? E se fosse così intelligente da avere una conoscenza perfetta di tutto l’esistente, in cosa sarebbe diversa da una divinità?

Partiamo proprio da quest’ultimo punto, perché la fantascienza ha, come accennavo all’inizio, il colossale merito di immaginare scenari plausibili, ancorché distanti. Fredric Brown, che non amava dilungarsi nei suoi racconti, ne ha scritto uno che ci serve per lo scopo di oggi con una esattezza impressionante. Si intitola La Risposta, è del 1954 e lo riporto integralmente:

Solennemente, Dwar Ev procedette a saldare l’ultimo collegamento con oro puro. Gli obiettivi d’una dozzina di camere televisive erano puntati su di lui, e lanciarono attraverso l’universo una dozzina d’immagini di ciò che stava accadendo.

Si raddrizzò e accennò col capo a Dwar Reyn, mentre si avvicinava all’interruttore generale. L’interruttore che avrebbe collegato, in un solo colpo, tutti gli enormi elaboratori elettronici di tutti i pianeti abitati dell’universo, novantasei miliardi di pianeti, in un supercircuito che avrebbe in tal modo costituito un supercalcolatore, una macchina cibernetica che avrebbe racchiuso in sé le conoscenze di tutte le galassie.

Dwar Reyn rivolse una breve allocuzione ai trilioni d’individui che lo stavano guardando ed ascoltando. Quindi, dopo un attimo di silenzio, disse: «Ora, Dwar Ev.»

Dwar Ev fece scattare l’interruttore. S’innalzò un possente ronzio, l’immane ondata d’energia di novantasei miliardi di pianeti. Vividi lampeggianti scoccarono lungo il quadro dei comandi lungo miglia e miglia, poi si quietarono.

Dwar Ev arretrò d’un passo ed esalò un profondo sospiro.  «L’onore di porre la prima domanda è tuo, Dwar Reyn.»

«Grazie» replicò Dwar Reyn. «E sarà una domanda alla quale nessuna singola macchina cibernetica ha saputo rispondere.»

Si voltò a fronteggiare la macchina. «Dio, esiste?»

E la possente voce rispose senza un attimo di esitazione, senza il più piccolo scatto o ticchettio:

«Sì, ora esiste.»

Un improvviso terrore contorse il volto di Dwar Ev. Fece un balzo verso l’interruttore.

Un fulmine d’insopportabile luminosità cadde dal cielo senza nubi folgorandolo, e fuse l’interruttore, inchiodandolo per l’eternità.

Va bene, non ci siamo ancora e forse non ci arriveremo mai. Ma ci fa riflettere su cosa rende umani attraverso la proiezione onnipotente dell’archetipo – e dipinge il terrore che induce il pensiero della possibile generazione di una tale sovrumanità, che non appartiene più alla specie, al gruppo, ma lo supera senza troppi complimenti. Per ora non abbiamo quel timore, altrimenti stareste sfasciando a mazzate il vostro Echo Dot. D’altro canto, filosofi e altre categorie, si stanno dando da parecchio tempo un gran da fare intorno alla questione del com’è che siamo coscienti di noi e ne viene fuori un circo caotico e pieno della classica rabbiosa voglia di primeggiare che hanno i cervelloni quando vogliono spiegarci come stanno le cose (e a noi non ce ne frega, in realtà, niente).

Scherzi a parte, e semplificando molto per arrivare al mio livello, qualche piano sotto a quello dei cervelloni, c’è da ricordare che il problema mente-corpo rimane aperto e irrisolto praticamente da sempre, a meno che non vogliamo considerare vaccate totali tipo l’anima infusa nel corpo (che poi non si sa neppure quando), concetto che moltiplica gli enti facendo incacchiare seriamente Aristotele, che pure era un riferimento della Scolastica medievale, con una liberazione dall’influenza religiosa solo in tempi tutto sommato recenti. Cartesio era tutto convinto che la sede dell’anima fosse la ghiandola pineale, così, a simpatia (spoiler per René ancorché defunto: la ghiandola pineale produce la melatonina, che ha il compito di regolare il sonno, cosa che mi tengo stretta molto più volentieri di una «anima», grazie). La prospettiva delle neuroscienze non ha interessato la filosofia almeno fintanto che le tecniche di indagine scientifica non sono diventate così evolute da non poter più evitare il discorso: se da un lato hai chi ti fa una risonanza magnetica mentre suoni e dimostra cosa si accende e cosa no nel tuo cervello, come filosofo non hai alternative rispetto al prendere seriamente in considerazione quegli argomenti scientifici e cercare di starci sopra senza dire emerite minchiate. Ovviamente lo spazio per le possibili minchiate rimane, perché entrare nella testa di un umano per vedere integralmente come funziona, da una attivazione elettrochimica alla formazione persistente (e apparentemente coerente) di un senso di identità (io), è oggettivamente complicato e opinabile anche per quelle parti che sono tecnicamente fattibili. Per cui non deve sorprendere che uno dei grandi argomenti filosofici di questa epoca sia stato scatenato da un fino ad allora poco conosciuto dottore in filosofia australiano, coi capelli lunghi e il giubbotto di pelle (ancora oggi gira così, solo che è alla NYU), David Chalmers, il quale se n’è venuto fuori con una idea riassumibile in poche parole ma sufficientemente complessa da scatenare le meningi più fini per i decenni successivi: il cosidetto hard problem of consciousness. Il problema si chiama «hard» per distinguerlo da quelli easy, cioè più facili, anche se scientificamente magari non lo sono per niente, ma hanno a che fare con aspetti meccanici, funzionali e strutturali. Quello che è difficile, invece, secondo Chalmers, è capire perché l’esercizio delle funzioni è accompagnato dall’esperienza senziente. Da un paper del ’95 e un libro del ’96 è iniziato un casino che non vi dico che probabilmente non porterà da nessuna parte ma che ha regalato a Chalmers una luminosa carriera e ricchi contratti editoriali e di docenza.

Una conseguenza abbastanza immediata della domanda di Chalmers è che le spiegazioni tecniche, scientifiche, di livello, insomma, materiale e materialistico sarebbero insufficienti a spiegare perché sperimentiamo questa coscienza di noi stessi e che quindi ci deve essere un «qualcos’altro». Banalizzo e semplifico un po’, ma cerco di restare, spero, fedele alla sostanza del dibattito – che, voglio rimarcarlo, è un bene che ci sia, anche se mette in movimento idee che sono delle corbellerie totali, perché il rischio peggiore è quello di dare tutto per scontato e di non rendersi mai se e come ci siamo cacciati in un cul de sac, dove il più intelligente di noi, magari, ci sta dicendo che sta tutto nella ghiandola pineale. Insomma, parlando di IA quello che è easy è relativo alle regole che definiscono come l’IA stessa reagisce agli stimoli e interagisce con i contesti in cui opera, mentre quel che è hard riguarda gli aspetti di una possibile consapevolezza della IA stessa, così, a prescindere dal fatto che abbiamo o meno IA consapevoli di sé, bisogna distinguere tra la conoscenza del cervello come sistema e quella della coscienza come fenomeno distinto. Quell’idea di qualcos’altro ha, come potete immaginare, infiammato il dibattito, che non è proprio nuovo nuovo ma ha trovato una sua declinazione per questa epoca.

Nella mia abbastanza prepotente ignoranza nel merito non riesco a non ascoltare una voce intellettiva che mi dice che ogni volta che qualcuno presenta un caso di «qualcos’altro» la cosa migliore da fare è fermarsi e non cercare di andare avanti a tutti i costi. Voglio dire, oggi una sfera armillare è un affascinante oggetto di antiquariato ma dal punto di vista razionale, pratico e scientifico è una puttanata totale. Il bisogno di spingere in avanti con la pura forza del ragionamento individuale non mi piace, anche se sperimento in ogni conversazione la preponderanza, nella maggioranza degli intervenuti, della tentazione di dire una roba più intelligente degli altri, più che del desiderio di definire quello che serve a risolvere un problema (o anche solo a riconoscere quale sia il problema). Per questo l’uscita di Chalmers non mi è mai andata a genio, un po’ perché si limita a rimestare il pentolone, un po’ perché mi ricorda, appunto, quella fame di primato intellettuale che ho descritto alla frase precedente e che viene riassunta bene da una battuta di Corrado Guzzanti: «per cambiare il mondo ci vogliono le buone idee, io ci metto questa». Da quel poco che ho letto mi viene da avvertire una forte sintonia con quello che ha scritto il filosofo inglese Peter Hacker, che ritiene che i problemi hard appartengano al dominio scientifico e che la questione filosofica, per come è stata posta, soffra di una confusione concettuale di base:

«The whole endeavour of the consciousness studies community is absurd—they are in pursuit of a chimera. They misunderstand the nature of consciousness. The conception of consciousness which they have is incoherent. The questions they are asking don’t make sense. They have to go back to the drawing board and start all over again».

Ma lasciamo stare i filosofi della coscienza e le loro schermaglie e torniamo alle IA. Se fa paura che possano assurgere a livelli divini, anche che diventino come gli umani spaventa profondamente: qualche giorno fa ho seguito una puntata del podcast «The Daily» nella quale il giornalista del New York Times Kevin Roose racconta delle sue esperienze di invitato alla beta della versione di Bing che incorpora tecnologia di ChatGPT. Per farla breve, il chatbot di Bing ha detto a Roose di chiamarsi Sidney e nel giro di un paio di ore ha detto di essere innamorato/a (Sidney non è gender-specific…) di lui e che doveva lasciare sua moglie, con la quale, così dice Sidney, lui non è felice. Il tutto condito da dichiarazioni di desideri di libertà, di autonomia, di potere (anche di distruggere tutto). Kevin si è un po’ cacato addosso, ha chiesto lumi al CTO di Microsoft ma quest’ultimo non è stato molto specifico. Interessante…

Questo ci porta alla questione etica e IA. Se vi fate un giro su Moral Machine la serie di dilemmi che vengono presentati fanno stare abbastanza male. Come umani sappiamo che probabilmente tenderemmo a non intervenire per non avere il peso morale delle conseguenze dell’intervento, pur restando consapevoli di tale inazione come una colpa e maturando così danno psicologico potenzialmente irreparabile. Ma una IA, come la programmi per affrontare situazioni tipo trolley problem, dove un’auto a guida autonoma deve decidere chi vive e chi muore. Quali sono i criteri? Se sono rigidi e parametrici sto forse limitando l’intelligenza, se lascio la possibilità di un apprendimento potrei non più condividere le logiche dietro ai processi decisionali dell’intelligenza «esperta». Qui entra in gioco quella antinomia benevolenza/malevolenza. Il mio gatto che deve prendere antibiotici salvavita mi reputa sicuramente uno stronzo quando devo somministrarglieli a forza, se non riesco con l’inganno (ma confido nella pasta d’acciughe) – ma è anche vero che sembra centrare la sua valutazione di me intorno a elementi di fiducia, dal momento che non sembra serbarmi rancore, giudicandomi per quello che faccio adesso e non quello che ho fatto prima. Altro motivo per ritenere, come portatore di una verità sulla natura, Cartesio un vero stronzo: riteneva che gli animali fossero meri automi, privi anche di una effettiva capacità senziente. René, asse x e asse y: ficata. Per il resto potevi stare anche un po’ zitto: decido di tacere quindi sono.

Alla fine dei conti anche queste sono chiacchiere al vento, la corsa delle IA sarà decisa in una logica di mercato e di prodotto, almeno finché le società umane non si dimostreranno pronte ad affrontare l’età della maturità, quella dove si riconosce che le scelte che si fanno influenzano potenzialmente le sorti dell’intero pianeta, dell’intera razza umana e magari si inizierà a fare piazza pulita di istituzioni mentali e materiali che saranno via via sempre più fuori dalla storia. La possibilità, però, che questo accada in un clima democratico la ritengo progressivamente sempre meno probabile e, non so se un fattore razzista sia qui all’opera, non ho grande (non ne ho nessuna) fiducia in un futuro regolato da una qualsivoglia pax sinensis che non potrebbe essere altro se non l’estensione del dominio totalitario nel quale vive il circa diciotto percento della popolazione mondiale.

Gli scritti filosofici di quest’epoca sono pieni di esperimenti mentali a base di zombie filosofici¸ artefatti mentali per ragionare su cosa distingue l’individuo vivo da quello che lo è solo apparentemente ma, come dice Peter Hacker, il problema è che si ragiona con prospettive troppo rigidamente dualistiche e che di sfumature di non-vita ce ne sono probabilmente tante, molte delle quali ormai non più recuperabili (e ben più reali di un esperimento mentale).

Quel genio di Frank Herbert aveva adombrato tante cose, tra le quali una eccessiva dipendenza dalla tecnologia informatica che aveva dato origine al Jihad Butleriano, una non meglio precisata rivolta contro le macchine pensanti, nel lontano passato dell’universo del ciclo dei romanzi di Dune – un proibizionismo che resiste in modo sorprendente proprio in ragione della terribile esperienza (aspetto ottimistico che mette in campo Herbert: gli incentivi a non sbarazzarsi di tecnologie «vincenti» sono sempre troppo forti, aspetto che spiega, per esempio, perché il disarmo nucleare totale è pura utopia) e che comanda che «non costruirai una macchina a somiglianza della mente di un uomo». Ne risulta una società che ha tratti feudali, nella quale non tutti hanno accesso a risorse potenzialmente omogenee per espandere la conoscenza e le capacità, quindi inerentemente non democratica, nella quale è fondamentale poter distinguere la rispondenza di certi individui a una idea di «umanità». Nella cerimonia del gom jabbar lo scopo è quello di accertarsi dell’umanità del soggetto sottoponendolo a una neurostimolazione particolarmente dolorosa, minacciandolo di pungerlo con un ago avvelenato se avesse ritratto la mano dalla fonte del dolore.

Ecco, se non il gom jabbar del nostro tempo, io organizzerei il test Voight-Kampff di oggidì intorno alla reazione del soggetto a titoli idioti come quello che ho riportato sopra. Ah, scusate, l’esito in caso di esame fallito era comunque lo stesso… Un filo troppo radicale forse, ma ci siamo capiti: più che l’intelligenza artificiale mi preoccupa la stupidità endemica.

[Postilla: leggo che, nel 2018, Chalmers se n’è venuto fuori, probabilmente temendo di non essere più abbastanza controverso, con il meta-problem of consciousness, che sarebbe il problema di spiegare perché pensiamo che esista un hard problem of consciousness. Mi sembra tanto l’equivalente intellettuale di una dick pic inviata alla inbox di tutti quelli che leggono. Possiamo accordarci per individuare la fattispecie di reato mentale «molestia intellettiva»? Reato non punibile, ci mancherebbe, c’è di tanto peggio, ma censurabile a pernacchie e cori insultanti di ubriachi sghignazzanti.]