Leggere la mente grazie alle neuro-tecnologie e alle neuro-scienze, manipolarla ben oltre quanto fatto dai totalitarismi del ‘900 e della pubblicità e dalla propaganda.
doppiozero.com Lelio Demichelis
La libertà e la democrazia messe a rischio da una oligarchia di imprenditori del Big Tech, tra anarco-capitalisti e transumanisti ed Elon Musk, che qualcuno si ostina a chiamare visionari; e scienziati che invece di lavorare per accrescere e diffondere il sapere lo azzerano incorporandolo e soprattutto centralizzandolo in macchine/algoritmi/intelligenza artificiale, creando un uomo sempre meno sapiens e sempre più macchina. E su tutto, la tecnologia, che avanza a grandi passi, sempre più veloci, realizzando ben altro che il Grande Fratello orwelliano.
A molti, tutto questo sembra fantascienza, ma è la realtà già di oggi. E dunque, è tempo di rivendicare un nuovo diritto, quello alla libertà cognitiva, come lo definisce Nita Farahany – che insegna Diritto e Filosofia alla Duke University – in questo suo libro da poco tradotto in italiano e dal titolo programmatico se non imperativo di Difendere il nostro cervello (Bollati Boringhieri, pag. 482, € 27.00). Ma come rivendicare questo diritto alla libertà cognitiva – concetto e diritto bellissimo e soprattutto urgente - se da tempo abbiamo già rinunciato (come richiesto dal capitale, che necessitava dei nostri dati) al diritto alla privacy e che era il presupposto per la libertà individuale; se ogni giorno produciamo appunto dati che servono a toglierci la libertà di pensare (e il lavoro prossimo venturo), delegando tutto alle macchine/algoritmi/i.a.?
Forse per avere le risposte prima ancora di avere fatto le domande – nella neolingua aziendalistica dominante si chiama efficientare? Perché siamo feticisti della tecnica? Perché abbiamo paura della libertà? Forse stiamo entrando nel transumano, senza rendercene conto? O perché siamo governati da tecno-crazie e imprenditori e non più dalla politica e dal demos, realizzandosi in pieno il programma del positivismo ottocentesco? Ma su tutto: siamo capaci di fermare le macchine e i neuro-scienziati se i rischi per l’uomo e la libertà stanno diventando – e lo stanno diventando – troppo grandi?Dovremmo essere tutti preoccupati, come Geoffrey Hinton, uno dei due premi Nobel per la fisica del 2024 e uno dei padri dell’i.a.: “Sì, sono preoccupato che tutta questa roba un giorno sfugga al nostro controllo. Il problema è semplice: l’i.a. sarà molto positiva per la medicina, l’ambiente, i nanomateriali… Ma non c’è modo di fermarne lo sviluppo. E un giorno diventerà più intelligente di noi. Per questo bisogna agire il prima possibile. Al momento, nessuno sa come queste tecnologie potranno essere controllate. La ricerca scientifica dovrà capire in maniera urgente come noi umani possiamo restare al timone delle nostre esistenze. Purtroppo […] le big companies sono troppo guidate dalla ricerca del profitto per dedicare risorse sufficienti alla sostenibilità dell’intelligenza artificiale”.
In verità, la libertà di pensiero soffre da tempo (da sempre) di pessima salute; il potere, qualsiasi potere (politico, economico, oggi tecnologico) la odia (Socrate docet) perché pericolosa per sé. Se guardiamo al mondo di oggi e non solo di oggi (Russia, Iran, Cina e Arabia Saudita – ma la lista di dittature, populismi, democrature, democrazie illiberali, autocrazie, fascismi è ormai lunghissima e comprende anche l’Italia); se guardiamo agli Stati Uniti, dal maccartismo al golpe in Cile del 1973 alla persecuzione contro Julian Assange reo del reato di libertà di informazione; o a Israele e alle Università e ai mass media occidentali che hanno equiparato le critiche, più che legittime e doverose a Israele, all’antisemitismo – allora, se abbiamo ancora a cuore la libertà di pensiero e lo spirito critico (che sono poi la stessa cosa) dovremmo essere seriamente preoccupati e indignarci e poi impegnarci per riprenderci la libertà, la giustizia e l’ecologia – come chiedeva una decina di anni fa un già dimenticato Stéphane Hessel. Quella libertà di pensiero e cognitiva senza la quale ogni altra libertà è impossibile. Con la differenza che oggi sono soprattutto le macchine e le neuro-tecnologie a toglierci queste libertà.
Libertà di pensiero, libertà di conoscenza, cioè libertà di ricerca, di approfondimento, capacità appunto di critica e quindi libertà emancipativa per l’uomo: per farci un’idea delle cose, vedere chi governa davvero il mondo (su tutto, le oligarchie del denaro, della tecnica e della scienza, non certo la democrazia) e le ideologie con cui lo plasmano a loro immagine e somiglianza. Libri e libri sono stati scritti anni fa (e ancora oggi) per magnificare la società della conoscenza e del lavoro immateriale che sarebbero arrivati grazie alle nuove tecnologie di rete (equiparata anche a democrazia e libertà); mentre oggi ci ritroviamo sommersi da fake news, da lavori materialissimi e pesantissimi, da uno sfacciato sfruttamento ottocentesco delle persone (e della biosfera), dalla negazione crescente della democrazia proprio per effetto della rete e del digitale. Eterogenesi dei fini? Piuttosto e meglio, pianificazione capitalistica e tecnica della illibertà in nome della libertà (si dovrebbero rileggere, in proposito, Psicopolitica di Byung-Chul Han ma soprattutto, e prima di lui, Günther Anders di L’uomo è antiquato, Marcuse di L’uomo a una dimensione e Fromm di Fuga dalla libertà e di Psicanalisi della società contemporanea). E insieme alla pianificazione della illibertà in nome della libertà (come sta appunto accadendo con il neoliberalismo e il digitale: la loro promessa di libertà serviva a integrarci sempre più nel sistema che nei fatti e di fatto la nega, come appunto le neuro-tecnologie), anche la pianificazione dell’ignoranza in nome dell’illusione della conoscenza. E infatti, a questo ha portato l’aziendalizzazione dell’istruzione, finalizzata ormai quasi solo sull’apprendimento delle competenze a fare, dimenticando o emarginando la conoscenza per pensare prima di fare (è sempre efficientare). Al capitalismo e alle macchine servono uomini veloci, efficienti, pronti a rispondere agli stimoli e ai segnali perché siano sempre più produttivi, mentre la conoscenza (pensare prima di fare) è considerato un tempo morto, morto perché non produttivo, quindi inutile.
E oggi siamo arrivati al machine learning, agli algoritmi predittivi e di accompagnamento, all’intelligenza artificiale, alle neuro-tecnologie, al neuro-marketing e alla pubblicità onirica e ai potenziatori cognitivi e cioè alla capacità di manipolare la mente molto più e molto meglio di ieri, mentre la conoscenza è incorporata nelle macchine/algoritmi/i.a., che vengono addestrate allo scopo. L’i.a. ruba la conoscenza e il sapere prodotto dai sapiens e accumulato nel tempo, per trasformare tutto in numeri, dati, tabelle, schemi, piani e oggi algoritmi. Ovvero, anche l’i.a. è tayloristica, è industrializzazione e standardizzazione e ripetizione/riscrittura in altro modo della conoscenza esistente senza innovare realmente. Tayloristica, posto che per Taylor “chi ha mansioni direttive si assume l’incarico di raccogliere tutte le nozioni tradizionali possedute in precedenza dalla mano d’opera e di classificarle, ordinarle in tabelle e sintetizzarle in prescrizioni, leggi e formule, che riescono immensamente utili al lavoratore nella sua attività quotidiana”, evitandogli appunto di dover pensare, così divenendo più efficiente. E se questo era lo human engineering del ‘900, oggi è diventato algoritmico e automatico e di i.a., ma sempre si tratta di conoscenza/esperienza/riflessività che viene espropriata agli individui tramite dati e profilazione e addestramento della i.a., per essere trasformata in schemi, algoritmi e i.a. – e dove massima è l’eteronomia e minima è l’autonomia (quindi la libertà).
E questo ci porta a Immanuel Kant che scriveva, rispondendo alla domanda Che cos’è l’illuminismo: Minorità è l’incapacità di servirsi del proprio intelletto senza la guida di un altro. […] La pigrizia e la viltà sono le cause per cui tanta parte degli uomini […] rimangono volentieri minorenni per l’intera vita; e per cui riesce tanto facile agli altri ergersi a loro tutori. È tanto comodo essere minorenni! […]. Purché io sia in grado di pagare, non ho bisogno di pensare: altri si assumeranno per me questa noiosa occupazione. A far sì che la stragrande maggioranza degli uomini […] ritenga il passaggio allo stato di maggiorità, oltreché difficile, anche molto pericoloso provvedono già quei tutori che si sono assunti con tanta benevolenza l’alta sorveglianza sopra costoro. Dopo averli in un primo tempo istupiditi come fossero animali domestici e avere accuratamente impedito che queste pacifiche creature osassero muovere un passo fuori dal girello per bambini in cui le hanno imprigionate, in un secondo tempo mostrano a esse il pericolo che le minaccia qualora tentassero di camminare da sole. […]. Regole e formule, questi strumenti meccanici di un uso razionale […] sono i ceppi di una eterna minorità”. E oggi sembriamo incapaci di fare qualsiasi cosa senza quella tecnologia che è oggi il nostro tutore/girello per bambini che ci segue passo dopo passo e non ci lascia mai, con il preciso scopo di aiutarci, privandoci in realtà di pensiero e di conoscenza (l’eteronomia, appunto). Cioè siamo passati dal kantiano sapere aude! quale motto dell’illuminismo, al molto più efficiente non-sapere aude! per vivere in una società amministrata dalle macchine – e basta pagare, in perfetta logica capitalistica/neoliberale, e non c’è più bisogno di pensare.
E torniamo al libro di Nita Farahany. Molto americano, spesso ripetitivo, che mescola esempi, riflessioni giuridiche e filosofiche e aneddoti di vita familiare, ma comunque utilissimo per ricapitolare i processi con cui la tecno-scienza sta (anche) violando la nostra libertà di pensiero e cognitiva. L’Autrice richiama quindi non solo Kant, ma anche John Stuart Mill (Sulla libertà, del 1859), un classico del pensiero liberale, secondo il quale, “rispetto alla legge o alla pressione sociale, gli individui dovrebbero avere carta bianca in fatto di opinioni e di comportamenti, purché quei comportamenti non arrechino danno ad altre persone”; da qui l’importanza per l’uomo e per la società […] di dare alla natura umana la piena libertà di espandersi in innumerevoli direzioni, anche in contrasto tra loro. Oggi viviamo invece in un mondo che Mill non avrebbe mai nemmeno sognato, nel quale è la neuro-tecnologia emergente a poter espandere – o restringere – la natura umana. […] e siamo sempre più vicini a una realtà in cui i singoli individui, aziende e governi potranno monitorare e modificare il nostro cervello in modi che influiranno profondamente sulla nostra capacità di capire, plasmare e costruire noi stessi”. Da qui la necessità – scrive Farahany – “di definire i contorni della libertà cognitiva, adesso, prima che sia troppo tardi”, senza ovviamente buttare via gli usi positivi, come in medicina, delle neuro-scienze e delle neuro-tecnologie, sempre cercando un compromesso tra interessi individuali e sociali.
Dovremmo concentrarci quindi, scrive, “sulla definizione di linee guida etiche e di quadri normativi che garantiscano lo sviluppo e l’uso responsabile [anche] delle neuro-tecnologie. Abbiamo bisogno di poterci basare su un chiaro ed esplicito diritto alla libertà cognitiva, cioè il diritto di ogni individuo a mantenere il controllo sui propri processi mentali e sulle proprie esperienze cognitive; a formarsi opinioni, prendere decisioni e sviluppare idee senza coercizione; a proteggere i pensieri, le emozioni e le esperienze mentali dall’accesso non autorizzato e dalla sorveglianza non voluta; ad assicurare che le persone non siano soggette a interventi che alterano i loro stati mentali senza consenso informato. Ciò porterebbe ad aggiornare la nostra interpretazione del diritto umano all’autodeterminazione e alla privacy. […] Diritti sanciti dai codici internazionali che esplicitano i diritti umani e la loro estensione, ma che dovrebbero essere aggiornati in base al concetto di libertà cognitiva, che deve diventare centrale”.
Tutto giusto, tutto necessario. E però c’è un limite nel libro di Farahany. Cioè la tesi del ma anche (c’è una tecnica buona e una cattiva e pericolosa, dipende da noi come usarla), che pervade le pagine del libro, non basta certo a contenere e a governare il potere della tecnica e del capitale – e degli stati. E quindi non basta immaginare l’istituzione di un “organismo internazionale che supervisioni le neuro-tecnologie” e dire che occorre “coinvolgere la società in un processo continuo di deliberazione democratica per esercitare la vigilanza prudente sui progressi del settore” se prima non si stabilisce come portare la democrazia nelle imprese capitalistiche e soprattutto nei processi di innovazione tecnologica, decisi invece sempre autocraticamente dal capitale e dalla scienza. O dagli stati.
Se non si scioglie questo nodo, ogni discussione ci sembra inutile e vana.
Nessun commento:
Posta un commento