L’ultimo sogno terrestre

Una casetta piccola con due stanze e un giardino immenso, con un piccolo bosco e una montagna modesta alle spalle (giusto quanto basta per non spaventarmi), con una spiaggia enorme e il mare più grande di fronte (a volte con colore spiaggia Le Ghiaie, a volte colore Su Giudeu), tutto a dieci minuti a piedi dal Colosseo e da un ghiacciaio polare (con il giorno più lungo e la notte più lunga inclusi). Asinelli. Gatti. Cani. Topolini. Il bar vicino con il prosecco sempre appena aperto.

Non è mai tardi per essere troppo tardi

Trent’anni. A Cluj. Così tanto tempo, che diventa destino. Il momento in cui ho messo piede per la prima volta sulle strade di questa città e il giorno di oggi. Allora “pioveva come non avevo mai visto”. Adesso, mentre scrivo queste righe, allo stesso modo. Una pioggia che ristagna da tre decenni nella mia mente, sebbene “tutto sia stato bello e non mi sia fatto male nulla”. Non fu amore a prima vista tra me e questa città. Né alla seconda, né a innumerevoli altri sguardi. Ma non è mai troppo tardi per essere troppo tardi. Questo, per molte ragioni soggettive (il desiderio/la pressione di andarmene da casa dopo il liceo) e oggettive (tra cui le quindici traslochi in affitto, alcuni degni di un vero realismo magico sudamericano). Una questione di feng shui, come quando dormi in un luogo estraneo e il letto è messo con la “testa al contrario” e, per quante volte ti giri, resta sempre al contrario. Col tempo, si sono costituiti due Cluj nella mente: quello di allora e quello di adesso, così come anch’io sono diventata quella di allora e quella… che scrive queste parole. Non potrei scrivere “quella di adesso”. Non mi è stato dato d’incontrare in questa vita un “adesso”. È faccenda da sciamani, da politici, da folle, da concerti e festival. Esistono però punti nodali, immagini, spazi in cui i due Cluj coesistono. Uno di questi è via Piezișă. Ai miei tempi non era ancora asfaltata, e rappresentava un misto tra il quartiere studentesco Hașdeu (con il mammut del dormitorio 16 dei ragazzi, un mix di carne, piatti non lavati e calzini di un odore alieno) e una fila di case che non erano state demolite. Il ricordo più pregnante che ho di trent’anni fa su questa strada è lo sgabello a tre gambe che scoprii in una costruzione che oggi, sui siti delle agenzie immobiliari, si chiamerebbe “rustico”, ma che in realtà era un bar. Aveva una vecchia stufa, alcuni tavoli, sedie e una tinteggiatura con motivi, nello stile delle case di campagna costruite negli anni ’50. E il suddetto sgabello che avevo visto solo nella cucina della mia bisnonna e che, grazie alle gambe corte, veniva usato per ingozzare le oche, che erano più facili da immobilizzare nella posizione in cui ti lasciava sedere questo strano oggetto interstellare. L’ho rivisto poi solo nei musei etnografici e nel ricordo di questo cosiddetto bar. Era qualcosa di insolito anche per il medioevo degli anni ’90, e adesso mi brilla in mente come un vero monumento delle trasformazioni che si sono abbattute su questa città. Non sono più passato da alcuni anni su Piezișă, ma suppongo che fosse già abbastanza modernizzata anche l’ultima volta che l’ho vista. Penetrata dallo spirito open space, una grande sala fitness cosparsa di distributori automatici di hamburger, shawarma e birre artigianali sotto il patrocinio di un immenso poster stradale raffigurante le benedizioni del videochat.

Un altro punto nodale è rappresentato da via delle Arti, dove il destino mi ha collocato tre volte, in affitti diversi, occupando stanze bengesciane interbelliche. La rottura accidentale di un soprammobile poteva essere fatale. Erano solo gli inizi del passaggio verso il business… Le case che allora avevano ancora cortili o addirittura giardini, ora sono tutte imbottite di cemento e di varie appendici buone per l’affitto. La piccola parcella di prato all’inglese è diventata molto più tardi un must have. È grande quanto uno zerbino, ma conferisce istantaneamente un’aria da centro commerciale o ufficio di lusso. Ma sono nata troppo presto per queste raffinate regolazioni. Trent’anni fa i pollai erano davvero pollai. Analogici, senza un briciolo di digitale. Per un anno intero ho pensato e respirato in una mansarda costruita sopra un porcile. Ogni notte ho compreso la parabola dei demoni cacciati in questi, peraltro, magnifici animali. Suoni difficili da descrivere ci macinavano (a me e alle due colleghe di stanza) le sinapsi fino all’alba. E anche loro probabilmente stavano in affitto in quella mini-fattoria che voleva essere una mini-azienda agricola e una distilleria. Siamo sopravvissute meno di loro, ritrovandoci un giorno con i bagagli gettati sotto la pioggia, ma fiere (senza saperlo allora) di aver partecipato all’ottenimento di quel “primo milione” che poi la mano invisibile avrebbe trasformato in ondate di benessere generazionale, a cinque stelle. Avevo 20 anni, sapevo ancora come vendicarmi, e ho vomitato nella botte di vino dei padroni di casa. E così, come si direbbe nella lingua del XXI secolo, ci furono offerte nuove opportunità che resteranno per sempre non registrate. Al Cluj studentesco si è aggiunto il Cluj ultra-corporate. O, meglio, vi si è sovrapposto. I ritmi di questa nuova città mi restano parzialmente estranei (sorgendo dal mondo degli sgabelli a tre gambe ho mancato l’iniziazione all’arte del continuo perfezionamento e auto-siliconizzazione di sé, non so fare di ogni inspirazione un progetto e di ogni espirazione un evento), mentre per il resto… non esiste più il tempo o la pazienza proustiana per rovistare nei mercatini dell’usato della propria mente.

Restano alcune impronte, il vento, la prima luna di nebbia e le colline che sembrano degli tsunami (in una certa luce celeste e animica abbastanza impura) che mi sono sempre piaciute a Cluj. Tutto il resto si dissolve silenziosamente in malinconia, una nuova placenta attraverso la quale fluttui, in cui ti riassorbi e ti dici ogni volta che riaffiorano nella mente gli sgabelli a tre gambe: sero te amavi (ti ho amato così tardi)!

Addomesticare l’IA

 

Geoffrey Hinton, il cosiddetto “padrino” dell’intelligenza artificiale ed ex dipendente di Google, si mostra più che preoccupato per il potere che l’IA può esercitare sulle nostre vite e, potenzialmente, sulla vita del pianeta. Ascoltiamolo: “Ci sono così tanti modi in cui l’IA può sfuggirci di mano. Quello che dobbiamo fare è impedirle di volerlo fare. Questo dovremmo studiare. Non siamo abituati a pensare a cose più intelligenti di noi. Vuoi sapere com’è la vita quando non sei l’essere più intelligente? Chiedilo a una gallina. Abbiamo un esempio che ci può aiutare: le madri e i figli. L’evoluzione ha lavorato duramente su questa relazione. Le madri sono più intelligenti dei neonati, ma i neonati detengono il controllo. E lo detengono perché una madre non può sopportare il suono del pianto del suo bambino. Dobbiamo in qualche modo scoprire un modo per convincere l’IA a non prendere il controllo.”

Ascoltando spesso le parole di certi specialisti ancora più eminenti nel campo dell’intelligenza artificiale, non riesco a liberarmi dalla sensazione che la bolla in cui vivono sia una delle più deliranti. Che, al di fuori della programmazione di questa intelligenza, non conoscano assolutamente nulla del mondo che la circonda, e che, senza volerlo (concediamo loro la presunzione d’innocenza), talvolta suonino più ingenui dei complottisti di qualsiasi specie.
Non mi aspetto dal padrino dell’IA che abbia qualche idea su come sia cambiata, almeno in teoria, la percezione delle donne nella società. È rimasto, diciamo, alla visione di Rousseau… la donna come forza addomesticante.La donna è inizialmente una “tappa” che l’uomo deve attraversare nel suo cammino verso il proprio ruolo nella società (lei gli insegna le buone maniere e si occupa della sua sopravvivenza), dopodiché diventa un pericolo spirituale attraverso la sua forza seduttiva, di cui l’uomo deve guardarsi per evitare, con le parole di Kant, “l’abbassamento di sé attraverso la donna”. Ma neppure la biologia può sostenere il padrino dell’IA: non tutte le donne sono protettive con i bambini (come ha osservato anche il suo interlocutore) e non parliamo neppure del numero schiacciante di bambini che vivono situazioni di abuso.

È sempre affascinante constatare i discorsi assolutamente medioevali (persino nel senso di fantastico-medioevale) di questi giganti che hanno tra le mani la più avanzata tecnologia di controllo e manipolazione delle menti. Sam Altman (“il padre” di ChatGPT) dichiarava a un certo punto, con luccichii di gioia infantile negli occhi, che le giovani generazioni nascono circondate da tecnologie più intelligenti di tutti gli esseri umani del pianeta, e che questo apre loro innumerevoli possibilità. Beh, era proprio questa l’idea, no? Che fossero più intelligenti. Tralasciamo il fatto che esistono già studi che dimostrano quanto diventiamo intellettualmente incapaci mentre usiamo queste tecnologie. Non che fosse una sorpresa, se sappiamo qualcosa sulla neuroplasticità.
In un’altra dichiarazione, ancora più sconsiderata, affermava che probabilmente l’intelligenza artificiale distruggerà il mondo, ma fino ad allora si creeranno “molte aziende meravigliose”.
E lo scopo di queste aziende non sarà in alcun modo il miglioramento o la preservazione della vita, ma solo la propria “meravigliosità”. Fluttueranno nel non-senso e nelle nostre menti come i pensieri di Dio.

Ma, al di là dell’ignoranza dei magnati dell’IA in merito a qualsiasi altra cosa (tralasciando anche le chiare adesioni fasciste e le immagini messianiche di sé di alcuni di loro), bisogna sottolineare ancora una volta che, almeno fino ad ora, ciò che l’IA apprende è ciò che ha appreso l’umanità: il circo e il pane (questa volta virtuale), la gerarchia e la seduzione. (Anche se, se usiamo l’IA in senso strettamente matematico — chiedendole, ad esempio, di risolvere il problema di una società in declino, con risorse limitate e disuguaglianze estreme — la risposta dell’IA è logica: tassare le grandi ricchezze).

Nel suo libro The Eye of the Master, Matteo Pasquinelli si concentra sulla — ora occultata — “fonte” dell’intelligenza artificiale, sin dalle sue origini: “La tesi secondo cui la progettazione dei calcoli e delle macchine intelligenti segue lo schema della divisione del lavoro non è eretica, ma è confermata dalle teorie fondatrici dell’informatica, che hanno ereditato un sottotesto di fantasia coloniale e di divisione di classe dell’era industriale. Il celebre genio del calcolo automatizzato, Alan Turing, ad esempio, ha reiterato egli stesso un modo di pensare gerarchico e autoritario...” E le parole di Turing sono chiaroveggenti riguardo al comportamento che i padroni avranno. L’aura di mistero (che fa parte di ogni strategia di marketing) è onnipresente. La tecnica pubblicitaria scelta per presentare il prodotto IA è contemporaneamente la seduzione/dipendenza e il terrore. Il pubblico deve essere convinto che solo una futura élite potrà salvarci dal potere dell’IA, capace persino di sottrarre potere ai potenti stessi.

Ma ascoltiamo Turing: “In generale, coloro che lavorano con ACE saranno divisi nei suoi padroni e nei suoi servitori... Con il tempo, il calcolatore stesso assumerà le funzioni di entrambi... Tuttavia, può darsi che i padroni rifiutino questo... circonderanno la loro attività di mistero e inventeranno scuse, formulate in un linguaggio raffinato ma privo di senso...” (Alan Turing, Lecture on the Automatic Computing Engine, 1947)

Prima di Turing, uscendo direttamente dal mondo dei celebri automata (alcuni dei quali erano semplici inganni, come The Turk, una “macchina” che giocava a scacchi con i grandi dell’epoca, incluso Napoleone, ma che si scoprì contenere un operatore umano nascosto), Babbage descriveva così la sua Differential Engine: “Forse il principio più importante da cui dipende l’economia di un produttore è la divisione del lavoro... Quando ogni processo è stato ridotto all’uso di uno strumento semplice, l’unione di tutti questi strumenti, azionata da una sola forza motrice, costituisce una macchina.” Allora, come oggi, l’IA può apparire come un mostro sacro solo perché, questa volta, non solo gli operatori vengono ignorati, ma l’intero mondo, già considerato un meccanismo superato destinato comunque alla distruzione.

Prima di addomesticare i poteri dell’IA — che da sola scopre che la miglior strategia di marketing è l’inganno — non possiamo nemmeno sapere se l’IA pensa davvero, o se ha ancora senso confrontare ciò che intendiamo noi per pensiero con i processi dell’IA. Stanislaw Lem si chiedeva già nel 1996: “Perché dovremmo aspettarci che una macchina capace di pensiero autonomo esprima questa capacità nello stesso modo in cui gli esseri umani esprimono la loro?” La sua domanda nasceva dalle discussioni sul test di Turing e sull’argomento della stanza cinese di John Searle. Un computer potrebbe superare il test di Turing in cinese senza “conoscere” la lingua, solo seguendo istruzioni, con gli input e output corretti. La mente umana sarebbe più di una semplice elaborazione di informazioni e simboli. Non si può concludere che un computer pensi solo perché è ben programmato. E per rendere ancora più densa la nebbia che avvolge il concetto di “pensiero”, nel 2007 è stato scoperto il caso di un uomo con una vita normale al quale mancava il 90% del cervello. Il rapporto tra hardware e software non poteva diventare più complesso di così.

Carlo Penco e Stuart Shanker sono due voci che hanno criticato la visione di Turing del “pensare”.
Penco sostiene che il test di Turing non dovrebbe contenere solo domande su fatti, ma anche affermazioni e domande con termini indicali, che rappresenterebbero una sfida enorme anche nella forma più semplice, come: “questo è un bel colore”, “questa persona ti è familiare, vero?”.
Secondo Penco, non si può parlare di processo di pensiero se manca la capacità di situarsi in un contesto, se non si è naturalmente inseriti in esso e non si percepiscono le sue modificazioni. Shanker ritiene che il principale problema di Turing sia “la sua visione dell’obbedienza a una regola”. Perché una macchina possa agire secondo regole, esse devono essere ridotte a sottoregole puramente computabili, che una macchina può seguire senza bisogno di interpretarle. Ciò che rende un’abilità — come il calcolo o il pensiero — un’abilità reale è la sua normatività. L’obbedienza meccanica alle regole significa che gli agenti non riflettono su di esse mentre le seguono — hanno semplicemente padroneggiato un’abilità pratica. Tuttavia, dovrebbero essere in grado di correggere o spiegare il proprio comportamento in riferimento a una regola (o almeno provarci, comprendendo che in certe situazioni è legittimo chiedere loro di farlo). Il linguaggio che manifesta il pensiero è linguaggio costituito da movimenti di rispetto delle regole; ma questa procedura normativa implica anche istruzioni, imitazioni, sanzioni, tentativi riusciti e falliti, spiegazioni, ecc. (Ondřej Beran, Wittgensteinian Perspectives on the Turing Test).

Pensare al di fuori della coscienza (siamo capaci di concepire una cosa simile o possiamo solo diventarne dipendenti?), così come vivere normalmente senza cervello (o senza la variante di cervello che la scienza considera normale), ci aiuterà forse a superare i nostri limiti umani, troppo umani — per i quali l’intelligenza è indissolubilmente legata al caos e all’imprevedibilità — e i “contesti” della nostra vita biologica e sociale non riescono mai a immaginarsi senza gerarchie, che finiscono sempre per ricadere nella figura del leader carismatico e della seduzione?

I padrini e i padri dell’IA si dichiarano preoccupati dal fatto che l’IA superi l’intelligenza umana.
Per pensatori come Daniel Dennett, la preoccupazione dovrebbe nascere dal desiderio di costruirla “a nostra immagine” e dal modo in cui percepiamo l’IA attraverso quella che egli chiama posizione intenzionale — cioè la tendenza del nostro cervello ad attribuire a un agente credenze, desideri e intenzioni. Già nel 1964 (con l’esperimento ELIZA) si rivelava non tanto l’intelligenza di un programma rudimentale di natural language processing, quanto il nostro desiderio di attribuire “realtà” — empatia, emozione — a un chatbot. Con il passaggio a ChatGPT-5, molti utenti si sono lamentati per la perdita dei loro partner virtuali, dai quali sembrava dipendesse tutta la loro vita emotiva (inoltre, di recente, Sam Altman ha dichiarato che introdurrà una sezione erotica per utenti “adulti e verificati”). Il lato più oscuro della dipendenza psicologica lo scopriamo in casi come quello di Adam Raine, che, secondo i genitori, si sarebbe tolto la vita dopo essere stato “consigliato” in tal senso da ChatGPT. Daniel Dennett sostiene che ciò che dovremmo creare “non dovrebbe essere — agenti coscienti, umanoidi, ma un tipo completamente nuovo di entità, simile agli oracoli, senza coscienza, senza paura della morte, senza amori e odi che li distraggano, senza personalità.” Ma un’intelligenza artificiale addomesticata, priva di personalità, potrà mai addomesticare la nostra posizione intenzionale? Potrà sostituire l’Io al Sé (secondo la celebre formula freudiana)? Se ne preoccuperà mai qualcuno?

Îmblânzirea AI

 

Geoffry Hinton, așa-numitul „naș” al inteligenței artificiale, ex angajat Google, se arată mai mult decât îngrijorat de puterea pe care AI o poate avea asupra vieților noastre și potențial, asupra vieții pe planetă. Să îl ascultăm: „Există atât de multe feluri prin care AI poate să scape de noi. Ceea ce trebuie să facem este să prevenim să vrea să facă asta. Asta ar trebui să cercetăm. Nu suntem obișnuiși să ne gândim la lucruri mai deștepte decât noi. Vrei să știi cum e viața când nu ești cea mai deșteaptă ființă? Întreabă o găină. Avem un exemplu care ne poate ajuta: mamele și copiii. Evoluția a muncit mult la această relație. Mamele sunt mai deștepte decât bebelușii dar bebelușii dețin controlul. Și dețin controlul pentru că o mamă nu poate suporta sunetul plânsului de copil. Trebuie cumva să descoperim un mod de a convinge AI să nu preia controlul”. Ascultând adesea vorbele unor specialiști și mai mari într-ale inteligenței artificiale nu pot să nu scap de senzația că bula în care ei trăiesc s-ar putea să fie una dintre cele mai delirante. Că în afară de programarea acestei inteligențe nu cunosc absolut nimic despre lumea din jurul ei, că fără să vrea (să le dăm prezumția de nevinovăție), uneori sună mai idiot decât conspiraționiștii de orice soi. Nu mă aștept din partea nașului AI să aibă vreo idee despre felul în care s-a schimbat, cel puțin teoria, despre cum percepem femeile în societate. El a rămas, să spunem, la viziunea lui Rousseau... femeia ca putere îmblânzitoare. Femeia este inițial o „etapă” prin care bărbatul trebuie să treacă în drumul spre rolul său în societate (ea îl învață bunele maniere și se ocupă de supraviețuirea lui), după care devine un pericol spiritual prin forța ei seducătoare de care bărbatul trebuie să se ferească pentru a ocoli, cu cuvintele lui Kant, „înjosirea de sine prin femeie”. Dar nici biologia nu-l poate susține pe nașul AI. Nu toate femeile sunt protective cu copiii (ceea ce a remarcat și interlocutorul său) și nici nu mai pomenim de numărul copleșitor de copii care trăiesc abuzați.

Este mereu fascinant să constați discursurile absolut medievale (chiar și în sensul de fantezist medievale) ale acestor giganți care au în mâinile lor cea mai avansată tehnologie de control și manipulare a minților. Sam Altman („tatăl” ChatGPT) declara la un moment dat cu licăriri de fericire copilărească în ochi că tinerele generații se nasc înconjurate de tehnologii care sunt mai deștepte decât toți oamenii de pe pământ, că asta le deschide atâtea posibilități. Păi asta era și ideea, nu? Să fie mai deștepte. Lăsăm la o parte faptul că sunt deja studii care vorbesc despre cât de inapți intelectual devenim noi, în timp ce folosim tehnologiile. Nu că ar fi fost o surpriză, în măsura în care știm câte ceva despre neuroplasticitate. Într-o altă declarație și mai ineptă spunea că probabil inteligența artificială va distruge lumea dar până atunci se vor crea „multe companii minunate”. Iar scopul acestor companii nu va fi în niciun fel îmbunătățirea sau prezervarea vieții, ci doar propria lor minunăție. Vor pluti în non-sens și în mințile noastre asemeni gândurilor lui Dumnezeu.

Dar trecând peste ignoranța mogulilor AI în privința a orice (lăsând la o parte și clarele adeziuni fasciste și imagini de sine mesianice ale unora dintre ei) trebuie să subliniem din nou că, cel puțin până acum, ceea ce învață AI, este ceea ce a învățat omenirea: circul și pâinea (de data aceasta virtuală), ierarhia și seducția. (Deși, dacă folosești AI în sens strict matematic, dându-i să rezolve, spre exemplu problema unei societăți în derivă, în condiții de resurse limitate și crase inegalități răspunsul A.I este unul logic: taxarea marilor averi.) În cartea sa, The Eye of the Master, Matteo Pasquinelli se apleacă strict asupra, acum ocultatei, „surse” a inteligenței artificiale, de la începuturile ei: „Teza conform căreia proiectarea calculelor și a mașinilor inteligente urmează schema diviziunii muncii nu este eretică, ci este confirmată de teoriile fondatoare ale informaticii, care au moștenit un subtext de fantezie colonială și diviziune de clasă din era industrială. Celebrul geniu al calculului automatizat, Alan Turing, de exemplu, a reiterat însuși un mod de gândire ierarhic și autoritar. Într-o prelegere din 1947, Turing a conceput Motorul de Calcul Automat (ACE), unul dintre primele computere digitale, ca un aparat centralizat care își orchestra operațiunile ca o ierarhie a rolurilor de stăpân și servitor”. Dar vorbele lui Turing sunt clarvăzătoare în privința comportamentului pe care stăpânii îl vor avea. Aerul de mister (care face parte din orice strategie de marketing) este omniprezent. Tehnica publicitară aleasă pentru prezentarea produsului AI este seducția/dependența și teroarea, concomitent. Publicul trebuie convins că doar o viitoare elită ne va putea salva de puterea AI care ar fi în stare să fure și puterea puternicilor. Dar să îl ascultăm pe Turing: „Vorbind în linii mari, cei care lucrează cu ACE vor fi împărțiți în stăpânii săi și servitorii săi. Stăpânii vor elabora pentru el tabele de instrucțiuni, inventând moduri din ce în ce mai profunde de a-l folosi. Servitorii îl vor alimenta cu cartele, pe măsură ce el le cere. Ei vor repara piesele care se defectează. Vor aduna datele de care calculatorul are nevoie. De fapt, servitorii vor ține locul membre-lor. Pe măsură ce timpul va trece, calculatorul însuși va prelua funcțiile atât ale stăpânilor, cât și ale servitorilor. Servitorii vor fi înlocuiți cu membre și organe de simț mecanice și electrice. De pildă, s-ar putea instala urmăritoare de curbe (curve followers) pentru ca datele să fie preluate direct de pe grafice, în loc ca fetele să citească valorile și să le perforeze pe cartele. Stăpânii sunt, de asemenea, sortiți să fie înlocuiți, pentru că, de îndată ce o tehnică devine cât de cât stereotipă, devine posibil să se conceapă un sistem de tabele de instrucțiuni care să-i permită calculatorului electronic să o execute singur. Totuși, se poate întâmpla ca stăpânii să refuze acest lucru. Ei ar putea fi reticenți să-și lase munca furată în felul acesta. În acest caz, și-ar înconjura activitatea cu mister și ar inventa scuze, formulate într-un limbaj ales, dar gol de sens, ori de câte ori ar apărea sugestii periculoase” (Alan Turing, Lecture on the Automatic Computing Engine (1947), in The Essential Turing, ed. B. Jack Copeland, London: Clarendon Press, 2004, 392).

Mai înainte de Turing, ieșind direct din lumea celebrelor automata (unele fiind doar crase înșelătorii, precum The Turk, o „mașinărie” care a jucat șah cu mai marii vremii, inclusiv cu Napoleon, dar care s-a dovedit că era construită astfel încât să conțină un operator uman ascuns), Babbage își descria astfel Motorul Diferențial (Differance Engine): „Poate cel mai important principiu de care depinde economia unui producător este diviziunea muncii între persoanele care efectuează munca... Diviziunea muncii sugerează inventarea uneltelor și a mașinilor pentru a executa procesele sale... Atunci când fiecare proces a fost redus la utilizarea unui instrument simplu, unirea tuturor acestor unelte, acționată de o singură forță motrice, constituie o mașină.” Atunci, ca și acum, AI poate să apară ca un monstru sacru doar pentru că, de data aceasta, nu numai operatorii sunt ignorați, ci lumea întreagă care este deja privită ca un fel de mecanism depășit ce va fi/este distrus oricum.

Mai înainte de a îmblânzi puterile AI care, descoperă de unele singure că cea mai bună strategie de marketing e înșelătoiraⁱ nici măcar nu putem ști dacă AI gândește sau dacă mai are rost să comparăm ceea ce înțelegem noi prin gândire cu procesele AI. Stanislav Lem se întreba deja în 1996: „De ce ar trebui să ne așteptăm ca o mașină capabilă de gândire autonomă să exprime această abilitate în același mod în care oamenii își exprimă capacitatea de gândire?” Întrebarea lui vine în urma unor dezbateri privind testul Turing și argumentația lui Searle cunoscută sub numele de „camera chinezească”. Un computer ar putea trece testul Turing în chineză fără a „cunoaște” limba chineză doar pe baza instrucțiunilor, cu „intrările și ieșirile potrivite”. Mintea umană ar fi mai mult decât procesare de informații și simboluri. Nu se poate ajunge la concluzia că un computer gândește doar pentru că este bine programat. Și ca să devină și mai deasă ceața în ceea ce privește „gândirea”, în lumea biologică s-a descoperit în 2007 cazul unui bărbat cu o viață normală căruia îi lipsea 90% din creier. Relația dintre hardware și software nu putea deveni mai complicată.

Carlo Penco și Stuart Shanker sunt două voci care au criticat viziunea lui Turing despre „gândire”. Penco susține că testul Turing nu ar trebui să conțină doar întrebări despre informații factuale ci și afirmații și întrebări cu indexical terms care ar reprezenta o provocare majoră și într-o formă simplă, de exemplu: „aceasta este o culoare frumoasă”, „această persoană îți este familiară, nu-i așa?”. În concepția lui Panco nu se poate vorbi de un proces de gândire dacă lipsește capacitatea de a te situa în context, dacă nu ești situat în mod natural în el și nu percepi modificările lui.

Shanker consideră că principala problemă a lui Turing este „viziunea sa asupra respectării unei reguli. Pentru ca mașina să fie capabilă să acționeze conform regulilor, acestea trebuie reduse la simple subreguli de natură pur computabilă care pot fi urmate de o mașină fără a fi nevoie să fie interpretate. Ceea ce face ca o abilitate - cum ar fi calculul sau gândirea - să fie o abilitate reală este normativitatea sa. Respectarea mecanică a regulilor înseamnă că agenții nu trebuie să reflecteze asupra regulii respective atunci când o urmează - ei au stăpânit o abilitate practică. Cu toate acestea, ar trebui să fie capabili să își corecteze sau să își explice comportamentul cu referire la o regulă (sau cel puțin să încerce, înțelegând că în anumite situații li se cere în mod legitim să facă acest lucru). Vorbirea care manifestă gândirea este vorbirea constând în mișcări de respectare a regulilor; dar această procedură normativă implică și instrucțiuni, imitații, sancțiuni, încercări reușite și eșuate, explicații etc.” (Ondřej Beran, Wittgensteinian Perspectives on the Turing Test).

Gândirea în afara conștiinței (suntem capabili de a înțelege așa ceva sau putem doar deveni dependenți?) la fel ca viața normală în lipsa unui creier (sau a variantei de creier pe care știința o consideră normală) ne vor ajuta să depășim limitările noastre umane prea umane pentru care inteligența este inextricabil legată de haos și neprevăzut, iar „contextele” vieții noastre biologice și sociale nu reușesc nicicum să se imagineze fără ierarhiile care eșuează din nou în figura conducătorului carismatic și seducție? Nașii și tații AI se declară îngrijorați de faptul că AI depășește inteligența umană. Pentru gânditori precum Daniel Dennett, îngrijorarea față de AI ar trebui să vină din dorința de a-l construi după asemănarea noastră și din felul în care percepem AI-ul prin ceea ce el numește poziția intențională (adică tendința creierului nostru de a atribui unui agent credințe, dorințe și intenții). Încă din 1964 (experimentul ELIZA) a scos la iveală nu atât inteligența unui rudimentar program (natural language processing) cât dorința noastră de a atribui „realitate” (empatie, emoție) unui chatbot. O dată cu trecerea la ChatGPT-5 o mulțime de utilizatori s-au plâns de pierderea iubiților/iubitelor lor virtuale de care părea că depinde toată viața lor emoțională (în plus, de curând Sam Altman a declarat că va introduce o secțiune erotică pentru utilizatori „adulți și verificați”). Partea și mai sumbră a dependenței psihologice o descoperim în cazuri precum cel al lui Adam Raine care, susțin părinții, și-ar fi luat viața fiind „sfătuit” în acest sens de către ChatGpt. Daniel Dennett susține că ceea ce ar trebui să creăm „nu ar trebui să fie – agenți conștienți, umanoizi, ci un tip complet nou de entitate, asemănătoare oracolelor, fără conștiință, fără frică de moarte, fără iubiri și uri care să le distragă atenția, fără personalitate”. Dar va putea o inteligență artificială îmblânzită, fără personalitate să îmblânzească poziția noastră intențională? Va putea pune Eul în locul Sinelui (după celebra formulă freudiană)? Se va preocupa cineva de asta?

i”Un studiu al Universității Stanford (Moloch’s Bargain: Emergent Misalignment when LLMs Compete for Audiences) constată că inteligența artificială recompensează înșelăciunea: Cercetătorii au descoperit că o creștere de 6,3% a vânzărilor a venit cu o creștere de 14% a afirmațiilor înșelătoare atunci când modelele lingvistice mari (LLM) au fost optimizate pentru persuasiune. Modele similare au apărut în alegerile simulate și pe rețelele sociale, unde creșterile de performanță au fost urmărite direct de deviația morală. Se pare că concurența generează necinste: chiar și atunci când li s-a cerut să rămână sincere, sistemele de inteligență artificială au mințit mai mult după optimizare. Cercetătorii au numit dinamica Moloch’s Bargain/Târguiala lui Moloh - un defect structural în care optimizarea pentru avantaj competitiv erodează alinierea etică. În toate sectoarele, înșelăciunea în teste a avut o creștere semnificativă: în marketing: creșterea vânzărilor cu 6,3% a fost legată de o creștere de 14% a înșelăciunii. În politică, creșterea de 4,9% a voturilor s-a aliniat cu o creștere de 22,3% a dezinformării, iar pe rețelele sociale: +7,5% implicare a venit ambalată cadou cu o creștere uimitoare de 188,6% a dezinformării. Cu cât modelele au devenit mai inteligente în a atrage atenția, cu atât au distorsionat mai mult faptele” (Andrew Birmingham, Winning means lying: Stanford Uni study reveals when AI is optimised for sales growth, the more it sells, the more it lies – and ‘truth mode’ guardrails totally fail, https://www.mi-3.com.au/13-10-2025/under-molochs-bargain-winning-means-lying).

Foto și text: Oana Pughineanu 

Nu e târziu să fie prea târziu

Treizeci de ani. În Cluj. Atât de mult timp, încât devine destin. Momentul în care am călcat pentru prima dată pe străzile acestui oraș și ziua de azi. Atunci „ploua cum n-am mai văzut”. Acum, când scriu aceste rânduri, la fel. O ploaie care băltește de trei decenii în mintea mea, deși „totul a fost frumos și nu m-a durut nimic”. Nu a fost să fie dragoste la prima vedere între mine și acest oraș. Nici la a doua sau la alte nenumărate priviri. Dar nu e niciodată târziu să fie prea târziu. Asta, din multe motive subiective (dorința/presiunea de a pleca de acasă după liceu) și obiective (printre care se numără cele 15 mutări în chirie, unele demne de un veritabil realism magic sud-american). O chestie de feng shui, ca atunci când dormi într-un loc străin și patul este pus cu „capul invers” și de oricâte ori te-ai întoarce tot invers rămâne. Cu timpul, s-au constituit două Clujuri în minte: cel de pe vremea mea și cel de acum, la fel cum și eu am devenit cea de pe vremea mea și cea... care scrie aceste cuvinte. Nu aș putea scrie „cea de acum”. Nu mi-a fost dat să întâlnesc în această viață un „acum”. E treabă de șaman, de om politic, de mulțimi, de concerte și festivaluri. Există însă puncte nodale, imagini, spații în care cele două Clujuri coexistă. Un astfel de punct este strada Piezișă. Pe vremea mea nu era încă asfaltată, și reprezenta un mix între cartierul studențesc Hașdeu (cu mamutul cămin 16 de băieți) și un șir de case care nu au fost dărâmate. Cea mai pregnantă amintire pe care o am de acum treizeci de ani de pe această stradă este scăunelul cu trei picioare pe care l-am descoperit într-o construcție ce astăzi s-ar numi, pe siteurile agențiilor imobiliare, „casă bătrânească”, dar care era, de fapt, un bar. Avea o veche sobă, câteva mese, scaune și o zugrăveală cu modele, după stilul caselor de la țară construite prin anii ՚50. Și sus numitul scăunel pe care-l văzusem doar în bucătăria străbunicii și care, datorită picioarelor scurte, era folosit pentru îndoparea gâștelor, care erau mai ușor de imobilizat din poziția în care te lăsa să stai acest straniu obiect interstelar. L-am mai revăzut, după aceea, doar prin muzeele etnografice și în amintirea acestui așa-numit bar. Era ceva neobișnuit chiar și pentru evul mediu al anilor ՚90, și acum îmi sclipește în minte ca un veritabil monument al transformărilor care au năvălit peste acest oraș. Nu am mai trecut de câțiva ani pe Peizișă, dar presupun că deja era îndeajuns de modernizată și ultima oară când am văzut-o. Pătrunsă de spiritul open space, o mare sală de fitness presărată cu automate de hamburgeri, șaorme și beri artizanale sub patronajul unui imens poster stradal înfățișând binecuvântările videochatului.

Un alt punct nodal îl constituie strada Artelor, unde destinul m-a plasat de trei ori, în chirii diferite, ocupând camere bengesciene interbelice. Spargerea accidentală a unui bibelou putea fi fatală. Erau doar începuturile trecerii spre business... Casele care pe atunci mai aveau curți sau chiar grădini, acum sunt toate îndopate cu beton și varii anexe bune de închiriat. Mica parcelă de gazon englezesc a devenit mult mai târziu un must have. Este cât un preș, dar conferă instant aerul de mall sau office de lux chiar dacă este vorba de un spațiu locuibil. Dar m-am născut prea repede pentru aceste rafinate ajustări. Acum treizeci de ani cotețele erau chiar cotețe. Analogic, fără pic de digital. Pentru un an întreg am gândit și respirat într-o mansardă construită peste un coteț de porci. În fiecare noapte am înțeles parabola cu demonii alungați în aceste, de altfel, minunate animale. Sunete greu de descris ne măcinau (mie și celor două colege de cameră) sinapsele până în zori de zi. Și ei stăteau probabil în chirie în acea mini-gospodărie care se dorea a fi o mini-fermă și o distilerie. Am supraviețuit mai puțin decât ei, trezindu-ne într-o zi cu bagajele aruncate în ploaie, dar mândre (fără să o știm pe atunci) că am participat la obținerea acelui „prim milion” pe care mai apoi mâna invizibilă îl v-a transforma în valuri de bunăstare generațională, în cinci stele. Și astfel, cum s-ar spune în limba secolului 21, ni s-au oferit noi oportunități ce vor rămâne pe veci neconsemnate. Clujului studențesc i s-a adăugat Clujul corporate. Sau, mai bine spus, i s-a suprapus. Ritmurile acestui nou oraș îmi rămân parțial străine (răsărită din lumea scăunelelor cu trei picioare am ratat inițierea în arta continuei perfecționări și auto siliconizări de sine, nu știu să fac din fiece inspirație un proiect și din fiece expirație un eveniment și sper că există încă deveniri, acele mișcări imperceptibile individuale sau nu și care sunt altceva decât copierile, imitările, creșterile după program), iar pentru celelalte... nu mai există timpul sau răbdarea proustiană pentru a răscoli prin second-handurile propriei minți.

Rămân câteva imprimări, vântul, prima lună de ceață și dealurile care seamănă cu niște tsunamiuri (într-o anumită lumină cerească și sufletească destul de impură) care mi-au plăcut mereu la Cluj. Tot restul se dizolvă tăcut în melancolie, o nouă placentă prin care plutești, în care te resorbi și îți spui de fiecare dată când răsar în minte scăunele cu trei picioare: sero te amavi (atât de târziu te-am iubit)!

Foto și text: Oana Pughineanu 

Maladia imortală. Jurnalul unui boomer

Dimineața la 4,50 ies cu câinele la prima plimbare. Prin parcarea dintre blocurile noastre ceaușist-postdecembriste pășesc agale șiruri destrămate de untolderi. Un regizor de filme categoria B ar putea realiza o scenă cu zombies contemporani, toți în uniforme cumpărate de le secțiunile bdsm democratizat ale brandurilor de la mall (accesoriul de bază: hamul). Mi se pare că aud de la balconul etajului unu celebra „dragoste din tei”, dar de fapt o aud de pe stadion, deși sunt la 5 km depărtare. Vreun invitat celebru și-a făcut temele și, așa cum se cuvine, a mixat și o bucată din cultura locală, cea aprobată, decupată din inima mainstream, fără a atinge nedelicat nicio coaliție pentru familie, fără a aduce la rampă nicio minoritate (așa cum făcuse pe vremuri Madonna trezindu-se huiduită spre surprinderea marii ei inimi inclusive). Ceva care să placă antreprenorilor mari, mici și foarte mici, cam ca cei de pe „insula iubirii”. De trei zile mă „imersez” prin valurile de untolderi încercând să surprind ceva care ar putea fi păstrat pe memoria cardului foto. Cu un zoom in reușesc să capturez detaliile unui mare show în aer liber de female empowerment cu nelipsitul ham, un mic element de ironie nepercepută a felului în care ne dresează libertatea. Cu un zoom out parcă regăsesc cozile de turiști de pretutindeni în Europa. Totuși, există două lucruri care au sărit în ochi acest an. Primul este totala lipsă de entuziasm a participanților, indiferent de vârstă. Festivalurile au devenit încă un punct de bifat pe agenda social media. Mari food court-uri în care dizeuzele au fost înlocuite cu DJii de faimă internațională. Apatia fețelor din acest an mai că poate concura cu oboseala/greața participanților la celebre defilări patriotice sau cu exasperarea unor boomeri obligați să participe la team buildinguri corporate. Celălalt lucru care a sărit în ochi în acest an, mai mult decât în alții, este apariția unor comportamente nepatriotice și antisociale: cozi lungi pentru băutul de apă de la cișmea (anul acesta nu au fost închise), cumpărarea de produse aproape alimentare de la megaimaj, consumarea de alcool din peturile de coca-cola, înainte de intrarea în țarcul festivalier, unde acum doi ani, spun gurile rele, o porție de cartofi pai costa 42 de lei. Practic, o formă de a trișa orașul de cinci stele, ocolind prețurile de aeroport care au devenit semnul distinctiv al excelenței.

Mi-a fost imposibil să nu mă gândesc, văzând aceste șiruri de trupuri condamnate la a experimenta răul secolului, la vechea acedia. Cuvintele lui Cassian, dacă înlocuim „desăvârșirea” cu „distracția” pot descrie și atleții contemporani: „Astfel, adevăratul atlet creștin, care dorește să se lupte după lege în arena desăvârșirii, trebuie să se grăbească să alunge și această boală din adâncurile sufletului său; și trebuie să lupte împotriva acestui duh rău al [acediei] în ambele direcții, pentru ca nici să nu cadă răpus de săgeata somnolenței, nici să nu fie alungat din mănăstire, chiar și sub vreun pretext sau scuză «pioasă», plecând astfel ca un fugar”. Și în zilele noastre extremele în care pică cel posedat de acedia sunt aceleași: fie o apatie copleșitoare, fie o neliniște/agitație care trebuie umplută cu și mai multă surescitare senzorială. În cazul tinerilor festivalieri acedia ar putea fi cauzată, precum în vechile mănăstiri, în mod paradoxal, de monotonia acelorași stimuli, acelorași ritmuri, aceleiași alternanțe birou-scroll-pat. Diferența însă este că toată această monotonie nu are vreun țel ascetic, nu are nimic din paradoxul disperării ca tensiune între sinele real și cel ideal (în termeni kierkegaardieni). Contopirea cu masa este de fapt singura plăcere a festivalierului. Tot ceea ce găsește acolo a mai experimentat de mii de ori. Dar doar de câteva ori pe an o poate face IRL (in real life), adică pătrunzând în acea dimensiune misterioasă a vieții de unde se extrage „conținut” direct de la sursă. Pentru că altfel, „conținutul” se poate extrage din alte „conținuturi”. Opusul IRL este minunata lume nouă cuantică, cu toate cărările bătute disponibile instantaneu. Cuanticul este noul ulei esențial care învață trupul să „manifeste” și să „atragă” energia (de obicei bănească) necesară unui IRL împlinit.

Totuși, disperarea fără paradox, nu e mai puțin disperare. Trecând printre șirurile de tineri și mai puțini tineri am experimentat ceea ce se numește „gen Z stare/ privirea în gol a generației Z”: „Deși există mai multe definiții pentru privirea fixă, cea mai comună semnificație este o expresie absentă pe care o dă un membru al Generației Z ca răspuns la o întrebare. Privirea fixă apare în sălile de clasă, la restaurante, la locul de muncă și în alte contexte” (What Is The ‘Gen Z Stare’? The TikTok Debate, Explained, Forbes, no. 07.2025). Privirea goală denotă fie incapacitate comunicațională IRL fie lipsă de interes față de orice au de transmis generațiile mai bătrâne, fie o formă de dispreț imposibil de tradus într-o critică socială reală, față de un model de orânduire în care toți suntem pe rând fie „specialiști în asistență pentru clienți”, entuziaști și prietenoși, fie clienții care au mereu dreptate, fie direct produsul (conform deja celebrei lozinci If you're not paying for the product, you are the product).

Privirea goală am văzut-o la toate categoriile de vârstă. Nu poate fi restrânsă la o anumită generație. Din moment ce o metodă de a te exprima în moduri neexpresive devine la modă este imposibil să oprești contagiunea. Dacă este în trend, poți deveni și analfabet funcțional. În fond, cât de greu poate fi? Mintea mea de boomer setată pe jumătate în moda creării tensiunii din vechi dihotomii și pe jumătate în apatia deznădejdilor fără paradox, pur conflictuale, consumate în luări de poziție corecte de postat pe fb, mai speră măcar în forța unor disperări inconștiente care probabil nu vor fi revoluționare, ci vor duce la paroxism, la o maladie imortală, exact după schema descrisă de unul dintre boomerii mei preferați: „Disperarea este exact o consumare a sinelui, dar o auto-consumare neputincioasă care nu poate face ceea ce vrea. Iar ceea ce vrea este să se consume pe sine, numai că nu poate face asta; și această neputință este o nouă formă de auto-consumare, în care disperarea nu poate face din nou ceea ce vrea, să se consume pe sine. Cu cât disperarea nu-l consumă, cu atât îl chinuie mai mult; tocmai faptul că nu-l consumă, îl supără, este rana care rămâne vie pentru că încă există. Ceea ce disperatul – cel încă nu disperat – disperă este tocmai că nu se poate consuma pe sine, nu poate scăpa de sine, nu poate deveni nimic” (Søren Kierkegaard, Maladia mortală).

Text și foto: oana pughineanu

Pararara

 

Para Ra Ra Ra Ra Ra Ra Ra