The Social Dilemma – răspuns domnului Silviu Man

453
0
Distribuie:

Salut apariția pe această platformă a articolului lui Silviu Man despre documentarul Netflix, The Social Dilemma. E un articol consistent, cu observații pertinente (și provocatoare!) despre social media și filozofia tehnologiei.

Subscriu premisei de la care pornește recenzia dlui Man – că tehnologia nu e o simplă unealtă, inertă și neutră, ci un construct viu, determinat ideologic și axiologic – dar mă despart de dumnealui în aplicarea acestei idei la „oferta” documentarului Netflix. Textul ce urmează nu are o structură anume, ci se constituie ca interacțiune punctuală cu câteva dintre ideile din articolul menționat.

*
Ca dl Man, refuz și eu reducționismul tehnologic, dar spre deosebire de el, cred că The Social Dilemma și „protagoniștii” ei nu cad în această erezie epistemologică. Dimpotrivă, sunt momente în care documentarul gesticulează oportun spre ceea ce aș numi subsidiarul ideologic și „surplusul ontologic” al tehnologiei, fără însă a-i absolvi de responsabilitate pe „factorii de decizie” ai companiilor.

Modelul de business al acestor platforme, și vorbim în special despre ecosistemele Facebook și Google, este bazat pe supraveghere continuă și manipularea sistematică a utilizatorilor.

The Social Dilemma arată, cu vârf și îndesat, că IT-iștii, creatorii de tehnologie și conducerea companiilor cu pricina înțeleg efectele produselor lor. Facebook știe, de exemplu, ce efect are asupra utilizatorilor ei. Știe că poate afecta, printre altele, starea emoțională și intenția de vot a acestora prin simple reglaje ale algoritmilor ce controlează feed-ul (vezi experimentul Contagion). Știe, de asemenea, ce efect are asupra sănătății mentale a oamenilor, în special a adolescenților, și în special a tinerelor adolescente.

*
Dl Man are dreptate – tehnologia, de orice fel, nu a fost niciodată o simplă unealtă, mută și neutră, darămite inteligența artificială din spatele platformelor pe care ne ducem traiul de o bună bucată de vreme. Tot așa, problemele create, precipitate sau agravate de tehnologia modernă nu comportă soluții exclusiv tehnologice/tehnocratice. Însă, atenție, nici nu le exclude, cum pare că lasă să se înțeleagă dl Man. Dimpotrivă! După cum o arată documentarul, și o atestă un întreg munte de cărți pe subiect (vezi, printre altele, aici, aici, și aici), dependența pe care o creează social media e un rezultat direct al arhitecturii curente a social media. E by design, nu un simplu efect accidental. Modelul de business al acestor platforme, și vorbim în special despre ecosistemele Facebook și Google, este bazat pe supraveghere continuă și manipularea sistematică a utilizatorilor. Or modelul acesta de business, centrat pe monetizare prin publicitate, nu e imuabil și inamovibil. Poate fi schimbat. Schimbarea lui, în mod evident, nu ar rezolva toate problemele lumii; nu s-ar repara automat hibele mult mai profunde ale naturii umane; n-ar reveni totul la normal dacă Facebook și Google ar renunța să ne mai manipuleze. Dar am vedea, cred eu, o îmbunătățire simțitoare. Am fi mai puțin bătăioși în polemici; am risipi mai puțin timp „scrollând” steril ad infinitum.

Văd două ispite simetrice când vine vorba de tehnologia curentă. Una, să așteptăm prea mult de la tehnologie (și de la soluțiile tehnice/tehnocratice în general). Să o numim ispita tehno-utopicului. Cealaltă e să avem așteptări prea mici de la ea – să credem că nicio schimbare a designului, niciun alt model de business sau un raport algoritm-om mai bun –  nimic din toate astea nu ar aduce vreo îmbunătățire sau ameliorare (fiindcă, vezi bine, problema e mult mai grava și mai complexă). Acesteia să-i spunem ispita tehno-mizantropului. Vestea bună e ca ambele ispite pot fi ocolite. Putem fi lucizi și refuza deopotrivă atât mesianismul tehnologic (sau tehno-soluționismul, cum îi spune Evgeni Morozov), cât și cinismul anti-tehnologic.

*
Dl Man arată cu îngrijorare și ironie spre casta specialiștilor, în special a celor care lucrează în domeniul tehnologiei. Și bine face. Convinși de propriul geniu, ignoranți față de propriile premise metafizice, valori fundamentale, bias-uri ideologice etc., specialiștii IT văd pretutindeni numai probleme în așteptare de soluții tehnologice, pe care tot ei să le născocească.

Văd două ispite simetrice când vine vorba de tehnologia curentă. Una, să așteptăm prea mult de la tehnologie… Să o numim ispita tehno-utopicului. Cealaltă e să avem așteptări prea mici de la ea… Acesteia să-i spunem ispita tehno-mizantropului.

Dar nu toți sunt la fel. Dl Man îl subestimează, de exemplu, pe Tristan Harris, fostul angajat Google și co-fondatorul Centre for Humane Technology (să traducem, oare: Centrul de Tehnologie Omenoasă?) care, alături de alți tehnologiști, înțeleg că problemele create și agravate de tehnologie nu sunt exclusiv tehnice/tehnologice, ci civilizaționale, spirituale chiar (apetitul spre psihedelice și meditație de tip mindfulness în rândul multor IT-iști din Silicon Valley, arată, cred eu, un refuz a materialismului și secularismului sec). Personal, am fost plăcut surprins să îl aud pe Mustafa Suleyman, co-fondatorul DeepMind (Alphabet), vorbind cu ceva vreme în urmă într-o emisiune BBC Radio 4 cu Lordul (și rabinul) Jonathan Sacks despre nevoia de a avea filosofi, specialiști în etică aplicată, teologi, sociologi la proverbiala masă rotundă când se discută inteligența artificială, pentru a asigura o interogare serioasă a premiselor metafizice și a cadrului etic adecvat acestor dezvoltări tehnologice fără precedent. Auzindu-l, m-am simțit nevoit sa-mi ajustez imaginea pe care o aveam despre IT-iști ca el. Aceștia sunt excepția, vor spune unii. Însă faptul că unul ca Tristan Harris – care, apropo, e la curent și citează frecvent din cărțile de filosofie a tehnologiei pe care dl Man le recomandă la sfârșitul articolului său – este „personajul principal” în documentar, mie unul îmi dă speranță că reducționismul tehnologic, care ne îngrijorează atât pe dl Man, cât și pe mine, nu e atât de prevalent și indestructibil pe cât pare.

*
Câteva observații punctuale: dl Man ia remarca lui Justin Rosenstein despre inteligența artificială ca fiind doar o metaforă… „când de fapt e vorba de săli imense, pline de computere și softuri/algoritmi” ca dovadă a reducționismului tehnologic. De fapt, Rosenstein, cât și Harris mai târziu, încearcă să contrazică imaginea înșelătoare despre inteligența artificială ca fiind o creatură sintetică de tip Terminator sau Robocop – o ficțiune ce mai are mult până (dacă!) să devină realitate. Nu! spun Rosenstein, Harris, și mulți alții: inteligența artificială nu este doar un proiect de viitor, ci o forță vie în prezent. E motorul Facebook-ului, Instagram-ului, Google search-ului pe care le accesăm astăzi în mod reflex. Nu cred că în replica lui Rosenstein stă pitită dovada că IT-iștii sunt orbi, metafizic vorbind, nevăzând decât cipuri, cabluri și calcule. Dovezi destule există, dar în altă parte.

*
„Când auzi fraze de genul: «după ce le eliberezi, aceste lucruri capătă o viață a lor» sau «construiești mașina, și apoi mașina se transformă singură», te întrebi dacă te uiți la un film despre internet sau despre magie.”

Ca teolog, cred că într-un astfel de context e fertilă o abordare a «păcatului sistemic», în special a relației acestuia cu «stăpânirile» și «domniile» pe care le Apostolul Pavel le amintește în Efeseni 6:12.

Concluzia dlui Man e pripită și ușor superficială. Mai întâi, că afirmația a doua, despre capacitatea „mașinii de a se transforma singură”, este strict factuală – e o descriere colocvială a „machine learning”, una dintre cele mai răspândite și puternice forme de inteligență artificială astăzi. Cât despre prima afirmație, tocmai acolo e ezitarea de a îmbrățișa materialismul și reducționismul tehnologic pe care, pe drept, le înfierează dl Man. Acolo se vede că IT-istul nostru realizează că tehnologia nu e un simplu instrument inert, ci are un „surplus ontologic” – întregul e mai mare decât suma părților; ba mai mult, întregul devine altceva decât părțile ce îl compun. Ca teolog, cred că într-un astfel de context e fertilă o abordare a „păcatului sistemic”, în special a relației acestuia cu „stăpânirile” și „domniile” pe care le Apostolul Pavel le amintește în Efeseni 6:12. Dar asta e o altă discuție.

*
Încă un citat din articol: „Pe de o parte, experții ne fac să înțelegem că social media pot fi recalibrate și direcționate spre bine (deci sunt niște instrumente neutre), pe de altă parte, admit că există în tehnologie o componentă irațională (vrajă, dorință de putere, religie a profitului etc.), pe care ei recunosc că n-o înțeleg și nu o stăpânesc.”

Observ aici o falsă dihotomie: ori pot fi calibrate, ori sunt vrăjite și nu pot fi stăpânite pe deplin. Dar se pot face reglaje și calibrări și în cazul unei tehnologii (i.e. social media) care nu este neutră. Nu rezultă că posibilitatea calibrării presupune o concepție a tehnologiei ca unealtă neutră. Dimpotrivă – tocmai fiindcă înțelegi că nu e neutră vrei să o calibrezi – să îi reduci impactul negativ și să îi sporești impactul pozitiv (conform, bineînțeles, unei ‘grile’ etice asumate).

Nu văd conflictul dintre acceptarea ideii că tehnologia are invariabil un subsidiar ideologic și moral – ba chiar un surplus ontologic – și soluțiile tehnice pentru a-i diminua efectul negativ.

*
Mărturisesc că mă nedumirește critica adusă de autor soluțiilor propuse la finalul documentarului, începând cu oprirea notificărilor, refuzul recomandărilor algoritmice în YouTube, FB, folosirea altui motor de căutare decât Google, și așa mai departe. Dl Man le vede inevitabil modelate după definiția reducționistă, material-instrumentală a tehnologiei. Nu înțeleg de ce. Nu văd conflictul dintre acceptarea ideii că tehnologia are invariabil un subsidiar ideologic și moral – ba chiar un surplus ontologic – și soluțiile tehnice pentru a-i diminua efectul negativ. Doar fiindcă un automobil nu e un simplu instrument neutru, ci aduce cu sine o orientare fundamentală față de lume, nu înseamnă că nu îi pot regla frâna ca să nu mă trezesc în râpă.

Desigur că măsurile propuse de producătorii The Social Dilemma sunt insignifiante câtă vreme modelul de business rămâne neschimbat, iar cadrul legislativ și reglementativ pentru sectorul Big Tech e desuet și permisiv. De aceea documentarul merge mai departe și amintește măsurile politice care se impun.

Voința colectivă, pe care o amintește dl Man, s-a coagulat deja – se vede într-un număr crescând de inițiative civice și legislative de reformare și reglementare a sectorului Big Tech. Se coagulează tot mai multe grupuri, din societatea civilă, spațiul academic și din mediul investitorilor instituționali, care pun tot mai multă presiune pe firme precum Alphabet, Amazon și Facebook în chestiuni ce țin de impactul social și politic negativ pe care platformele lor îl au. Eu unul nu m-aș pripi să le numesc eforturi zadarnice doar fiindcă narativul dominant al vremii noastre e, într-adevăr, unul al progresului (tehnologic).

*
Suntem într-un context în care puterea algoritmilor și a „tehnologiilor persuasive” (a se citi adictive!) asupra noastră e în creștere accelerată. Riscul să ne pierdem, treptat și pe nesimțite, ultimul colțișor de intimitate, iar în final, umanitatea însăși e prea mare, cred eu, ca să refuzăm aliați. Băieții din The Social Dilemma, tehnologiștii care „au întors armele”, nu sunt de ignorat în lupta pentru un viitor tehnologic uman. Chiar dacă metafizica nu e punctul lor forte.

Susține revista Convergențe!
Vrem să lărgim echipa și să tipărim cele mai bune materiale.

Alege moneda

Alege suma

Doneaza prin Revolut

0730020283

Memorează numărul în agenda telefonului tău iar apoi folosește aplicația Revolut pentru a face o donație

Plată cu OP

ASOCIAȚIA DECENU.EU

CUI: 37579166

NR. ÎNREG: 15/A/10.03.2017

LEI: RO21INGB0000999906900531

EUR: RO98INGB0000999906931543

SWIFT : INGBROBU

Distribuie:
Avatar

Lasa un comentariu