Reggie Townsend, SAS: Etica și provocările inteligenței artificiale

Reggie Townsend, SAS: Etica și provocările inteligenței artificiale

Reading Time: 8 minute

Reggie Townsend, Vice President of Data Ethics în cadrul SAS, este recunoscut drept una dintre cele mai autorizate voci în ceea ce privește înțelegerea și guvernanța etică a inteligenței artificiale. El a făcut parte timp de trei ani din Comitetul Național Consultativ pentru Inteligență Artificială din Statele Unite ale Americii, acționând ca membru cu rol consultativ pentru Casa Albă din 2022 și până la începutul acestui an. Recent, a petrecut câteva zile în România, iar cu această ocazie am discutat despre provocările și impactul social al adoptării inteligenței artificiale la scară globală.

Ce a însemnat experiența din cadrul Comitetului Național Consultativ pentru Inteligență Artificială din SUA?

În primul rând, a fost o onoare să fiu luat în considerare pentru o astfel de poziție. Mi-a oferit o oportunitate extraordinară de a aprofunda înțelegerea unui domeniu în care eram deja implicat zilnic. A fost, de asemenea, o șansă extraordinară de a întâlni oameni cu adevărat străluciți, precum lideri de opinie din tehnologie, mediul academic, societatea civilă și nu numai.

În același timp, pentru toți cei din Comitetul Consultativ al Casei Albe, a fost un privilegiu să ne reunim ca un colectiv, pentru a oferi idei și îndrumări cu privire la direcțiile în care Statele Unite ar trebui să își investească resursele, timpul și finanțarea. La fel de valoros a fost și faptul că multe dintre recomandările noastre au evoluat în ordine executive și alte mecanisme la nivel guvernamental. Nu oricine are șansa de a contribui într-un mod atât de semnificativ.

Privind în urmă, cred cu adevărat că a fost o experiență extraordinară.

Ce considerații etice introduce Inteligența Artificială?

Dacă ești de acord cu ideea că IA se referă, în esență, la luarea automată a deciziilor, atunci devine clar că decizii sunt luate în foarte multe aspecte ale vieților noastre. IA nu face alegeri doar în interacțiunile noastre de zi cu zi cu chatbot-urile, ci, mai important, în domenii critice precum sănătatea, finanțele, serviciile guvernamentale și administrația locală. Aceste decizii au un impact direct asupra bunăstării și calității noastre de viață.

Aceasta este, în esență, o alegere etică. Guvernele trebuie să se asigure că atunci când utilizează IA pentru a furniza servicii, o fac într-un mod care servește cu adevărat cetățenilor. Dacă băncile se bazează pe IA pentru a evalua riscul de credit, trebuie să facă acest lucru corect, echitabil și fără prejudecăți. Acestea sunt imperative etice.

În acest sens, IA modelează profund etica în ansamblul ei, influențând bunăstarea noastră colectivă. Cred că toți trebuie să fim conștienți de locurile în care IA este deja prezentă, pentru a avea oportunitatea de a ne exprima vocile și perspectivele cu privire la faptul dacă guvernele sau instituțiile private ar trebui să se angajeze în aceste tipuri de activități în numele nostru.

Putem spune că IA este o forță disruptivă?

Cred că putem, dar cu un asterisc, cu o rezervă. IA există de foarte mulți ani. Formele deterministe de IA, machine learning și altele asemenea au fost folosite de mult timp în numeroase domenii pe care le-am menționat deja, fără prea multă agitație.

Lumea a început să acorde cu adevărat atenție IA odată cu apariția ChatGPT, iar ceea ce a fost diferit atunci a fost experiența utilizatorului, interfața. Într-un fel, ne-a făcut să simțim că există „magie în cutie”. Cum poate acest obiect, acest computer, acest telefon să interacționeze cu mine într-un mod care părea aproape dincolo de uman? Desigur, știm că în spatele cortinei există arhitecturi de rețele neuronale și modele lingvistice mari și putem explica științific cum funcționează. Dar experiența utilizatorului a fost – și încă este – unică. În acest sens, a fost disruptivă. Ne-a forțat să ne contemplăm realitatea într-un mod diferit  și cred că acesta e un lucru sănătos.

Am vorbit recent despre perioada în care a fost introdusă pentru prima dată camera foto. La acea vreme, unii oameni refuzau să fie fotografiați pentru că se temeau că li se va fura sufletul. Aceea a fost o experiență disruptivă în sine. Astăzi, facem milioane de fotografii în fiecare zi,  acum preocuparea fiind legată de poluarea digitală, ceea ce reprezintă o cu totul altă problemă.

În acest sens, IA a fost tulburătoare, poate chiar disruptivă, pentru noi.

Totuși, cred că rămâne de văzut cât de disruptivă va fi IA în spațiul enterprise, în guvern și așa mai departe. Experiența oferită de generative AI și de chatbot-urile LLM are limitările ei când vine vorba de productivitatea zilnică. Este interesantă și vedem aplicații inovatoare construite pe baza ei, dar „asteriscul” meu este că încă suntem în primele zile ale „revoluției IA” și există mari semne de întrebare cu privire la viabilitatea sa ca adevărat instrument de business, dincolo de chatbot-urile de customer service.

Putem construi, de fapt, platforme de computing complete bazate pe arhitecturi probabilistice? Din nou, un mare semn de întrebare. Cu siguranță vor exista aplicații,  dar cât de răspândite vor deveni rămâne incert. Și de aceea aș spune: poate că nu este chiar atât de disruptivă pe cât pare.

Acum, dacă îmbrățișăm narațiunea din jurul inteligenței artificiale generale și unde duce acea conversație, atunci da, în cele din urmă va fi absolut disruptivă. Întrebarea reală pe care ar trebui să ne-o punem cu toții este dacă asta ar trebui să fie ținta, dacă aceasta este realitatea pe care vrem să o aducem în existență în lumea noastră tangibilă. Așa că da, trebuie să așteptăm și să vedem…

… dar nu ca și cum am aștepta trenul…

Nu o așteptare pasivă, desigur. Ar trebui să fie o stare activă de așteptare. Nu stăm pe loc și nu facem nimic. Putem acționa în timp ce trenul este pe drum, pregătindu-ne pentru sosirea lui. Și, apropo, ar trebui să decidem și dacă vrem cu adevărat să urcăm în acel tren sau nu. Poate că autobuzul ar fi o opțiune mult mai bună, ca să extind metafora.

Care tehnologie de IA are cel mai semnificativ impact asupra industriei în care activați?

Nu cred că aș putea evidenția un singur aspect. Dincolo de ceea ce am descris deja, generative AI își are locul ei. Modelele deterministe și predictive își au și ele rolul. Iar atunci când începem să privim către aplicațiile din lumea reală, într-o zi și tehnologia cuantică își va găsi locul. Întrebarea reală este: care ar fi instrumentul potrivit pentru sarcina respectivă ?

Există, cu siguranță, situații în care un model probabilistic este suficient de bun. Dacă sarcina necesită creativitate sau o direcție deschisă, modelele probabilistice pot funcționa foarte bine. Dar, așa cum învățăm în viața de zi cu zi, există un motiv pentru care avem atât șurubelnițe, cât și ciocane: ele servesc scopuri diferite. Pot să bat un cui cu o șurubelniță? Sigur, dar îmi va lua foarte mult timp. Așadar, trebuie să fim mai atenți în privința modului în care folosim aceste tehnologii.

În prezent, datorită entuziasmului din jurul GenAI, avem zeci, dacă nu sute  de cazuri de utilizare în care oamenii simt nevoia să o aplice. Există un adevărat curent FOMO. Dar atunci când acele proiecte încep, multe se termină cu: Ei bine, asta nu a mers. Nici asta nu a mers. De ce? Pentru că încercai să bați un cui cu o șurubelniță. Pur și simplu nu era aplicația potrivită.

Ce competențe credeți că vor fi cele mai relevante într-un viitor dominat de IA?

Cele mai relevante sau la cele mai necesare? Pentru că sunt două lucruri diferite. Eu vreau să mă concentrez pe ceea ce este necesar.

Ceea ce devine din ce în ce mai necesar este capacitatea de a gândi critic. Avem acum oportunități extraordinare de a automatiza fluxuri de lucru. Dacă ne gândim, de exemplu, la Agentic AI, totul se rezumă la a identifica ce sarcini pot fi realizate de IA în locul oamenilor.

Narațiunea populară spune că asta îi va „elibera” pe oameni să fie creativi și să se concentreze pe sarcini de nivel superior. Dar să luăm un exemplu extrem: imaginează-ți că ești un agent de vânzări care, de obicei, petrece opt ore pe zi vorbind cu clienții. Înseamnă IA că acum petreci doar patru ore în conversații și apoi îți iei restul zilei liber pentru că restul fac computerele? Probabil că nu. Ideea mea este următoarea: capacitatea noastră umană de a judeca va rămâne esențială. Întrebarea critică este: unde tragem linia între ceea ce lăsăm IA să facă pentru noi și unde intervenim noi înșine?

Autonomia IA poate fi un lucru bun — dar prea multă autonomie nu este. Avem nevoie de o abordare critică pentru a vedea unde implicarea umană este cu adevărat necesară în locurile noastre de muncă.

Și dacă ieșim puțin din zona muncii și privim către educație: câtă expunere la IA permitem copiilor și de la ce vârstă? Un lucru care rămâne esențial este dezvoltarea capacităților cognitive, mai ales pentru tineri. Imaginează-ți cât de util ar fi un calculator dacă nu ai ști aritmetică de bază. Există un motiv pentru care predăm mai întâi aritmetica și apoi aducem calculatoarele în etapele ulterioare. Ar trebui să ne gândim foarte atent la modul în care introducem IA în sala de clasă.

Ceea ce putem face acum cu IA este să oferim un instrument care îi ajută pe copii să învețe în ritmuri diferite. Putem, de asemenea, să aducem lecțiile la viață într-un mod pe care nu ni l-am fi putut imagina acum câțiva ani. Cred că această posibilitate este extrem de valoroasă. Dar ce presupune?

Înseamnă că schimbăm însăși natura modului în care învățăm. Înseamnă că profesorul devine un facilitator, un ghid, un coach, nu neapărat expertul. Așadar, atunci când pui „expertul” în interiorul cutiei pe care o numim computer, este acesta tipul de dependență pe care vrem cu adevărat să îl creăm? Avem cu adevărat nevoie de această dependență? Există oameni care formează legături extraordinare cu profesorii lor, cu educatorii lor. Aceștia sunt oamenii care îi ajută să se ghideze prin viață…

Ca niște mentori…

Exact. Așadar, vrei ca mentorul să fie în interiorul cutiei sau vrei ca mentorul să fie o ființă umană? Cum putem reduce acest decalaj pentru a nu crea, fără să ne dăm seama, o generație sau mai multe care văd mentorul doar în cutie și care apoi duc această dependență în viața adultă? Nu sunt sigur că aceasta este umanitatea pe care vrem să o construim.

În același timp, trebuie să găsim o modalitate de a valorifica uriașa valoare pe care această tehnologie o poate oferi. Acestea sunt conversații importante pe care trebuie să le abordăm cu mare atenție, pas cu pas. Care este primul pas, al doilea, al treilea… și care sunt consecințele unor astfel de alegeri? Asta înseamnă, inevitabil, că nu ar trebui să ne grăbim doar pentru că tehnologia există. Nu ar trebui să ne grăbim să o implementăm fără să examinăm cu atenție implicațiile modului în care este folosită.

Un studiu recent de la MIT arată că utilizatorii intensivi de ChatGPT, pe o anumită perioadă de timp, au prezentat cel mai scăzut nivel de angajare cerebrală și „au avut constant performanțe mai slabe la nivel neuronal, lingvistic și comportamental” comparativ cu cei care au folosit alte resurse (digitale).

Există un sentiment de împlinire — sau, în termeni umaniști, l-aș numi bucurie — pe care îl obținem din realizările dobândite prin propriul efort. Cu ajutorul tehnologiei medicale, putem literalmente „măsura” în creier și „vedea” cum o persoană care petrece timp lucrând la o problemă dificilă (de matematică, de exemplu) prezintă o activitate neuronală mai intensă decât cineva care primește răspunsul instantaneu (prin ChatGPT, de pildă). Cei care depun efortul își pot extinde orizontul cognitiv în abordarea seturilor complexe de probleme – acesta este rezultatul demonstrat de studiul MIT. Există un pas sinaptic între a cunoaște o problemă și a avea răspunsul, iar acel pas este călătoria de la problemă la soluție.

Ce înseamnă să pui etica în centrul practicilor zilnice ale utilizării AI?

O abordare etică înseamnă să pui omul în centrul atenției sau cel puțin să faci un efort de a înțelege consecințele pe termen lung ale alegerilor pe care le facem în privința IA.

De exemplu: desemnăm manageri care să supravegheze agenții digitali? Cum ar arăta organigrama în acest caz? Unii ar susține că întregul scop al unei organigrame este comanda și controlul. Dar dacă extinzi organizația și o privești strict printr-o lentilă bazată pe sarcini, mai ai nevoie de o organigramă?

Acestea sunt genul de conversații pe care companiile trebuie să le aibă înainte de a se grăbi să își transforme întreaga organizație într-o agenție digitală. Poate că vrei să creezi o divizie digitală pentru o parte dintre operațiunile tale. Poate pentru câteva fluxuri de lucru. Dar nu neapărat pentru întreaga companie.