Alin Popescu, avocanet.ro: Cine face legea în A.I.

Alin Popescu, avocanet.ro: Cine face legea în A.I.

Reading Time: 9 minute

Boomul inteligenței artificiale a împins companiile tech într-o cursă contra cronometru pentru inovație, însă apariția cadrului de reglementare lansează numeroase provocări. Am stat de vorbă cu Alin Popescu, CEO și fondator al Avocanet.ro, despre cadrul legal în era AI.

Din perspectiva unui specialist care înțelege și tehnologia, și dreptul, ce impact crezi că va avea AI Act pentru startup-urile din România?

Vremurile noastre fac trecerea între două nevoi interesante ale oamenilor, din perspectiva reglementării. În trecut, construiai un serviciu digital, îl aruncai pe piață și chemai consultanții după acel moment, să repare ce e de reparat. „Move fast and break things” a fost, până prin 2014, motto-ul intern prin care Mark Zuckerberg a definit ritmul în care viteza era prioritizată, în detrimentul prudenței. Tehnologia, în sine, a transformat ideea într-o filosofie de dezvoltare, cu efectele pe care le-am simțit cu toții (vezi impactul rețelelor sociale în țesătura viații noastre).

AI Act este una dintre acele reglementări care apar din ce în ce mai des pe glob și care încearcă să oblige companiile de tehnologie să includă prudența mai devreme în ciclul de construcție al tehnologiei. În cazul sistemelor AI, actorii din lanțul de producție și distribuție trebuie să știe de la început ce rol au în ecosistem, ce categorie de risc implică produsul, ce date folosesc, ce pot explica și cine păstrează controlul uman.

Pentru companii (inclusiv startup-urile din România), asta înseamnă costuri, birocrație și dileme pe care în mod obișnuit nu și le-ar pune. Pentru societate însă poate face diferența dintre bine și rău, la nivel structural. De asta cred că un astfel de cadru e important, trebuie să existe. Companiile românești vor culege roadele faptului că se obișnuiesc să construiască respectând reguli. În viitor, nu cred că vor exista țări sau blocuri economice în care să nu găsim reglementări similare cu AI Act. Dacă regulamentul va fi aplicat inteligent, conformitatea europeană poate deveni un pașaport comercial, iar startup-urile care au învățat să construiască sub aceste reguli vor porni cu un avantaj când alte jurisdicții le vor adopta.

Cum vezi echilibrul dintre nevoia de a proteja drepturile cetățenilor și riscul de a suprareglementa și de a trimite talentele sau tehnologia în afara Europei?

Am crezut mereu că dreptul are la bază o regulă simplă: libertatea mea se oprește acolo unde face rău libertății tale. Cumva, prin influența asta reciprocă dintre bunăstarea mea și bunăstarea celorlalți, societățile moderne au ajuns să trăiască mult mai pașnic decât în trecut.

E chiar interesantă dilema asta, pentru că asistăm la o împărțire a lumii în trei direcții de abordare a vieții. SUA pare că prioritizează capitalul, China prioritizează statul, iar Europa a ales să prioritizeze omul, cu drepturile și libertățile lui. Știu că, din multe perspective, pare că Europa e o închisoare a minții, dar drepturile pe care le asigură AI Act sau GDPR, spre exemplu, ca să nu mai spun de regulamentele ce vizează dreptul la reparare al produselor tehnologice sau Directiva privind răspunderea pentru produsele cu defecte (ce include și efectele AI-ului) sunt la nivel de frontieră pentru lumea întreagă.

Pentru niciunul dintre aceste blocuri însă opțiunea pe care mizează nu vine gratis. Modelul american produce inovație spectaculoasă și lasă victimele fără apărare, obligându-le să se adune în instanțe, ani mai târziu, dacă își permit asta. Chinezii livrează viteză și control, dar, dacă privești modelul lor cu adevărat, atunci când vizitezi China, îți dai seama că prețul s-ar putea să fie unul pe care noi nu l-am accepta niciodată. Iar varianta europeană e scutul perfect pentru cetățean, obligând companiile să treacă prin focul unor proceduri birocratice lente și scumpe.

În acest context ar trebui să vorbim despre suprareglementarea europeană și relația ei cu talentul sau tehnologia care pleacă spre alte zone ale lumii. Unul dintre cele mai citate rapoarte ce abordează tema asta e ”The Future of European Competitiveness”, produs de Mario Draghi la cererea Comisiei Europene. Documentul spune că Europa are o problemă de transformare și scalare pentru că produce cercetare, brevete și oameni foarte buni, dar transformă prea puține dintre ele în companii tehnologice globale.

Reglementarea contribuie serios la problemă, însă reprezintă o piesă dintr-un mecanism mult mai amplu. Talentul și tehnologia pleacă spre SUA (majoritar) din cauza fragmentării pieței unice europene (mai ales în servicii digitale și telecom), a lipsei unei uniuni a piețelor de capital (economiile europenilor, câteva sute de miliarde de euro anual, pleacă spre SUA în loc să finanțeze companii europene), din cauza costului energiei ori a unui decalaj de investiții în cercetare (companiile din UE cheltuiau în 2021 cu circa 270 de miliarde de euro mai puțin pe R&D decât cele americane) și incapacității de a transforma cercetarea în companii la scară.

Companiile pleacă acolo unde li se pun bani și evaluări mari pe masă. Astăzi, Uniunea Europeană nu poate face asta, iar GDPR / AI Act / DSA nu sunt principalele motive pentru care nu o poate face.

Când un sistem AI autonom greșește grav, cine ar trebui să meargă în instanță: dezvoltatorul, cel care a antrenat modelul sau utilizatorul final?

Noua directivă europeană privind răspunderea pentru produsele defectuoase (2024/2853, pe care România trebuie să o transpună până în decembrie 2026) tratează explicit software-ul și sistemele AI drept produse. Ideea e interesantă, pentru că simplifică mult discuția despre cine cum răspunde. În legislație (AI Act), cel care dezvoltă un sistem AI se numește furnizor. El construiește și antrenează sistemul sub brandul său propriu și îl pune pe piață ori îl distribuie altora ca atare. Companiile care utilizează acest sistem AI păstrând brandul furnizorului se numesc implementatori. Dacă, în schimb, implementatorul schimbă sistemul AI și (din vanitate ori nevoi comerciale) îl pune pe piață sub brandul său propriu, eliminând referirile la furnizorul original al sistemului, atunci acel implementator îmbracă haina de furnizor și va căpăta răspunderi mai mari.

În tot acest lanț de producție, situațiile care se pot întâmpla sunt multiple. Furnizorul unui sistem AI răspunde pentru produsul defectuos creat de el. OpenAI, spre exemplu, răspunde pentru ChatGPT, dacă sistemul respectiv e defectuos și produce pagube cuiva. Atunci când un producător auto integrează un sistem AI în mașina lui și vinde mașina sub brandul propriu, el va răspunde pentru produsul final pe care îl oferă. Dacă atât furnizorul sistemului AI cât și compania auto sunt responsabili pentru o parte a prejudiciului, atunci se va aplica așa-numita răspundere în solidar, unde victima poate cere întreaga despăgubire de la oricare dintre ei, iar companiile își reglează ulterior, prin acțiuni separate, cine are bani să-i dea cui. Regulile, deci, par a fi destul de simple, dar asta e teoria. Practica ne va pune în situații în care e complicat să dovedești legătura între defecțiunea produsului și prejudiciul tău.

Care sunt, în opinia ta, zonele din business unde AI aduce valoare reală, măsurabilă în ROI (Return on Investment)?

Asta chiar mi se pare o dilemă foarte interesantă și am discutat despre ea cu mulți prieteni și clienți. Cred că e un mix de motive pentru care AI-ul nu e astăzi atât de evident implicat în generarea de valoare reală. Un prim motiv ar fi acela că, în multe companii, nu există o politică unitară de utilizare a AI-ului. Fie managementul nu îl înțelege și, cum nu îi pasă oficial de el, oamenii se descurcă cum pot, fie managementul le impune oamenilor să utilizeze ”ceva”, dar nimeni nu are o idee clară ce și cum ar trebui utilizat. Am observat că, în astfel de companii, dacă se creează o echipă de control și un proiect pilot pe care echipa asta își concentrează eforturile, lucrurile se lansează, apoi, în direcția bună. Dacă nu există interesul ăsta, evident că nu putem vorbi de un ROI adevărat. Un al doilea motiv ar fi frica oamenilor de-a fi înlocuiți de AI. Compania are propriile programe de utilizare, dar oamenii se tem să le folosească din frica de-a nu fi, apoi, victime ale succesului acelor programe.

În final, cred că mai e un motiv. AI-ul eșuează în companii pentru că toată lumea vrea bani de la el, în loc să se gândească la precursori de acțiuni generatoare de bani. Altfel spus, în buget se va uita toată lumea la reducerile de costuri, creșterile de profit sau altele asemenea pe care le generează AI-ul implementat. Poate, în loc să caute asta de la început, board-ul unor companii s-ar putea concentra pe timpul necesar pentru realizarea unei operațiuni, numărul de erori, viteza de răspuns, volumul de muncă etc.

Acolo unde o companie poate măsura corect, înainte și după, impactul noii tehnologii, rezultatele se vor vedea în ROI. Din păcate, multe companii implementează ceva și apoi așteaptă miracole.

Crezi că LLM-urile (Large Language Models) vor înlocui avocații stagiari pentru sarcini de cercetare și analiză de contracte, sau doar le vor schimba fișa postului?

Cred că LLM-urile vor înlocui mulți oameni (printre care și avocați, nu neapărat doar stagiari), dar motivul pentru care o vor face e legat, în principal, de relația acelor oameni cu munca pe care o fac ei. Din observațiile mele, văd în piață două tipuri de raportări la inteligența artificială. Unii oameni o folosesc pentru că vor să nu mai facă nimic (din păcate, simt că e un grup majoritar acesta), în timp ce alții folosesc AI-ul cu gândul că ar vrea să facă tot ce n-au putut face vreodată. Atunci când îi ceri unui chatbot să ”scrie un email”, fără să îi dai context, să îi explici contextul în care trebuie scris, audiența acelui email, limitările de scriere sau tipul de formatare pe care  o aștepți, nu faci altceva decât să întrebi un trecător de pe stradă, absolut străin de conversația ta pe email, să redacteze un email așa cum îi vine în minte. Evident că rezultatele vor fi dezastruoase. Am văzut situația asta repetată la niveluri din ce în ce mai înalte, de la oameni care voiau ”contracte de X” până la solicitări de prezentări, rapoarte și altele. Când faci asta doar din dorința să scapi repede de muncă, ai toate șansele să devii înlocuibil. Pentru că tu, spre deosebire de alții, ești, deja, un robot. Și în contrast cu un robot adevărat, evident că nu poți câștiga. 

Mulți stagiari (cum ziceam, însă, nu doar ei au problema asta), consideră că documentarea pentru un caz sau un contract e doar o propoziție pe care o dai lui Claude sau ChatGPT ori Gemini și apoi iei răspunsul și îl lipești într-un word, schimbi unu, două cuvinte și dai mai departe rezultatul. În epoca asta, cred că e absolut necesar să ne păstrăm atributul gândirii pentru noi înșine, să externalizăm orice, dar să ne ținem cu dinții de păstrarea creierului nostru cât de antrenat se poate. De asta, documentarea cu un AI e foarte importantă, dar produsul finit ar trebui asamblat, rescris și verificat la sânge de om, dacă acel om vrea să-și construiască propriile competențe specializate. Altfel, e doar un scrib, echivalentul acelor oameni care transcriau, de mână, cărți și pergamente, în răcoarea și semi-întunericul unor încăperi din bisericile medievale, considerând că munca lor e vitală pentru lumea din jur. Până s-a născut invenția domnului Gutenberg.

Modelele mari de AI sunt antrenate pe volum masiv de date text și vizual protejate de copyright. Care este soluția legală și echitabilă la care crezi că se va ajunge în disputa dintre creatori și companiile de tehnologie?

Cred, mai întâi de toate, că se va crea un mecanism de licențiere a conținutului folosit pentru antrenarea modelelor AI. Când și cum, e greu de spus, însă. Inteligența artificială, cel puțin forma ei care se construiește prin intermediul acelor mari modele de limbaj (LLM-urile), are nevoia permanentă de-a accesa texte, de-a actualiza propriile cunoștințe și de a  se pune la curent cu un context ori altul. Se investește major în dezvoltarea unor forme sintetice de text și conținut media, dar textele generate de oameni s-ar putea dovedi, cel puțin o vreme, vitale pentru coerența, actualitatea și corectitudinea unor conversații pe care le avem cu AI-ul. În ultimii ani, în goana după modele mai mari și mai inteligente, producătorii acestora au gripat sistemul de generare de conținut, lipsind autorii de forme adesea minime de recompensare. Dacă acest fapt se perpetuează în timp, vom asista la un ecosistem din care autorii umani dispar, lipsiți de mijloacele de trai, iar sistemele AI devin, în timp, mai greu de actualizat și extins.

Putem paria cu toții că geniile din Silicon Valley sau Shanghai vor inventa conținutul sintetic, generat de același AI, dar pariul va fi mai riscant decât credem. De asta cred că, într-o formă sau alta, mecanismele de licențiere vor deveni comune și business as usual pentru majoritatea furnizorilor de sisteme AI. Vom ajunge acolo, evident, și pentru că procese diverse, din zone diferite ale lumii, vor obliga furnizorii să plătească, pentru antrenamentul trecut, sume importante de bani.

Cât de riscant este pentru un antreprenor la început de drum să își bazeze deciziile legale exclusiv pe răspunsul unui prompt generat de AI?

Dacă aș răspunde de la o catedră de drept, aș spune că e cea mai mare greșeală pe care o poate face acel antreprenor. Doar că, știm cu toții, viața are un fel de-a se întâmpla dincolo de teorie. Adevărul e  că, la început de drum, puțini antreprenori merg la un avocat (cum nu merg nici la contabili capabili sau alți consultanți). Din unghiul ăsta dacă privim problema, un chatbot e, măcar, un pas înainte pentru ei. Avocatura, ca serviciu, are un specific foarte interesant, pentru că uneori trebuie să identifice fisuri acolo unde omul nu-și pune problema că ar putea exista. Prin conversația cu un chatbot, antreprenorul ar putea afla, deci, că nu prelucrează date personale corect ori că ar avea nevoie de cine știe ce aviz ori aprobare ca să realizeze activitatea X. Că ar trebui ca, ulterior, acel antreprenor să ia dilemele din chatbot și să le ducă unui specialist, asta e altă discuție. Evident că ar trebui să o facă, mai ales acolo unde consecințele se vor dovedi importante pentru proiectul lui.

Puțini oameni își pun problema că o afacere condusă incorect poate lăsa urme adânci în reputația, sănătatea, familia sau viața lor. Din păcate, o afacere nu se închide și atât, atunci când nu merge. Uneori, ai datorii, ai procese, ai angajați și multe alte lucruri care, privite în ochi, nu se pot doar băga sub preș cu speranța că la un moment dat vor dispărea singure. Dacă ar fi să dau un sfat simplu, atunci aș spune antreprenorului să pună pe masă cele mai mari frici ale lui și să se gândească să rezolve acele probleme cu impact direct asupra fricilor respective. Și da, chiar și cei care se tem doar de Dumnezeu ar putea să aibă în minte faptul că păcatele se întâlnesc în tot felul de locuri, inclusiv în afaceri.

Articolul a fost inițial publicat în Biz nr. 409 (15 august – 15 septembrie 2026). Dacă dorești să primești Revista Biz prin curier, abonează-te aici.