Forța magică a AI: beneficii, securitate și provocările reglementării

Modelele generative fac parte din munca obișnuită, fraudele deepfake au victime reale, iar Europa are prima lege complexă privind AI din lume. Aceasta este deja în vigoare, deși nu exact în forma în care se aștepta inițial. Iată ce s-a schimbat în mod real în ultimii trei ani și ce înseamnă acest lucru în practică.

Beneficii: trecerea de la promisiuni la operare

Lista beneficiilor AI nu s-a schimbat prea mult ca fond în ultimii ani: automatizarea activităților de rutină, sprijin pentru diagnosticare în medicină, optimizarea transportului, personalizarea sau accelerarea cercetării. S-a schimbat însă măsura în care aceste beneficii sunt implementate efectiv și, odată cu aceasta, și natura întrebării.

Acum trei ani, întrebarea era: „Se poate folosi așa ceva?” Astăzi, întrebarea este mai degrabă: „Merită?” Instrumentele generative au trecut de la demo-uri la utilizare zilnică în scris, cod, suport pentru clienți și procesarea documentelor. Aceasta este schimbarea reală.

În același timp, au devenit vizibile și limitele. Economia de timp în activitățile de rutină este măsurabilă, dar beneficiul se pierde rapid acolo unde rezultatul trebuie verificat atent. Costul nu a dispărut, doar s-a mutat din etapa de creare în etapa de verificare.

De aceea, atunci când AI este introdusă într-un proces, nu are sens să măsurăm doar cât timp economisește modelul. Mai important este cât timp durează întregul ciclu, inclusiv verificarea și corecturile. Fără această cifră, ROI-ul implementării AI este o estimare, nu un fapt.

sursă: pixabay

Când lucrurile scapă de sub control: ce a mai rămas din temeri

Conceptul inițial menționa superinteligența, armele autonome, încălcarea vieții private, șomajul și biasul. Trei ani de date ne permit astăzi să ordonăm aceste temeri în funcție de ceea ce se întâmplă cu adevărat și de ceea ce rămâne mai degrabă o speculație.

Cea mai mare și mai bine documentată schimbare este folosirea AI pentru fraude. International AI Safety Report din 2025 include printre riscurile reale, nu ipotetice, fraudele la scară largă, atacurile cibernetice și crearea de deepfake-uri sexualizate. Acestea le afectează cel mai dur în special pe femei, pe copii și alte grupuri vulnerabile.

Raportul împarte riscurile sistemelor avansate în trei categorii: utilizare abuzivă, eșecuri tehnice și riscuri sistemice. De asemenea, avertizează asupra manipulării opiniei publice în timpul alegerilor prin campanii de dezinformare țintite.

Între timp, securitatea cibernetică a trecut de la un risc teoretic la o problemă economică de prim ordin. În 2026, incertitudinea cibernetică a fost inclusă printre cele mai importante riscuri globale pe un orizont de doi ani, chiar dacă nu se află în primele cinci. Pentru companii, acest lucru înseamnă că nu mai este doar o problemă IT, ci un risc operațional și financiar.

Deepfake-ul nu mai este un fenomen marginal. La începutul anului 2026, mai multe state au blocat temporar accesul la generatorul Grok din cauza deepfake-urilor neconsensuale. Indonezia, Malaezia și Filipine au limitat accesul în ianuarie 2026, iar compania xAI a restricționat generarea de imagini doar la utilizatorii plătitori. Acesta este un exemplu concret de risc care, acum trei ani, exista mai ales ca avertisment.

În schimb, superinteligența și armele autonome rămân teme de discuție fără un impact clar măsurabil asupra operării curente a majorității organizațiilor. Șomajul cauzat de automatizare este, deocamdată, mai degrabă local decât generalizat. AI poate automatiza o parte a muncii de intrare, dar obstacolele tehnice, de proces și juridice continuă să încetinească implementarea pe scară largă. Așadar, amenințarea există, însă amploarea ei rămâne o întrebare deschisă, nu un fapt stabilit.

Cele mai frecvente abuzuri: realitatea în locul unei liste

Textul inițial menționa dezinformarea, phishingul, software-ul malițios, manipularea datelor și încălcarea vieții private ca posibile forme de abuz. Trei ani mai târziu, primele trei dintre acestea sunt susținute de cazuri reale.

Reclamele false cu celebrități pentru fraude investiționale au produs pierderi măsurabile. Autoritatea de reglementare din Australia avertiza încă din 2024 asupra videoclipurilor deepfake cu persoane publice folosite ca momeală pentru platforme de tranzacționare frauduloase. În 2025, autoritățile braziliene au destructurat o schemă care folosea reclame deepfake cu celebrități.

Phishingul alimentat de modele generative este astăzi mai ieftin, mai rapid și mai convingător decât în trecut. Acesta este și unul dintre motivele pentru care riscul cibernetic a ajuns printre amenințările globale importante.

Pentru apărarea practică, concluzia este simplă: cea mai mare rentabilitate nu vine astăzi din monitorizarea riscurilor speculative, ci din igiena de bază împotriva phishingului și a fraudelor deepfake alimentate de AI. Verificați identitatea în cazul tranzacțiilor financiare printr-un alt canal, priviți cu scepticism ofertele de investiții „susținute de celebrități” și instruiți oamenii să recunoască atacurile mai sofisticate.

Reglementarea: cea mai mare schimbare din ultimii ani

Acum trei ani, reglementarea era încă privită ca o posibilitate abstractă. Între timp, Uniunea Europeană a adoptat AI Act, primul cadru juridic complex pentru AI din lume. Consiliul UE l-a adoptat formal la 21 mai 2024, a intrat în vigoare la 1 august 2024, iar obligațiile sale sunt introduse treptat, în mai multe faze.

Importantă este însă schimbarea apărută în perioada 2025–2026, care a mers împotriva așteptării inițiale. Mulți se așteptau la înăsprire; în loc de asta, a venit amânarea unei părți a termenelor. Până la finalul anului 2025 devenise clar că implementarea se lovește de limite practice și de timp. De aceea, la 19 noiembrie 2025, Comisia Europeană a prezentat propunerea Digital Omnibus on AI, care a adus simplificări și amânarea unei părți a obligațiilor pentru sistemele cu risc ridicat.

Concret, aceasta înseamnă următoarele modificări:

• Sistemele cu risc ridicat din anexa III (biometrie, infrastructură critică, educație, ocuparea forței de muncă, migrație, aplicarea legii): obligațiile au fost mutate de la 2 august 2026 la 2 decembrie 2027, adică cu 16 luni.

• Sistemele integrate în produse (lifturi, jucării și altele similare): regulile se vor aplica începând cu 2 august 2028.

• Transparență (articolul 50): obligația de a marca conținutul sintetic într-un mod care poate fi citit de mașini a fost mutată pentru sistemele introduse pe piață înainte de 2 august 2026 la 2 decembrie 2026, adică doar cu patru luni. Regulile de transparență în sine intră în aplicare în august 2026.

A fost adăugată și o nouă interdicție pentru sistemele care generează conținut sexual explicit neconsensual sau materiale care prezintă abuzuri sexuale asupra copiilor, de exemplu aplicațiile de tip „nudificare”. Aceasta este o reacție directă la cazurile de deepfake descrise mai sus.

Amenzile nu sunt simbolice. Dacă un sistem AI prelucrează date cu caracter personal în contradicție cu GDPR, mai ales în cazul biometriei sau al recunoașterii emoțiilor, sancțiunile pot ajunge până la 104.600.000 lei sau 4 % din cifra de afaceri anuală globală.

Ce rezultă de aici pentru practică

Amânarea termenelor nu este un motiv pentru a opri pregătirea. Este mai degrabă un interval în care pregătirea poate fi făcută corect. Riscul real nu este că regulile s-ar fi relaxat. Nu s-au relaxat, în principal au fost decalate. Riscul este ca amânarea să inducă organizațiile în pasivitate, iar în 2027 termenul să le găsească nepregătite.

Primul pas practic este inventarierea. Cartografiați ce sisteme AI folosește organizația, cine este responsabil pentru ele, în ce scopuri sunt utilizate și dacă vreunul dintre ele intră într-o categorie cu risc ridicat sau interzisă.

Rezultatul măsurabil al acestei etape este simplu: o listă a sistemelor cu categoria de risc atribuită și cu data de la care li se aplică o obligație concretă. Fără o astfel de listă, pregătirea pentru AI Act se poate transforma ușor într-o discuție generală fără responsabil și fără termen.

Concluzie

În trei ani, dezbaterea despre AI s-a mutat de la nivelul „ce ar putea fi” la nivelul „ce există deja și ce facem cu asta”. Beneficiile sunt reale, dar rentabilitatea lor trebuie măsurată la nivelul întregului ciclu de lucru, nu la nivelul unei sarcini izolate.

Cele mai grave riscuri s-au dovedit a fi cele mai concrete: fraudele, phishingul și deepfake-urile, nu superinteligența. Reglementarea, care în 2023 era doar un subiect de discuție, este astăzi o lege în vigoare, cu termene amânate, dar nu anulate, și cu amenzi de peste o sută de milioane de lei.

Forța magică a AI rămâne. Doar că magia are astăzi instrucțiuni de utilizare, dată de aplicare și sancțiune pentru încălcare.