AI-ul trebuie încetinit? Când cei care au apăsat accelerația cer acum frână

de Monica Popovici

Inteligența artificială a intrat într-o nouă etapă a disputei: nu se mai discută doar cât de repede poate evolua, ci dacă ar trebui să evolueze mai încet. Iar în spatele apelurilor la siguranță se ascunde o întrebare incomodă: cine stabilește cât de mult și cât de repede poate progresa AI-ul?

Cursa pentru dezvoltarea celor mai puternice sisteme de inteligență artificială începe să producă o situație aproape paradoxală.

Dario Amodei, CEO-ul Anthropic, una dintre companiile aflate în prima linie a dezvoltării AI, a cerut public ca industria să încetinească ritmul de dezvoltare a modelelor de frontieră. El propune evaluatori independenți, standarde comune de siguranță și cooperare între companiile care dezvoltă cele mai avansate sisteme.

Mesajul a primit sprijin inclusiv din partea lui Sam Altman, CEO-ul OpenAI, și a lui Elon Musk, fondatorul xAI.

Pentru o industrie construită în ultimii ani pe ideea că mai mare, mai rapid și mai performant înseamnă mai bine, schimbarea de ton este importantă.

Imagine creată cu Inteligența Artificială

De ce vor unii să apese frâna?

Argumentul principal este siguranța.

Modelele actuale nu mai sunt simple programe care răspund la întrebări. Ele pot utiliza instrumente, scrie și executa cod, analiza sisteme informatice și desfășura sarcini complexe cu un grad tot mai mare de autonomie.

În ultimele luni au apărut și incidente care au alimentat îngrijorările cercetătorilor. Anthropic a raportat utilizarea modelelor sale în activități precum operațiuni cibernetice, fraudă și dezvoltarea unor tehnologii periculoase. În paralel, companiile au început să publice rapoarte despre comportamente neașteptate ale agenților AI.

Amodei susține că problema nu este existența inteligenței artificiale, ci faptul că viteza cu care cresc capacitățile modelelor poate depăși viteza cu care oamenii reușesc să le testeze și să le controleze.

Uniunea Europeană a intrat și ea în această dezbatere. Ursula von der Leyen a declarat că dorește discuții cu marile laboratoare AI despre evaluarea și securitatea modelelor de frontieră.

Dar aici începe controversa

Pentru companiile care încearcă să ajungă din urmă liderii americani, ideea unei încetiniri generale nu sună la fel de convingător.

Compania franceză Mistral și alți reprezentanți ai industriei europene au criticat apelurile la încetinire, argumentând că acestea ar putea consolida poziția companiilor care sunt deja în frunte.

Reuters a relatat că reprezentanți ai industriei europene au acuzat companiile americane că ar putea folosi argumentul siguranței pentru a-și proteja avantajul competitiv. Pentru Europa, care încearcă încă să reducă decalajul față de SUA și China, o "frână" aplicată întregii industrii ar putea avea efecte foarte diferite.

Apare astfel o întrebare legitimă:

Dacă marile companii stabilesc împreună cât de repede trebuie să evolueze AI-ul, unde se termină cooperarea pentru siguranță și unde începe limitarea concurenței?

Controversa a ajuns în instanță

Disputa nu mai este doar una între cercetători și directori de companii.

Pe 21 septembrie, patru utilizatori ai unor servicii AI au intentat în SUA un proces împotriva Anthropic, OpenAI, Google și xAI, acuzând companiile că ar fi coordonat o încetinire a dezvoltării AI și că o asemenea coordonare ar încălca legislația antitrust. Companiile nu au fost condamnate pentru aceste acuzații, iar procesul este într-o etapă incipientă.

Și există un detaliu care arată cât de complicată este situația: chiar OpenAI a cerut anterior clarificări cu privire la legalitatea unei eventuale coordonări între companiile AI pentru încetinirea dezvoltării.

Cu alte cuvinte, siguranța AI se întâlnește acum cu legislația concurenței.

Nu toată lumea vrea frână

Amazon, de exemplu, a susținut că nu trebuie făcută o alegere între progres și siguranță. Compania spune că modelele ar trebui lansate atunci când sunt suficient testate și există măsuri de protecție adecvate, fără să susțină o încetinire generală a industriei.

Iar în Europa există voci care spun că problema este chiar inversă: dacă SUA și China continuă cursa, Europa nu își poate permite să încetinească tocmai când încearcă să recupereze decalajul tehnologic.

De aici rezultă o situație dificilă.

Dacă AI-ul evoluează prea repede, riscurile pot crește înainte ca regulile și mecanismele de control să fie pregătite.

Dacă dezvoltarea este încetinită prin acorduri între marile companii, există riscul ca acestea să-și protejeze poziția pe piață și să reducă presiunea concurențială.

Iar dacă doar o parte a lumii încetinește, avantajul poate ajunge la cei care aleg să continue.

Cine decide viteza AI-ului?

Aceasta este, probabil, întrebarea care va conta cel mai mult în următorii ani.

Companiile spun că vor siguranță. Cercetătorii cer evaluări mai serioase. Autoritățile încearcă să găsească reguli care să nu omoare inovația. Companiile mai mici se tem că regulile stabilite de liderii pieței le vor îngreuna accesul la tehnologie.

În același timp, modelele AI continuă să devină mai capabile.

De aceea, dezbaterea nu mai poate fi redusă la "AI este bun sau rău?".

Întrebarea reală este mult mai complicată:

Cât de repede vrem să evolueze inteligența artificială, cine stabilește această limită și cine verifică dacă regulile sunt făcute pentru siguranță sau pentru avantajul celor care sunt deja în frunte?