Următorul val – Mustafa Suleyman

Inteligența artificială și cea mai mare dilemă a secolului 21

Un rezumat de Sorin Scorțan

26 octombrie, 2025 — Cărți de investiții

investitii istorie performanta productivitate

Istoria inteligenței artificiale este scrisă chiar în momentul acesta… de către Inteligența Artificială. Și nimeni nu este pregătit pentru următorul val de tehnologii transformatoare.

Mustafa Suleyman, CEO-ul Microsoft AI și cofondatorul DeepMind, companie IA achiziționată de Google pentru 400 milioane de lire sterline, îți prezintă potențialul și amenințările unor tehnologii care vor schimba societatea în care trăim, precum inteligența artificială, secvențierea ADN, armele autonome, biotehnologia sintetică și multe altele. Viitorul este deja aici, dar umanitatea este la un punct de cotitură.

Într-o carte care te lovește ca un tsunami, vei afla cum să îți croiești propriul drum într-o societate supertehnologizată.

”Un ghid excelent pentru a naviga in vremuri fără precedent.” – Bill Gates

Am extras idei interesante din această carte:

Aproape fiecare tehnologie fundamentală inventată vreodată, de la târnăcoape la pluguri, de la ceramică la fotografie, de la telefoane la avioane și tot ce se află între acestea, respectă o singură lege, aparent imuabilă: devine mai ieftină și mai ușor de utilizat și, în cele din urmă, se răspândește pe scară largă.
Următorul val este definit de două tehnologii de bază: inteligența artificială (IA) și biologia sintetică. Împreună, acestea vor inaugura o nouă eră pentru umanitate, generând prosperitate și surplus cum nu s-a mai văzut până acum. Cu toate acestea, proliferarea lor rapidă amenință, de asemenea, să dea putere unei serii diverse de protagoniști răuvoitori, care ar putea să cauzeze tulburări, instabilitate și chiar catastrofe la o scară de neimaginat. Acest val creează o provocare imensă, care va defini secolul al XXI-lea: viitorul nostru depinde de aceste tehnologii și este, în același timp, pus în pericol de ele;
În prezent, sistemele de inteligență artificială pot recunoaște aproape perfect chipurile și obiectele. Am ajuns să considerăm cât transpunerea vorbirii în scris și traducerea automată din limbi străine sunt lucruri normale;
Inteligența artificială permite navigare pe șosele și în trafic suficient de bine pentru a putea conduce autovehicule în mod autonom în aceste situații. Sistemele de inteligență artificială pot produce voci sintetice de un realism straniu și pot compune muzică de o frumusețe uimitoare;
Inteligența artificială își îmbunătățește, de câteva decenii, abilitățile cognitive și se pare că în următorii 3 ani va atinge performanțe echivalente celor umane cu privire la o gamă foarte largă de sarcini;
Inteligența artificială este pretutindeni: la știri și în telefonul tău inteligent, tranzacționând acțiuni la bursă și construind pagini de internet. Multe dintre cele mai mari companii din lume și cele mai bogate națiuni se grăbesc să avanseze, proiectând modele de IA și tehnici de inginerie genetică de ultimă generație, susținută de investiții de zeci de miliarde de dolari;
Cu toate acestea, IA, biologia sintetică și alte forme avansate de tehnologie generează riscuri la o scară extrem de îngrijorătoare, care ar putea reprezenta o amenințare existențială pentru statele naționale, putând perturba sau chiar răsturna ordinea geopolitică actuală. Acestea deschid calea către atacuri cibernetice de mare amploare cu ajutorul inteligenței artificiale, războaie automatizate, care ar putea devasta țări întregi, pandemii create artificial și o lume supusă unor forțe inexplicabile și totuși aparent omnipotente;
Iată dilema principală: faptul că, mai devreme sau mai târziu, o generație puternică de tehnologie va conduce omenirea către situații catastrofale sau distopice. Cred că aceasta este marea metaproblemă a secolului al XXI-lea;
Abordarea adecvată a acestui val, capacitatea de a controla tehnologia și de a ne asigura că aceasta servește întotdeauna umanității înseamnă depășirea aversiunii față de pesimism. Înseamnă să înfruntăm direct ceea ce urmează;
Istoria este plină de profeți falși și de proroci pesimiști care s-au înșelat. De ce ar trebui ca de data aceasta lucrurile să stea diferit?
Aversiunea față de pesimism este o reacție emoțională, un refuz instinctiv și adânc înrădăcinat de a accepta posibilitatea unor consecințe puternic destabilizatoare. Aceasta trebuie să fie de partea celor care ocupă poziții sigure și puternice, cu con ci fixe despre lume, oameni care pot face față în mod superficial schimbărilor, dar care nu acceptă cu ușurință nici o provocare reală la adresa ordinii lor mondiale;
Avem nevoie urgentă de răspunsuri clare cu privire la modul în care viitorul val poate fi controlat și stăvilit, la modul în care pot fi menținute garanțiile și beneficiile statului național democratic, dar, în acest moment, nimeni nu are un astfel de plan;
Deja zguduit de crize, statul național va fi slăbit și mai mult de o serie de șocuri amplificate de val: posibilitatea apariției unor noi forme de violență, a unui val de informare greșită, a dispariției locurilor de muncă și de perspectiva unor accidente catastrofale;
Tehnologia are o traiectorie clară și inevitabilă: răspândirea pe scară largă, în valuri mari, furtunoase. Acest lucru este valabil de la primele unelte din silex și os până la cele mai recente modele de inteligență artificială. Pe măsură ce știința produce noi descoperiri, oamenii aplică aceste cunoștințe pentru a produce alimente mai ieftine, mărfuri mai bune și un transport mai eficient. Cu timpul, cererea pentru cele mai bune produse și servicii noi crește, stimulând concurența să producă versiuni mai ieftine, Mărfuri mai bune și un transport mai eficient;
La rândul său, acest lucru determină o cerere și mai mare de tehnologii care să creeze asemenea produse, iar acestea devin, de asemenea, mai ușor și mai ieftin de utilizat. Costurile continuă să scadă. Capacitățile cresc. Experimentează, repetă, utilizează. Dezvoltă, îmbunătățește, adaptează. Aceasta este natura evolutivă inevitabilă a tehnologiei;
În termeni simpli, un val este un set de tehnologii care apar în aceeași perioadă, alimentate de una sau mai multe tehnologii noi de uz general, cu implicații sociale profunde. Prin ”tehnologii de uz general” mă refer la cele care permit progrese majore în ceea ce poate face ființa umană. Societatea evoluează în concordanță cu aceste salturi;
Valurile de tehnologie nu sosesc cu predictibilitatea ordonată a mareelor. Pe termen lung, valurile se intersectează și se intensifică în mod neregulat. Valurile – pulsatorii, crescătoare, succesive, cumulative și cu putere de propagare reciprocă – definesc orizontul de posibilități tehnologice al unei epoci. Ele fac parte din noi. Nu există ființe umane non-tehnologice;
Tehnologiile de uz general devin valuri atunci când se răspândesc pe scară largă. Fără o propagare globală epică și aproape necontrolată, nu este un val, este o curiozitate istorică. Cu toate acestea, odată ce începe propagarea, procesul are ecou de-a lungul istoriei, De la răspândirea agriculturii în întreaga masă continentală eurasiatică până la răspândirea lentă a morilor de apă din Imperiul Roman întreaga Europă;
Pe măsură ce obții o tehnologie tot mai bună și mai ieftină, aceasta permite noi tehnologii tot mai ieftine la nivelul inferior. Uber a fost imposibil fără telefonul inteligent, care, la rândul său, a fost înlesnit de GPS, care au fost facilitate de sateliți, care au fost înlesniți de rachete, care au fost facilitate de tehnicile de combustie, care au fost înlesnite de limbaj și de foc;
În 1983, doar 562 de calculatoare erau conectate la internetul timpuriu. În prezent, numărul calculatoarelor, al telefoanelor inteligente și al dispozitivelor conectate este estimat la 14 miliarde. A fost nevoie de câțiva ani pentru ca telefoanele inteligente să treacă de la a fi un produs de nișă la a fi un obiect absolut esențial pentru 2/3 din populația planetei;
Odată cu acest val au apărut e-mailul, rețelele sociale, videoclipurile online – fiecare dintre acestea fiind o experiență fundamental nouă, posibile datorită tranzistorului și unei alte tehnologii de uz general: internetul;
Cu doar câteva decenii în urmă, stocarea datelor era de domeniul cărților și al arhivelor prăfuite. Acum, oamenii produc zilnic sute de miliarde de e-mailuri, mesaje, imagini și videoclipuri, pe care le stochează în cloud. 18 milioane de gigabiți de date sunt adăugate la suma globală în fiecare an în orice zi;
Telefoanele noastre sunt primul lucru pe care îl folosim dimineața și ultimul cu care ne încheiem seara. Fiecare aspect al vieții umane este vizat: ele ne ajută să ne găsim dragostea și noi prieteni, în timp ce turboalimentează lanțurile de aprovizionare. Ele influențează cine este votat și cum este ales, unde sunt investiți banii noștri, stima de sine a copiilor noștri, gusturile noastre muzicale, moda, mâncarea și tot restul;
Provocarea inevitabilă a tehnologiei este faptul că creatorii ei pot pierde rapid controlul asupra direcției în care se dezvoltă invențiile lor, odată ce sunt prezentate lumii;
Cu cât o tehnologie este mai puternică, cu atât este mai înrădăcinată în fiecare aspect al vieții și al societății. Astfel, problemele tehnologiei au tendința de a se amplifica în paralel cu capacitățile sale, astfel încât nevoia de control devine tot mai acută în timp;
Controlul cuprinde reglementări, o mai bună siguranță tehnică, noi modele de guvernanță și de proprietate și noi moduri de responsabilitate și transparență, toate acestea fiind precursori necesari, dar nu suficienți, ai unei tehnologii mai sigure;
Controlul nu ar trebui să fie văzut ca fiind răspunsul final în toate problemele tehnologiei; este mai degrabă primul pas, critic, un fundament pe care se construiește viitorul;
De-a lungul istoriei, oamenii au încercat să se opună noilor tehnologii, pentru că se simțeau amenințați și se temeau că mijloacele lor de trai și modul lor de viață vor fi distruse. Luptând, așa cum credeau ei, pentru viitorul familiilor lor, erau dispuși, dacă era necesar, să distrugă fizic ceea ce venea;
Tehnologia este un fel de morcov (a se citi: recompensă) care stă permanent atârnat, care permite mereu mai mult, mai bine, mai mare, mai ieftin. Apetitul nostru pentru invenții este insațiabil;
În decurs de aproximativ 100 de ani, mai multe valuri tehnologice succesive au condus omenirea de la o eră a lumânărilor și a căruțelor trase de cai la una a centralelor electrice și a stațiilor spațiale. Ceva similar se va întâmpla în următorii 30 de ani;
În următoarele decenii, un nou val de tehnologie ne va forța să ne confruntăm cu cele mai importante întrebări cu care specia noastră s-a confruntat vreodată;
Viitorul val de tehnologie se bazează, în principiu, pe două tehnologii de uz general, capabile să opereze atât la cel mai înalt, cât și la cel mai mărunt nivel: inteligența artificială și biologia sintetică;
Pentru prima dată, componentele de bază ale ecosistemului nostru tehnologic abordează direct două proprietăți fundamentale ale lumii noastre: inteligența și viața. Cu alte cuvinte tehnologia trece printr-o tranziție de fază. Nu mai este o simplă unealtă, cine va proiecta viața și va rivaliza cu propria noastră inteligență, ba chiar va depăși;
Se deschid tărâmuri care până acum erau ferecate pentru tehnologie. Inteligența artificială ne permite să reproducem vorbirea și limbajul, vederea și raționamentul. Progresele fundamentale biologia sintetică ne-au permis să secvențiem, să modificăm și, în prezent, să imprimăm ADN;
Valul care va urma va fi mai greu de controlat decât oricare altul din istorie, mai fundamental și de mare anvergură. Înțelegerea valului și a implicațiilor sale este esențială pentru a putea aprecia ceea ce ne așteaptă în secolul al XXI-lea;
Grație învățării profunde, vederea artificială este acum pretutindeni, funcționează atât de bine, încât poate clasifica scene stradale dinamice din lumea reală cu informație vizuală echivalentă cu 21 de ecrane full HD sau aproximativ 2,5 miliarde de pixeli pe secundă, suficient de precisă pentru a face ca un SUV se poate circula pe străzile aglomerate ale unui oraș;
Telefonul tău inteligent recunoaște obiectele și scenele, în timp ce sistemele vizuale estompează automat fundalul și evidențiază persoanele din convorbirile tale în cadrul videoconferințelor. Vederea artificială stă la baza supermarketurilor fără case de marcat de la Amazon și este prezentă în mașinile Tesla, făcându-le tot mai autonome;
Ajută la pilotarea dronelor, semnalează conținutul nepotrivit pe Facebook și diagnostichează o listă tot mai mare de afecțiuni medicale;
Marile companii de tehnologie, atât din Statele Unite, cât și din China, au plasat învățare automată în centrul eforturilor de cercetare și dezvoltare;
În câțiva ani, inteligența artificială va putea vorbi, raționa și chiar acționa în aceeași lume ca noi, sistemele sale senzoriale vor fi la fel de bune ca ale noastre. Acest lucru nu echivalează cu o super inteligență, dar va crea sisteme incredibil de puternice;
Învățarea profundă poate detecta fisurile din conductele de apă, poate gestiona fluxul traficului, poate modela reacțiile de viziune pentru o nouă sursă de energie curată, poate optimiza rutele de transport maritim și poate ajuta la proiectarea unor materiale de construcție mai durabile și mai versatile;
Modelele lingvistice mari (LLM) – datele lingvistice sunt prezentate într-o ordine secvențială. Fiecare unitate de informații este într-un fel legată de datele anterioare printr-o serie. Modelul citește un număr foarte mare de propoziții, învață o reprezentare abstractă a informațiilor conținute în acesta și apoi, pe baza acesteia, generează o predicție despre ceea ce ar trebui să urmeze;
Atunci când un model lingvistic mare asimilează o propoziție, acesta construiește ceea ce se poate considera o ”hartă a atenției”. El organizează mai întâi grupurile de litere sau semne de punctuație care apar în mod obișnuit în ”simboluri”, ceva de genul silabelor, dar, în realitate, doar bucăți de litere care apar frecvent, ceea ce facilitează procesarea informațiilor de către model;
Îi poți cere lui GPT-4 să compună poezii în stilul lui Emily Dickinson și acesta se conformează; îi poți cere să preia la întâmplare pe net din ”Stăpânul inelelor” și dintr-o dată citește o imitație plauzibilă a lui Tolkien;
Îi poți cere planuri de afaceri pentru start-upuri și rezultatul pare să vină dintr-o cameră plină de directori aflați la datorie. În plus, poate fi un as la testele standardizate, de la examenul de barou până la examenul de admitere la studii postuniversitare;
În 1996, 36 de milioane de oameni foloseau internetul. Anul acesta numărul lor va depăși cu mult 5 miliarde. Acesta este genul de traiectorie la care ar trebui să ne așteptăm pentru aceste instrumente, doar că mult mai rapidă. În următorii ani, cred că IA va deveni la fel de omniprezentă ca internetul însuși, la fel de disponibilă și totuși chiar mai importantă;
Compania chineză Alibaba a creat deja un model care pretinde că are 10 trilioane de parametri. Până când vei citi aceste rânduri, cifrele vor fi crescut, cu siguranță. Aceasta este realitatea valului care se apropie. El avansează într-un ritm fără precedent, luându-i prin surprindere chiar și pe promotorii săi;
La nivelul actual de calcul, avem deja performanță comparabile cu cele umane în sarcini care variază de la transcrierea vorbirii la generarea de text. Inteligența artificială va continua să devină radical mai bună în toate domeniile, iar până în prezent nu pare să existe o limită superioară evidentă a ceea ce este posibil;
Potrivit spuselor unui eminent informatician: ”Mi se pare absolut evident că, în cele din urmă, toate programele din viitor vor fi scrise de inteligență artificială, iar oamenii vor fi limitați, în cel mai bun caz, la rol de monitorizare”;
În prezent, avem o inteligență artificială îngustă sau slabă: versiuni limitate și specifice. GPT-4 poate scrie texte impecabile, dar nu poate schimba ziua de mâine și nu poate conduce o mașină, așa cum fac alte programe de inteligență artificială. Sistemele de inteligență artificială existente operează încă pe prinse relativ înguste. Ceea ce urmează să apară este o inteligență artificială cu adevărat generală sau puternică, capabilă de performanțe la nivel uman într-o gamă largă de sarcini complexe, capabile să treacă fără probleme de la una la alta;
Inteligența artificială capabilă (IAC) este punctul în care inteligența artificială poate realiza obiective și sarcini complexe cu supraveghere minimă. Aceasta reprezintă următoarea etapă în evoluției inteligenței artificiale. Un sistem care nu numai că ar putea recunoaște și genera imagini, sunet și limbaj noi, adecvate unui anumit context, dar ar fi și interactiv, funcționare în timp real, cu utilizatori reali;
La fel ca inteligența artificială, ingineria genetică este un domeniu in expansiune, care evoluează și se dezvoltă în fiecare săptămână, o concentrare globală masivă de talent și energie care începe să dea roade reale. Terapiile genice sigure și accesibile la scară largă sunt pe cale să devină o realitate. Acestea vor crea culturi rezistente la secetă și la boli, vor crește randamentul și vor contribui la producerea de biocombustibili la scară largă;
Valurile de tehnologie sunt mai mari decât una sau două tehnologii de uz general. Acestea sunt grupuri de tehnologii care apar aproximativ simultan, în contracte de una sau mai multe tehnologii de uz general, dar care se extind dincolo de acestea;
Roboții agricoli nu doar că urmează să apară, ci sunt deja aici. De la dronele care supraveghează efectivele de animale la platformele de irigare de precizie și până la mici roboți mobili care patrulează vaste ferme de interior, de la însămânțare la recoltare, de la cules la paletizare, de la udarea roșiilor la urmărirea și pășunatul vitelor, realitatea în privința alimentelor pe care le consumăm astăzi este că acestea provin din ce în ce mai mult dintr-o lume robotizată, condusă de inteligență artificială și care este în curs de dezvoltare și de extindere;
Calculul cuantic are implicații de mare anvergură. De exemplu, criptografia care stă la baza a orice, de la securitatea e-mailurilor la criptomonede, ar putea fi pusă brusc în pericol, într-un eveniment iminent pe care cei din domeniu îl numesc ”Ziua Q”;
O răspândire rapidă și necontrolată a calculului cuantic ar putea avea implicații catastrofale asupra comunicațiilor bancare sau guvernamentale. Atât băncile, cât și guvernele cheltuiesc deja miliarde de dolari pentru a preveni această posibilitate;
Până în 2027, energia regenerabilă va deveni cea mai mare sursă unică de generare a energiei electrice. Această schimbare are loc într-un ritm fără precedent, în următorii ani urmând să se adauge mai multe capacități regenerabile decât în ultimele 2 decenii. Energia solară, în special, cunoaște o creștere rapidă, iar costurile scad semnificativ. Energia nu este doar mai ieftină, ci mai răspândită, potențial localizabilă, de la echipamente individuale la comunități întregi;
În esența sa, valul care se apropie este o poveste despre proliferarea puterii. Dacă ultimul val a redus costurile de difuzare a informații, acesta reduce costurile de a acționa asupra acesteia, dând naștere unor tehnologii care trec de la secvențiere la sinteză, de la citire la scriere, de la editare la creație, de la imitarea conversațiilor la coordonarea lor;
Dronele ne oferă o idee despre ceea ce ne așteaptă în viitor în materie de război. Ele reprezintă o realitate cu care strategii și combatanții se confruntă zilnic. Adevărata întrebare este ce înseamnă acest lucru într-un conflict armat. Atunci când costurile de producție vor scădea cu un alt ordin de mărime și capacitățile se vor multiplica. Armatele convenționale și guvernele se luptă deja să le controleze, iar ceea ce va urma va fi mult mai greu de stăpânit;
Un singur program de inteligență artificială poate scrie la fel de mult text ca întreaga omenire. Un singur program de generare de imagini de 2 Gb care rulează pe laptopul tău poate comprima toate imaginile de pe internet într-un instrument care generează imagini cu o creativitate și o precizie extraordinare. Un singur experiment patogen ar putea declanșa o pandemie, un mic eveniment folicular cu repercusiuni la nivel global. Un singur calculator cuantic viabil ar putea face redundantă întreaga infrastructură de criptare din lume. Perspectivele impactului asimetric sunt în creștere pretutindeni, chiar și în sens pozitiv – sisteme unice ce pot oferi, de asemenea, beneficiu uriaș;
În următorii 40 de ani, vom vedea atât lumea atomilor transformată în biți, la noi niveluri de complexitate și fidelitate, deci lumea biților transformată din nou în atomi tangibili, cu o viteză și o ușurință de neconceput până de curând;
Tehnicile de inteligență artificială pot căuta în vastul spațiu al moleculelor posibile tratamente, dificil de găsit, dar utile. În 2020, un sistem de inteligență artificială analizat cu 100 de milioane de molecule pentru a crea primul antibiotic derivat din învățarea automată, numit halicină, care poate ajuta la combaterea tuberculozei;
Tehnologiile cu utilizare universală, cum ar fi aburul sau electricitatea, au efecte principale și efecte secundare mai ample asupra societății decât tehnologiile mai restrânse. Dacă inteligența artificială este într-adevăr noua electricitate, atunci, la fel ca electricitatea, aceasta va fi o facilitate la cerere, care va pătrunde și va alimenta aproape fiecare aspect al vieții de zi cu zi, al societății și al economiei. O tehnologie de uz general, prezentă pretutindeni. Va fi întotdeauna mult mai greu să stăpânești așa ceva decât să controlezi o tehnologie limitată, cu o singură sarcină, fixată într-o nișă îngustă, cu puține ramificații;
Cu timpul, tehnologia tinde spre generalitate. Acest lucru înseamnă că vor fi posibile utilizări militare sau dăunătoare ale celor din valul viitor, indiferent dacă acest lucru a fost sau nu intenționat. Simpla creare de tehnologii civile are ramificații în materie de securitate națională. În valul cu cele mai diverse utilizări din istorie, anticiparea întregului spectru de utilizări este mai dificilă ca niciodată;
Multe tehnologii și sisteme devin atât de complexe, încât depășesc capacitatea unui singur individ de a înțelege cu adevărat: calculul cuantic și alte tehnologii operează spre limitele a ceea ce poate fi cunoscut;
Oamenii domină mediul înconjurător datorită inteligenței lor. Prin urmare, o entitate mai inteligentă ar putea să ne domine. Există argumente solide care susțin că, prin definiție, o super inteligență ar fi complet imposibil de controlat sau de stăpânit;
În cele din urmă, în formele sale cele mai destabilizatoare, următorul val ar putea însemna că omenirea nu se va mai afla în vârful lanțului trofic. Homo technologicus ar putea sfârși și prin a fi amenințat de propria sa creație. Adevărata întrebare nu este dacă valul vine sau nu. Este clar că da; este suficient să privim și îl putem vedea deja formându-se. Având în vedere astfel de riscuri, adevărata întrebare este: de ce ne este atât de greu să îl considerăm altfel decât inevitabil?
În prezent, China are o strategie națională explicită pentru a deveni lider mondial în domeniul inteligenței artificiale până în 2030. Statele Unite și alte națiuni occidentale nu mai dețin un avantaj covârșitor în cercetarea în domeniul inteligenței artificiale. Universități precum Tsinghua și Peking sunt în competiție cu instituții occidentale precum Standford, MIT și Oxford. Tsinghua Publică mai multe cercetări în domeniul inteligență artificială decât orice altă instituție academică de pe planetă. China are o pondere din ce în ce mai mare și impresionantă în ceea ce privește cele mai citate lucrări în domeniul inteligenței artificiale. Din punctul de vedere al volumului de cercetare în domeniul inteligenței artificiale, instituțiile chineze au publicat de 4 ori și jumătate mai multe lucrări decât cercetătorii americani începând din 2010, și cu mult mai multe decât Statele Unite, Regatul Unit, India și Germania la un loc;
China a depășit Statele Unite în ceea ce privește numărul de doctorate obținute în 2007, dar de atunci investițiile în programe și extinderea acestora au fost semnificative, producând în fiecare an un număr aproape dublu de doctorate în domeniul științelor, tehnologiei, inginerii și matematicienii decât în Statele Unite;
China produce la fel de mulți roboți ca tot restul lumii la un loc. A construit rachete hipersonice, despre care Statele Unite credeau că sunt la distanță, este lider mondial în domenii diverse, de la comunicații 6G la energie fotovoltaică, și găzduiește mari companii tehnologice, precum Tencent, Alibaba, DJI, Huawei și ByteDance;
În 2014, China depusese același număr de brevete de tehnologie cuantică ca Statele Unite, apoi, până în 2018, a depus de 2 ori mai multe;
China este deja în fața Statelor Unite în domeniul energii verzi, 5G și IA și se află pe o traiectorie care o va depăși în următorii câțiva ani în domeniul cuantic și al biotehnologiei;
Tehnologia a devenit cel mai important activ strategic al lumii, nu atât instrumentul politicii externe, cât motorul acesteia. Luptele marilor puteri din secolul al XXI-lea se bazează pe superioritatea tehnologică – o cursă pentru controlul valului care se apropie. Companiile și universitățile din domeniul tehnologiei nu mai sunt considerate neutre, cei mai mari campioni naționali;
Cheltuielile la nivel global pentru cercetare și dezvoltare depășesc cu mult 700 de miliarde de dolari anual, atingând niveluri record. Numai bugetul de cercetare și dezvoltare al Amazon este de 78 de miliarde dolari, care ar fi al 9-lea cel mai mare din lume, dacă ar fi o țară. Alphabet, Apple, Huawei, Meta și Microsoft cheltuiesc cu mult peste 20 de miliarde de dolari pe an pentru cercetare și dezvoltare;
Profitul îl determină pe antreprenorul chinez să creeze matrițe pentru un telefon modificat în totalitate, îl împinge pe fermierul olandez să găsească noi roboți și tehnologii de seră pentru a cultiva roșii pe tot parcursul anului, în climatul răcoros al Mării Nordului, îi determină pe investitorii eleganți de pe Sand Hill Road din Palo Alto să investească milioane de dolari în tineri antreprenori experimentați. Deși motivațiile contribuabililor individuali pot varia, Google construiește inteligența artificială, iar Amazon construiește roboți, deoarece, în calitate de companii publice cu acționari pe care trebuie să-i mulțumească, le văd ca pe niște modalități de a face profit;
Valul care se apropie reprezintă cel mai mare premiu economic din istorie. Este un corn al abundenței consumatorilor și un potențial centru de profit fără egal. Oricine încearcă să controleze tehnologia trebuie să explice cum poate fi convins un sistem capitalist extins la nivel global. Cu o putere dezlănțuită. Să-i tempereze accelerarea sau să o oprească;
În următorii ani, indiferent de meseria pe care o ai, vei putea consulta un expert la cerere, îl vei putea întreba despre cea mai recentă companie publicitară sau despre designul produsului tău, îl vei putea întreba despre specificul unei dileme juridice, vei putea identifica cele mai eficiente elemente ale unei prezentări, vei putea rezolva o problemă logistică spinoasă, vei putea obține OA 2-a opinie cu privire la un diagnostic, vei putea continua să sortezi și să testezi, obținând răspunsuri din ce în ce mai detaliate, bazate pe cunoștințe de ultimă oră, furnizate cu o finețe excepțională;
Toate cunoștințele, cele mai bune practici, precedentele și puterea de calcul din lume, vor fi disponibile, adaptate pentru tine, pentru nevoile și situația ta specifică, instantaneu și fără efort. Este un salt în potențialul cognitiv cel puțin la fel de mare ca introducerea internetului;
În timp ce tehnologia rămâne cea mai puternică cale de a aborda provocările secolului al XXI-lea, nu putem ignora aspectele negative. În timp ce recunoaștem numeroasele beneficii, trebuie să depășim aversiunea față de pesimism și să examinăm la rece și cu luciditate ce riscuri noi ar putea rezulta din tehnologiile cu utilizare universală. De-a lungul timpului, natura acestor riscuri și amploarea mizelor au devenit tot mai clare;
În următorul val, multe națiuni vor fi asaltate de o serie de provocări majore, ceea ce le va afecta eficacitatea, făcându-le mai slabe, mai divizate și mai predispuse la a luat decizii lente și eronate;
Valul următor „va lovi țărmul” într-un mediu inflamabil, incompetent și suprasolicitat. Acest lucru face ca provocarea reprezentată de control – capacitatea de a stăpâni și a dirija tehnologiile astfel încât acestea să fie în beneficiul real al umanității – să fie și mai descurajantă;
În mod remarcabil, un studiu din 2018 privind democrația în America a arătat că unul din 5 cetățeni crede că „regimul militar” este o idee bună! Nu mai puțin de 85% dintre americani consideră că țara lor se îndreaptă „în direcția greșită”. Neîncrederea se extinde și asupra instituțiilor neguvernamentale, a mass mediei, a mediului științific și asupra ideii de competență în general;
Între 1980 și 2021, ponderea venitului național câștigat de către cei 1 % din top aproape s-a dublat și se situează acum puțin sub 50 %. Bogăția este din ce în ce mai mult apanajul unui grup mic;
40 de milioane de persoane din Statele Unite trăiesc în sărăcie și peste 5 milioane trăiesc în condiții „de lumea a 3-a” – toate acestea în cadrul celei mai bogate economii din lume;
Relocalizarea afacerilor în țările de origine, securitatea națională, lanțurile de aprovizionare reziliente – limbajul comerțului de astăzi este iar bazat pe noțiuni precum frontieră, barieră și tarif. În același timp, energia, materiile prime și bunurile de orice fel au devenit mai scumpe. În esență, întreaga ordine economică și de securitate postbelică se confruntă cu o presiune fără precedent;
Valul anterior – sosirea serverelor centrale, a calculatoarelor și a software-urilor, a internetului și a telefoanelor inteligente – a adus beneficii uriașe societății. Am stabilit noile instrumente pentru economia modernă, consolidând creșterea economică, transformând accesul la cunoaștere, la divertisment și la comunicarea cu ceilalți oameni;
Dar aceste tehnologii au făcut și altceva: au creat condițiile pentru a alimenta și amplifica această polarizare politică subiacentă și această fragilitate instituțională;
Numeroase studii au ajuns la concluzia că există o corelație clară între utilizarea tot mai mare a mijloacelor digitale și creșterea neîncrederii în politică, creșterea mișcărilor populiste, a urii și a polarizării societății. Poate că această corelație nu înseamnă cauzalitate, dar această analiză sistematică scoate la iveală „ dovezi clare ale unor amenințări serioase la adresa democrației” generate de noile tehnologii;
Inteligență artificială, biologia sintetică și toate celelalte sunt introduse în societăți disfuncționale, deja zguduită de valuri de tehnologie de o putere imensă. Aceasta nu este o lume pregătită pentru valul care se apropie. Aceasta este o lume care se clatină sub presiunea existentă;
Tehnologia și ordinea politică sunt strâns legate. Introducerea de noi tehnologii are consecințe politice majore. Așa cum tunul și presa tipografică a bulversat societatea, la fel a trebuit să ne așteptăm să se întâmple și cu tehnologiile precum inteligența artificială, robotica și biologia sintetică;
Pe de o parte, unele state democratice liberale vor continua să fie erodate din interior, devenind un fel de guverne-zombie. Se va păstra forma unei democrații liberale și a statului național tradițional, dar, din punct de vedere funcțional, acestea vor fi golite de conținut, serviciile de bază vor fi din ce în ce mai fragile, iar sistemul politic va fi instabil și fracturat. Ele se vor degrada tot mai mult și vor fi din ce în ce mai disfuncționale;
Pe de altă parte, adoptarea nechibzuit a unor aspecte ale valului care se apropie deschide calea spre un control statal dominant, creând niște leviatani supraîncărcați, a căror putere o depășește chiar și pe a celor mai extremiste guverne totalitare din istorie;
Tehnologia este, în ultimă instanță, politică, deoarece reprezintă o formă de putere. Poate că singura caracteristică primordială a valului următor este că va democratiza accesul la putere;
La fel cum costul de prelucrare și difuzare a informațiilor a scăzut în era internetului de larg consum, costul de a face ceva, de a acționa, de a manifesta puterea va scădea odată cu următorul val. Cunoașterea este grozavă, dar acțiunea are un impact mult mai mare;
În loc să se rezume la a consuma conținut, oricine poate produce acum conținut video, imagini și texte de înaltă calitate;
Roboții nu se mai limitează la fabricarea de mașini și la organizarea etajelor depozitelor; ei sunt la dispoziția oricărui tinichigiu dintr-un service care are puțin timp și imaginație. Valul precedent ne-a permis să secvențiem, să citim ADN-ul. Valul următor va face ca sinteza ADN-ului să fie universal disponibilă;
Aceleași miliarde de oameni vor avea în curând un acces în mare măsură legal la cel mai bun avocat, medic, strategic, designer, antrenor personal, asistent executiv, negociatori și așa mai departe. Toată lumea va avea o echipă de talie mondială de partea și la dispoziția sa. Acesta va fi cel mai mare și mai rapid accelerator al bunăstării și al prosperității din istoria omenirii. Va fi, de asemenea, unul dintre cele mai haotice. Democratizarea accesului înseamnă, în mod inevitabil, democratizarea riscului;
Armele cibernetice echipate cu inteligență artificială vor explora permanent rețelele, adaptându-se în mod autonom pentru a găsi și exploata punctele slabe. Virușii informatici existenți se reproduc singuri, folosind un set fix de euristici preprogramate;
O inteligență artificială juridică ar putea să analizeze diverse documente raport cu mai multe sisteme juridice, să descopere fiecare posibilă abatere și apoi să intenteze unei companii multe procese în întreaga lume în același timp, paralizând-o;
Un algoritm important, care poate schimba lumea, poate fi stocat pe un laptop; drept urmare, în curând, nu va mai fi nevoie nici măcar de tipul de infrastructură vastă și controlabilă a ultimului val și a internetului;
Spre deosebire de o săgeată sau chiar de o rachetă hipersonică, inteligență artificială și bioagenții vor evolua mai ieftin, mai rapid și mai autonom decât orice altă tehnologie pe care am văzut-o vreodată;
Modelele lingvistice mari dau acum rezultate uimitoare în general la cantități mari de conținut media sintetic. A fost creată o lume a conținuturilor falsificate, cu ajutorul inteligenței artificiale, care nu se poate distinge de conținutul media convențional. Aceste falsuri vor fi atât de bune, încât minților noastre raționale le va fi greu să accepte că nu sunt reale;
Dacă următorul val este într-adevăr atât de general și de larg răspândit pe cât pare, cum vor concura oamenii? Ce se va întâmpla dacă o mare majoritatea sarcinilor de birou vor putea fi îndeplinite mai eficient de către inteligența artificială? Oamenii vor continua să fie „ mai buni” decât mașinile în puține domenii. Susțin de mult timp că acesta este scenariul cel mai probabil. Odată cu sosirea celei mai recente generații de modele lingvistice mari, sunt mai convins ca niciodată că așa vor decurge lucrurile;
Aceste instrumente vor spori doar temporar inteligența umană. Ele ne vor face mai inteligenți și mai eficienți pentru o perioadă de timp și vor spori enorm creșterea economică, dar, în mod fundamental, vor înlocui munca;
În cele din urmă, ele vor face munca cognitivă mai eficient și mai ieftin decât multe persoane care lucrează în administrație, în introducerea datelor, la serviciile destinate clienților (inclusiv în efectuarea și primirea de apeluri telefonice), redactarea de email-uri, redactarea de rezumate, în traducerea de documente, în crearea de conținut, redactarea de texte și așa mai departe. În fața abundenței de echivalente cu costuri foarte scăzute, zilele acestui tip de „muncă cognitivă manuală” sunt numărate;
În mai mult de jumătate dintre toate locurile de muncă, sarcinile ar putea fi automatizate de mașini în următorii 7 ani, în timp ce 52 de milioane de americani vor ocupa posturi cu o „expunere medie la automatizare” până în 2030;
În prezent, algoritmii realizează cea mai mare parte a tranzacțiilor cu acțiuni și acționează din ce în ce mai mult în cadrul instituțiilor financiare, însă, chiar dacă Wall Street este în plină expansiune, pe măsură ce tehnologia intervine în tot mai multe sarcini, se pierd tot mai multe locuri de muncă;
Sistemele inteligente imită rapid toate tipurile de abilități umane, de la vedere la vorbire și limbaj. Chiar și fără un progres fundamental în direcția unei înțelegeri profunde, noile modele lingvistice pot citi, sintetiza și genera texte extrem de precise și extrem de utile. Există, literalmente, sute de roluri în care această singură abilitate reprezintă cerința de bază și, cu toate acestea, inteligența artificială este în continuă dezvoltare;
Noile locuri de muncă nu vor apărea în număr suficient de mare sau la timp pentru a fi cu adevărat utile. Numărul persoanelor care vor putea obține un doctorat în învățare automată va rămâne mic în comparație cu amploarea concedierilor. Desigur, o nouă cerere va crea locuri de muncă noi, Dar asta nu înseamnă că toate acestea vor fi ocupate de oameni;
Indicele de calitatea locurilor de muncă din sectorul privat, un indicator al numărului de locuri de muncă care oferă venituri peste medie, a scăzut din 1990; asta sugerează că numărul locurilor de muncă bine plătite, ca proporție din total, a început deja să scadă;
S-ar putea crea noi locuri de muncă pe termen lung, dar pentru milioane de oameni acestea nu vor veni suficient de repede sau în locurile potrivite;
Statul național va fi supus unor forțe centrifuge și centripete masive, centralizării și fragmentării. Este o cale rapidă spre haos, punând sub semnul întrebării cine ia deciziile și cum, felul în care sunt puse în aplicare aceste decizii, de către cine, când și unde, supunând aceste echilibre și aranjamente delicate unei presiuni uriașe, până la punctul de rupere;
Această rețetă a turbulențelor va crea noi concentrări și dispersii epice ale puterii, divizează statul de sus și de jos. În cele din urmă, a pune sub lupă viabilitatea unor națiuni în totalitate;
O gamă largă de servicii, din sectoare foarte diferite, din zone uriașe ale planetei, au fost reunite într-o singură corporație, Google: cartografiere și localizare, recenți și liste de afaceri, publicitate, transmisiuni video, instrumente de birou, calendare, e-mail, stocare și fotografii. Videoconferințe și așa mai departe;
Telefoanele inteligente, semiconductorii și televizoarele sunt specialitățile Samsung. Dar și asigurările de viață, operatorii de feriboturi și parcurile tematice. O carieră la Samsung este un lucru extrem de apreciat. Veniturile grupului reprezintă până la 20 % din economia coreeană;
Tehnologia creat deja imperii moderne de un anumit tip. Valul care se apropie accelerează rapid această tendință, punând o putere și o bogăție imense în mâinile celor care creează și controlează tehnologia;
Acele companii care vor avea banii, cunoștințele și capacitatea de distribuție necesare pentru a profita de valul care se apropie, pentru a își spori considerabil cunoștințele, și, în același timp, pentru a își extinde raza de acțiune, vor avea câștiguri colosale;
Toate marile platforme tehnologice fie sunt, în principal, întreprinderi furnizoare de servicii, fie dețin astfel de firme. Apple are App Store, deși vinde în primul rând dispozitive, iar Amazon, deși este cel mai mare comerciant cu amănuntul de produse din lume, oferă, de asemenea, servicii de comerț electronic pentru comercianți și servicii de streaming TV pentru persoane fizice și găzduiește o bună parte din internet pe platforma sa de cloud, Amazon Web Services;
În următoarele câteva decenii, prevăd că majoritatea produselor fizice vor arăta ca niște servicii. Producția și distribuția cu costuri marginale zero vor face posibil acest lucru. Migrarea către cloud va deveni atotcuprinzătoare, iar tendința va fi stimulată de ascensiunea software-ului cu coduri reduse și fără coduri, de ascensiunea biofabricării și de explozie imprimării 3D;
Când combinăm toate fațetele valului care se apropie, de la capacitățile de proiectare, gestionare și logistică al inteligenței artificiale la modelarea reacțiilor chimice, care este permisul de calcul cuantic, până la capacitățile de asamblare finală ale roboticii, obținem o revoluție totală a naturii producției;
Oricare ar fi punctul final, ne îndreptăm spre un loc în care niște puteri și abilități fără precedent se află în mâinile unor actori deja puternici, care, fără îndoială, le vor folosi pentru a își extinde raza de acțiune și pentru a își promova propria agendă;
Randamentul inteligenței artificiale va crește exponențial. Câteva inteligenței artificiale selecte, pe care obișnuiam să le numim organizații, vor beneficia masiv de o 9 concentrare de abilități – probabil cea mai mare concentrare de acest gen înregistrată până acum;
În comparație cu Occidentul, cercetarea chineză în domeniul inteligenței artificiale se concentrează asupra unor domenii de supraveghere precum urmărirea obiectelor, înțelegerea scenelor și recunoașterea vocii sau a acțiunilor. Tehnologiile de supraveghere sunt omniprezente, din ce în ce mai precise în ceea ce privește capacitatea lor de a supraveghea fiecare aspect al vieții cetățenilor;
Acesta combină recunoașterea vizuală a fețelor, a mersului și a plăcuțelor de înmatriculare cu colectarea de date – inclusiv date biologice – la scară largă. Serviciile centralizate, precum WeChat, reunesc totul într-un singur loc, ușor de urmărit, de la mesagerie privată la cumpărături și operațiuni bancare;
China este acum lider în domeniul tehnologiilor de recunoaștere facială, cu companii gigant precum Megvii și CloudWalk, care se luptă cu SenseTime pentru cota de piață. B poliția chineză are chiar și ochelari de soare cu tehnologie de recunoaștere facială încorporată, capabile să urmărească suspecții în mulțime; Domenii precum educația și medicina se bazează în prezent pe infrastructuri sociale și financiare uriașe. Este foarte posibil să se prevadă ca acestea să fie reduse și localizate; sistemele de educație adaptive și inteligente, de exemplu, care să însoțească un elev pe parcursul întregului proces de învățare, construind un curriculum personalizat; inteligența artificială e capabile să creeze toate materialele, cum ar fi jocuri interactive perfect adaptate copilului, cu sisteme de evaluare automată, și așa mai departe;
În decurs de un deceniu, inteligența artificială va decide cum să fie cheltuiți banii publici, unde să se aloce forțele militare sau ce să învețe elevii;
Următorul val nu va face decât să adâncească și să recreeze exact aceleași dinamici contradictorii ale ultimului val. Internetul face exact acest lucru: centralizează în câteva centre cheie, dar în același timp dă putere câtorva miliarde de oameni. Creează mastodonți și în același timp oferă tuturor posibilitatea de a participa;
Rețelele sociale au creat câțiva giganți și un milion de triburi. Toată lumea poate construi o pagină de internet, dar nu există decât un singur Google. Toată lumea își poate vinde propriile produse de nișă, dar există un singur Amazon;
Dintre toate riscurile catastrofale ale valului care se apropie, IA a primit cea mai multă mediatizare. Dar mai sunt multe altele. Odată ce armatele vor fi complet automatizate, barierele din calea intrării în conflict vor fi mult mai mici. Un război ar putea fi declanșat accidental, din motive care vor rămâne pentru totdeauna neclare, inteligență artificială detectând un anumit model de comportament sau amenințare și reacționând apoi, instantaneu, cu o forță copleșitoare. Este suficient să spunem că natura acelui război ar putea fi extraterestră, ar putea escalada rapid și ar putea avea consecințe distructive de neegalat;
În următorii 10 ani, inteligența artificială va fi cel mai mare factor de amplificare a puterii din istorie. De aceea, ar putea permite o redistribuire a puterii la scară istorică, cel mai mare accelerator al progresului uman imaginabil va favoriza, de asemenea, producerea unor prejudicii – de la războaie și accidente la grupuri teroriste aleatorii, guverne autoritare, corporații prea puternice, furt și sabotaj intenționat;
Inteligența artificială este atât de valoroasă, cât și periculoasă, tocmai pentru că este o extensie a celor mai bune și mai rele trăsături ale noastre. Și, fiind o tehnologie bazată pe învățare, ea poate continua să se adapteze, să cerceteze, să producă strategii și idei noi, potențial foarte îndepărtate de orice intenție umană de până acum sau chiar a oricărei alte inteligențe artificiale;
Trebuie să ne pregătim de posibilitatea producerii unui accident, a unei erori, a unei utilizări rău intenționate, a unei evoluții care scapă de sub controlul uman, unor consecințe imprevizibile de tot felul;
Tehnologia a pătruns atât de adânc în civilizația noastră, încât supravegherea înseamnă a monitoriza totul: fiecare laborator, fabrică și uzină, fiecare server, fiecare nouă secvență de cod, fiecare șir de ADN sintetizat, Fiecare întreprindere și universitate, de la fiecare biohacker într-o baracă din pădure până la fiecare centru de date vast și anonim;
Pentru a contracara calamitatea în fața dinamicii fără precedent a valului care se apropie, este nevoie de o reacție nemaivăzută. Înseamnă nu doar să supraveghem totul, ci și să deținem capacitatea de a opri valul și de a-l controla, oricând și oriunde este necesar;
Ce nivel de control social este adecvat pentru a opri o pandemie artificială? C nivel de interferență în alte țări este adecvat pentru același scop? Consecințele asupra libertății, suveranității și vieții private nu au fost niciodată atât de dureroase;
Fiecare val a adus cu sine o posibilitate crescută de producere a unor perturbări sistemice ale ordinii sociale, dar până acum nu a adus riscurile ample și sistemice ale unui dezastru globalizat. Asta este ceea ce s-a schimbat. Asta este ceea ce ar putea determina un răspuns distopic;
Civilizația modernă scrie cecuri pe care numai dezvoltarea tehnologică continuă le poate încasa. Întregul nostru edificiu se bazează pe ideea de creștere economică pe termen lung. Iar această dezvoltare se bazează, în mare măsură, pe introducerea și răspândirea de noi tehnologii. Fie că este vorba despre așteptarea de a consuma mai mult la costuri mai mici sau de a obține tot mai multe servicii publice fără a plăti mai multe taxe, fie despre ideea că putem degrada mediul înconjurător în mod nesustenabil, în timp ce viața continuă să se îmbunătățească la nesfârșit, învoiala are nevoie de tehnologie;
Rezolvarea unor probleme precum schimbările climatice sau menținerea unor standarde de viață și de asistență medicală tot mai ridicate, ori îmbunătățirea educației și a oportunităților nu se vor realiza fără a include în soluție și noile tehnologii;
În secolul următor, populația globală va începe să scadă, în unele țări în mod precipitat chiar. Pe măsură ce raportul dintre persoanele active și pensionari se va schimba și forța de muncă va scădea, economiile, pur și simplu, nu vor mai putea funcționa la nivelul actual. Cu alte cuvinte, fără noi tehnologii, va fi imposibil să se mențină standardele de viață;
Chiar dacă ar fi posibil, ideea de a opri valul care se apropie nu este un gând liniștitor. Menținerea standardelor de viață, ca să nu mai vorbim de îmbunătățirea lor, necesită tehnologie. Prevenirea unui colaps necesită tehnologie. Costurile unui refuz sunt existențiale. Și totuși orice cale de aici încolo presupune riscuri și dezavantaje grave. Aceasta este marea dilemă;
Problema centrală a omenirii în secolul al XXI-lea este cum am putea să cultivăm suficientă putere și înțelepciune politică legitimă, o cunoaștere tehnică adecvată și niște norme solide pentru a controla tehnologiile și ea ne-a asigurat că acestea continuă să facă mult mai mult bine decât rău. Cum am putea controla ceea ce aparent este imposibil de controlat;
China frânează în unele domenii, în timp ce avansează cu pași repezi în altele. Reglementarea sa este însoțită de o implementare fără egal a tehnologiei ca instrument al puterii guvernamentale autoritare. Dacă discuți cu persoane din Occident care au experiență în domeniul apărării și al politicii, acestea sunt de părere că, deși China vorbește frumos despre etica și limitările inteligenței artificiale, atunci când vine vorba de securitatea națională, nu există bariere semnificative. De fapt, politica chineză în materie de inteligență artificială are 2 direcții: o direcție civilă, reglementată, și una militar industrială, liberă;
Cu cât o tehnologie necesită mai multă intervenție umană prin proiectare, cu atât mai puține sunt șansele de a pierde controlul;
Ne vine ușor să uităm că tehnologia include sistemele de irigații esențiale pentru hrănirea planetei și aparatele de susținere a vieții nou-născuților. Tehnologia nu este doar o modalitate de a-ți stoca selfie-urile, ea reprezintă accesul la cultura și înțelepciunea acumulate în întreaga lume. Tehnologia nu este o nișă, ci un hiper proiect care domină existența umană;
Trebuie să recunoaștem cu calm că valul tehnologic se apropie și că dilema este inevitabilă, în absența unei schimbări bruște de direcție. Următorul val vine cu adevărat, dar încă nu a trecut peste noi. Chiar dacă stimulentele de neoprit sunt blocate, forma finală a valului, contururile precise ale dilemei nu au fost încă stabilite;
Cred că nu este posibil să controlăm următorul val în lumea noastră actuală. Totuși urmând aceste alternative am putea să schimbăm condițiile de bază, să modificăm statu-quo-ul, astfel încât să fie posibil controlul. Ar trebui să facem toate acestea, chiar știind că am putea eșua scopul nostru. Este cea mai bună șansă pe care o avem de a construi o lume în care controlul și prosperitatea umană sunt posibile;
Nu există garanții ori minuni de așteptat. Oricine speră la o soluție rapidă, un truc inteligent, va fi dezamăgit. Abordând dilema, ne aflăm, ca întotdeauna, în aceeași poziție de vulnerabilitate proprie oamenilor: facem tot ceea ce ne stă în putință și sperăm că va funcționa;
Una dintre problemele legate de modelele lingvistice mari este că acestea încă suferă de problema halucinației, prin care deseori afirmă cu încredere că informații extrem de greșite sunt exacte. Acest lucru este de două ori mai periculos, având în vedere că adesea au dreptate la nivel de expert. În calitate de utilizator, este foarte ușor să te lași amăgit de un fals sentiment de siguranță și să presupui că tot ceea ce iese din sistem este adevărat;
Provocarea cea mai mare, fie că este vorba de biologia sintetică, de robotică sau de inteligență artificială, este construirea unui sistem de oprire imbatabil, un dispozitiv care să oprească orice tehnologie care amenință să scape de sub control. Este de bun simț să te asiguri întotdeauna că există un buton de oprire în cazul oricărui sistem autonom sau puternic;
A avea de fapt o supraveghere semnificativă și niște reguli aplicabile și a revizui implementarea tehnică sunt lucruri vitale. Progresele și reglementările tehnice în materie de siguranță vor avea dificultăți în a fi eficiente, dacă nu putem verifica dacă ele funcționează așa cum se dorește;
noile controale ale exporturilor au făcut ilegală vânzarea microcipurilor de calcul de înaltă performanță către China către companiile americane sau de către orice altă companie care deține uneltele de fabricare a acestor microcipuri sau care furnizează know-how-ul pentru repararea microcipurilor existente;
În domeniul inteligenței artificiale, cea mai mare parte a celor mai avansate unități de procesare grafică esențiale pentru cele mai recente modele sunt proiectate de o singură companie, firma americană Nvidia. Cele mai multe dintre microcipurile sale sunt fabricate de o singură companie, TSMC din Taiwan, cu un singur sediu, cea mai avansată, cea mai sofisticată și mai scumpă fabrică din lume;
Utilajele TSMC folosite pentru fabricarea acestor microcipuri provin de la un singur furnizor, firma olandeză ASML, de departe cea mai valoroasă și importantă companie tehnologică din Europa;
Utilajele ASML, care realizează o tehnică cunoscută sub numele de litografie cu raze ultraviolete extreme și care produc microcipuri la niveluri de precizie atomică uimitoare, se numără printre cele mai complexe produse fabricate din istorie;
Aceste 3 companii dețin un control atât de puternic asupra microcipurilor de ultimă generație, e o tehnologie atât de restrânsă din punct de vedere fizic, încât o estimare arată că acestea costă până la 10 miliarde de dolari pe kilogram;
Microcipurile nu reprezintă singurul punct nevralgic. Cloud computing-ul la scară industrială este, de asemenea, dominat de 6 mari companii. Deocamdată, realist vorbind, doar câteva organizații, cu resurse suficient de mari, în special DeepMind și OpenAI, dezvoltă inteligența artificială generală;
Un venit de bază universal, adică un venit plătit de stat pentru fiecare cetățean, indiferent de circumstanțe, a fost, adesea, propus ca fiind răspunsul la perturbările economice ale următorului val. În viitor, va exista probabil un loc pentru inițiativele de tip venit de bază universal; totuși, înainte de a se ajunge la acest lucru, există o mulțime de alte idei bune;
Iată de ce este nevoie pentru valul care va urma: un sprijin real, la nivel instinctiv, din partea tuturor celor implicați în tehnologiile de ultimă generație. Este foarte bine să proiectăm și să promovăm inițiative și politici de etică și siguranță, dar este nevoie ca oamenii care le furnizează să creadă cu adevărat în ele;
Fiecare dintre ideile prezentate până acum reprezintă începutul unui dig, o barieră timidă, care începe cu specificul tehnologiei în sine și se extinde spre imperativul formării unei mișcări globale de amploare pentru obținerea unei schimbări pozitive. Niciuna dintre ele nu funcționează de una singură. Cu toate acestea, dacă se împletesc astfel de măsuri, se conturează o imagine de ansamblu a unui sistem de control;
Va fi nevoie de un efort impresionant pentru a ne schimba fundamental societățile, instinctele omenești și tiparele istoriei. Nimic nu e sigur. Pare imposibil. Dar rezolvarea marii dileme a secolului al XXI-lea trebuie să fie posibilă;
Prin urmare, singura cale este să procedăm corect de prima dată, să ne asigurăm că o adaptare la tehnologie nu este, pur și simplu, impusă oamenilor, așa cum s-a întâmplat în timpul Revoluției Industriale, și că tehnologia este, de la început, adaptate la oameni, la viețile și speranțele lor. Tehnologiile adaptate sunt tehnologii controlate. Sarcina cea mai urgentă nu este de a ne urca pe val sau de a încerca, în zadar, să îl oprim, ci ideea a-l modela, de AI cunoaște cursul;
Următorul val va schimba lumea. În cele din urmă, este posibil ca ființele umane să nu mai fie principalele forțe motrice la nivel planetar, așa cum ne-am obișnuit să fim. Vom trăi într-o epocă în care majoritatea interacțiunilor noastre zilnice nu vor fi cu alți oameni, ci cu inteligențe artificiale. Acest lucru poate părea fascinant sau îngrozitor ori absurd, dar deja se întâmplă;
Bănuiesc că deja petreceți o parte considerabilă din orele de veghe în fața unui ecran. De fapt, este posibil să-ți petreci mai mult timp uitându-te la toate ecranele din viața ta decât petreci cu alte persoane, inclusiv cu soțul sau soția și copiii tăi;
Lumea de mâine va fi un loc în care fabricile își vor crește producția la nivel local, aproape ca în cazul fermelor din epocile anterioare. Dronele și roboții vor fi omniprezenți. Genomul uman va fi un lucru flexibil și, în mod necesar, la fel va fi și conceptul însuși de ”om”. Durata de viață va fi mult mai mare decât a noastră. Mulți se vor pierde aproape în întregime în lumile virtuale. Ceea ce părea cândva un contract social definitivat se va distorsiona și se va clătina. În secolul al XXI-lea, necesitatea de a învăța să trăim și să prosperăm în această lume va face parte din viața tuturor;
Tehnologia ar trebui să amplifice ceea ce este bun în noi, să deschidă căi noi pentru creativitate și cooperare, să lucreze cu fibra umană a vieților noastre și a celor mai prețioase relații. Ar trebui să ne facă mai fericiți și mai sănătoși, să fie complementul suprem al efortului uman și al vieții bine trăite, dar întotdeauna în condițiile stabilite de noi, în mod democratic, în urma unor dezbateri publice, cu beneficii distribuite pe scară largă;
Este greu să ne gândim la riscurile eșecului, dar trebuie să le înfruntăm. Premiul însă este impresionant: nici mai mult, nici mai puțin decât prosperitatea sigură și pe termen lung a speciei noastre prețioase. Pentru asta merită să luptăm.

Idei culese din carte de Sorin Scorțan