Skip to main content
Perspectivă optimistă

O viziune echilibrată pentru reglementarea AI

De: Barbara Humpton, Președinte și CEO, Siemens SUA

Nota editorului: Aceasta este o versiune de transcriere ușor editată a podcastului recent al Barbarei Optimistic Outlook conversație cu Congresmanul american Jay Obernolte: Abonați-vă la podcast pe platforma preferată.

Reprezentând California, congresmanul Jay Obernolte este președintele Subcomitetului pentru Cercetare și Tehnologie al Comitetului pentru Știință, Spațiu și Tehnologie al Camerei și membru al Comisiei pentru Energie și Comerț, înaintea căruia am depus mărturie în februarie.

Anul trecut, el a condus bipartidul Raportul Camerei privind inteligența artificială care explorează adoptarea responsabilă a IA în toate sectoarele.

Congresmanul Obernolte este, de asemenea, fondatorul studiourilor FarSight, un dezvoltator american de jocuri video.

Barbara Humpton:
Vă rugăm să oferiți publicului nostru o imagine de 30.000 de metri a modului în care vedeți oportunitățile și riscurile pentru AI în afacerile americane.

Congresman Obernolte:
AI va fi complet transformatoare nu doar pentru afacerile americane, ci și pentru societatea americană. Și, din păcate, cred că am făcut o treabă foarte slabă în a articula argumentele optimiste pentru AI. Noi, ca americani, am avut părerea noastră despre dezavantajele AI colorate de ultimii 50 de ani de science fiction și cultură pop. Deci, dacă întrebi pe cineva despre AI, vei obține ceva din filmele Terminator în care armata de roboți răi se ridică pentru a prelua lumea, dar nu înțelegeți cazul optimist.

Iar cazul optimist este acesta: În primul rând, AI este deja cel mai puternic instrument pentru diseminarea cunoștințelor umane pe care omenirea le-a inventat vreodată. Te poate învăța orice vrei să înveți, în orice stil de învățare este optim pentru tine. În al doilea rând, va democratiza complet accesul, nu numai la informație și educație, ci și la opinia experților. Și asta ne va schimba complet societatea.

Dar ceea ce se întâmplă, de asemenea, este că AI va deveni în curând cel mai puternic instrument pentru îmbunătățirea productivității umane pe care omenirea l-a inventat vreodată. Și asta va oferi un sentiment incredibil de putere. Cred că acest lucru va crea un val în creștere de prosperitate care va ridica literalmente toate bărcile din America.

Barbara Humpton:
Ați condus efortul bipartizan din Congres de a produce raportul Camerei despre inteligența artificială, explorând utilizarea AI în mai multe sectoare, de la asistență medicală la finanțare până la agricultură. Raportul a oferit, de asemenea, o viziune pentru adoptarea responsabilă a AI, inovația și guvernanța care trebuie echilibrate pe măsură ce această tehnologie intră în lumea noastră. Când te gândești la raport acum, care sunt punctele culminante care îți ies cu adevărat în evidență?

Congresman Obernolte:
Grupul nostru de lucru a fost însărcinat cu sarcina de a veni, până la sfârșitul anului 2024, cu un raport care propune un cadru federal de reglementare pentru AI. Deci, am avut 24 de membri foarte talentați și dedicați, 12 de fiecare parte a culoarului. Și am avut 25 de audieri anul trecut și am transmis un raport de 270 de pagini în decembrie care ne-a îndeplinit sarcina.

Doar atingeți punctele culminante ale acestui raport: americanii sunt sub percepția greșită că AI este nereglementată în țara noastră. Acest lucru este complet neadevărat. Am adoptat o abordare foarte diferită față de alte entități precum Uniunea Europeană în adoptarea reglementării sectoriale descentralizate.

Ceea ce înseamnă asta este că credem în reglementarea rezultatelor, nu în instrumente. AI este un instrument foarte puternic, dar la sfârșitul zilei, este doar un instrument. Și când vă gândiți la riscurile implementării AI, ceea ce trebuie să înțelegeți pentru a putea vorbi despre care este obligația noastră ca autorități de reglementare de a atenua aceste riscuri, contează foarte mult ce veți face cu acea IA. Un algoritm care este inacceptabil de riscant într-un context de utilizare - de exemplu, AI într-un dispozitiv medical care va fi implantat în corpul cuiva, pentru a numi o implementare cu risc deosebit de ridicat - ar putea fi complet benign într-o altă utilizare, cum ar fi într-un joc video. Autoritățile de reglementare sectoriale știu acest lucru.

Avem deja AI utilizat în contexte precum dispozitivele medicale. De fapt, mulți oameni sunt șocați când le spun că Administrația SUA pentru Alimente și Medicamente (FDA), care, evident, este autoritatea noastră de reglementare care are autoritate asupra reglementării dispozitivelor medicale, a procesat deja peste o mie de cereri pentru utilizarea AI în dispozitive medicale.

Așadar, unul dintre lucrurile din raportul nostru pe care îl adoptăm este să continuăm această abordare descentralizată, sectorială a reglementării. Iată motivul pentru care.

Uniunea Europeană a adoptat o abordare foarte diferită. Au centralizat totul; au autoritățile lor de reglementare sectoriale, dar creează un nou regulator pentru AI. Drept urmare, veți avea nevoie de o altă licență de la autoritatea de reglementare pentru orice, în afară de utilizarea cu cel mai mic risc a AI.

Credem că aceasta este o abordare greșită, deoarece credem că este mult mai ușor să înveți FDA, de exemplu, ceea ce s-ar putea să nu știe deja despre AI decât să învețe unei entități nou-nouțe tot ceea ce FDA a învățat de-a lungul deceniilor de asigurare a siguranței pacienților.

Acest lucru este valabil și pentru alte autorități de reglementare sectoriale. Administrația Națională pentru Siguranța Traficului pe Autostrăzi (NHTSA) se ocupă deja de utilizarea AI în vehiculele cu conducere autonomă. Administrația Federală a Aviației (FAA) se ocupă de utilizarea AI și avionica aeronavelor. Lista continuă și continuă.

Barbara Humpton:
Cred că asta are o lume de sens. Ceea ce este, de asemenea, interesant este că atunci când ne gândim la asta din perspectiva unui utilizator final, de multe ori nici măcar nu suntem conștienți de existența AI. Uită-te la exemple de algoritmi de cartografiere pe care îi folosim sau, sincer, doar capacitățile simple de căutare cu care ne-am obișnuit cu toții. Aceasta este prima tehnologie care vine de fapt la oameni în loc ca oamenii să fie nevoiți să meargă la tehnologie pentru a o încorpora.

Congresman Obernolte:
Este interesant faptul că nimeni nu a venit cu o definiție federală în statut pentru ceea ce înseamnă de fapt AI sau ce este AI. Și asta pentru că AI este în ochiul privitorului. Este o rețea neuronală? Este un algoritm care face ca un computer să pară o persoană? Fiecare are o definiție diferită.

Pentru mine, AI este orice interacționezi cu o mașină, dar pare că interacționezi cu un om. Când o reduceți la asta, puteți vedea de ce AI va avea un impact atât de mare, pentru că va crea o modalitate care ne permite o interfață foarte umană pentru a face față tehnologiei complicate.

Barbara Humpton:
Am fost încântat să am ocazia la începutul acestui an de a depune mărturie în fața comitetului dvs. pentru a vorbi despre AI și producție. Ați aprofundat cu adevărat impactul AI asupra producției. Încercam cu adevărat să facem o distincție între ceea ce numeam, la acea vreme, „AI pentru consumatori” - AI pe care o folosim în viața noastră privată, în viața noastră comercială, în viața noastră de divertisment - și AI care este introdusă în lumea producției, unde avem control asupra datelor care sunt folosite pentru a instrui modelele fundamentale și unde avem control asupra modului în care este utilizată și asupra intervenției umane în mediul de producție. În ziua în care am depus mărturie, ați urmat o întrebare care a arătat clar că vă gândiți astfel la abordările sectoriale.

Congresman Obernolte:
Și este un punct excelent că o abordare sectorială a reglementării vă permite să diferențiați între aceste două utilizări, deoarece chestia cu AI industrială este că mediul în care funcționează este foarte constrâns. Dacă vă imaginați că AI controlează câteva brațe de robot pe un etaj de producție, cu banda de precauție așezată în jurul său pentru a vă asigura că oamenii nu intră acolo, iar brațele robotului construiesc un widget, acesta este un exemplu excelent de AI industrială.

Ceea ce noi, ca autorități de reglementare, am face atunci când evaluăm riscurile acestui lucru este să ne întrebăm: „Care sunt cele mai rele lucruri care se pot întâmpla?” „Care sunt, cum spun avocații, «scenariile de coșmar» ? Și ce vom face pentru a le atenua? Ei bine, pentru că mediul este limitat, lucrurile care pot merge prost sunt mult mai restrânse. Atâta timp cât faci controlul calității asupra produsului pe care îl construiește AI-ul, ai controlat deja o mare parte din riscurile implementării AI în acel caz.

Dacă compari asta cu o aplicație de AI orientată către consumatori, cum ar fi un chatbot, nu ai o imagine clară asupra riscurilor. Ar putea chatbotul să ajute pe cineva să construiască o armă biologică? Ar putea determina un adolescent să dezvolte gânduri suicidare? Ar putea manifesta prejudecăți rasiale îngrijorătoare? Pentru că implementarea AI în contextul destinat consumatorilor este mult mai deschisă, trebuie să ne îngrijorăm de aceste lucruri, pe când în AI-ul industrial este mult mai ușor să controlezi și să gestionezi situația.

Link-uri conexe:

Pentru mine, AI este orice interacționezi cu o mașină, dar pare că interacționezi cu un om. Când o reduceți la asta, puteți vedea de ce AI va avea un impact atât de mare, pentru că va crea o modalitate care ne permite o interfață foarte umană pentru a face față tehnologiei complicate.
Congresman Obernolte

Barbara Humpton:
Te-am auzit adesea vorbind despre importanța parteneriatelor public-privat pentru avansarea leadershipului american AI. Privind acest peisaj, unul dintre obiectivele noastre naționale este să menținem acel rol de conducere. După cum îmi amintesc, raportul AI al grupului dvs. de lucru are o secțiune excelentă care discută importanța ecosistemelor guvernamentale, universitare și industriale pentru cercetare și dezvoltare. Mi-ar plăcea să aud părerea dvs. despre modul în care întreprinderile și guvernul pot lucra împreună pentru a dezvolta și extinde aceste ecosisteme.

Congresman Obernolte:
Cred că va fi nevoie ca toți să lucrăm împreună și să împingem în aceeași direcție pentru a menține dominația SUA în dezvoltarea și implementarea AI. Unul dintre lucrurile de care suntem foarte îngrijorați este că va exista o lipsă de concurență în dezvoltarea AI de frontieră. A devenit atât de costisitor în ceea ce privește puterea de calcul și datele pentru a dezvolta un algoritm AI frontier, încât suntem îngrijorați că doar cele mai mari companii de tehnologie vor putea avea resursele pentru a face acest lucru.

Acest lucru este foarte nesănătos, în special, când vine vorba de mediul academic și antreprenorial, deoarece acestea sunt două dintre forțele care au condus cu adevărat progresele în descoperirea științifică americană în ultima sută de ani și vrem să ne asigurăm că această tradiție continuă. Când vorbești despre mediul academic, în special, efectuarea cercetărilor în medii academice vine împreună cu unele lucruri foarte dorite, cum ar fi transparența, publicarea și evaluarea inter pares. Acestea sunt lucruri pe care le pierzi dacă cercetarea este făcută doar în spatele ușilor închise de către cele mai mari corporații.

Unul dintre lucrurile pe care le spunem în raportul grupului de sarcini este de a recomanda codificarea unui program pilot pe care îl derulăm în prezent numit NARE, Resursa Națională de Cercetare AI, care pune bazine de date disponibile academicienilor și antreprenorilor pentru a se asigura că astfel de cercetări continuă să fie făcute în afara marilor corporații. Acest lucru este foarte important.

Și, apropo, pentru a sublinia ideea - având în vedere că eu însumi sunt un conservator al guvernului mic - toate aceste resurse sunt donate. Tot ce face guvernul federal este să fie portarul în aranjarea accesului la aceste resurse. Acest lucru se datorează faptului că furnizorii acestor resurse împărtășesc obiectivul nostru de a ne asigura că antreprenorii și academicienii continuă să aibă acces la ele.

Barbara Humpton:
Este acest ecosistem de inovare care a adus cu adevărat SUA în acest punct de conducere globală. Acum, să ne schimbăm atenția pentru doar un minut și să vorbim despre impactul pe care AI îl va avea asupra oamenilor.

M-ați auzit spunând în propria mea mărturie că cred că AI nu va înlocui oamenii. Știm că fiecare val de noi instrumente și tehnologii care au fost introduse au extins de fapt ceea ce este posibil din punct de vedere uman.

Voi împărtăși cu voi o poveste rapidă despre utilizarea AI în operațiunile companiei mele.

Am avut cercetători care lucrau la modul de a pune un copilot într-un mediu de fabricație. Într-o fabrică din Germania, unde funcționau o primă și a doua tură, cercetătorii au instalat noul copilot, iar oamenii au început să-l folosească. În sondajele de satisfacție, feedback-ul atât din prima, cât și din al doilea schimb a fost excelent. Dar cercetătorii au observat ceva ciudat în date. Al doilea schimb îl folosea mai mult decât prima schimbare. De ce a fost asta?

Deci, cercetătorii au făcut de fapt interviuri cu personalul celui de-al doilea tur, care a spus: „În vremurile anterioare, dacă ceva nu mergea bine în timpul celei de-a doua ture, trebuia să chemăm experții - iată, miezul nopții, și nu vrem să-i deranjăm, așa că folosim copilotul.”

Acesta este genul de lucruri în care, da, AI schimbă absolut modul în care lucrăm, dar, de asemenea, face oamenii mai productivi și crește nivelul de expertiză. Auzi povești de genul acesta?

Congresman Obernolte:
Foarte mult. Avem un capitol întreg în raportul nostru privind problemele legate de educație și forța de muncă. Și punctul pe care îl subliniem foarte puternic este că credem că, așa cum spuneți, AI va crea mult mai multe locuri de muncă decât înlocuiește, dar va fi perturbatoare, așa cum sunt întotdeauna noile tehnologii.

Revenind până la apariția tipografiei, tehnologiile sunt perturbatoare, dar au creat mult mai multe locuri de muncă decât au perturbat. Noi, ca societate, vom avea obligația, în primul rând, de a dota tinerii noștri cu instrumentele de care au nevoie pentru a reuși într-un spațiu de lucru bazat pe AI. Avem nevoie de un angajament pentru recalificare, deoarece unele locuri de muncă vor fi strămutate, iar oamenii vor avea nevoie de ajutor pentru a fi recalificați în alte domenii. Va trebui să le consolidăm plasa de siguranță socială pentru a ne asigura că nimeni nu cade prin crăpături.

Dar, la sfârșitul zilei, vom crea mai multe locuri de muncă decât vom înlocui. Cred că o mare parte din neliniștea din jurul acestui subiect este greșită. Vă voi da un exemplu specific din statul meu natal din California.

Anul trecut am avut o grevă foarte perturbatoare a scenariștilor de la Hollywood. Una dintre problemele centrale ale grevei a fost că scriitorii de scenariu se opuneau utilizării AI de către studiourile de film pentru scrierea automată a scenariilor de filme. Un fel de nerostit în acest sens a fost presupunerea că o utilizare mai mare a AI ar crea mai puține locuri de muncă pentru scenariștii de la Hollywood.

M-am gândit, cât de miopie este asta? Când mă uit la viitor, peste zece ani, îmi imaginez să pornesc Netflix și să urmăresc o emisiune care este creată de AI generativă în timp real doar pentru mine, bazat pe ceea ce simt că mă uit astăzi și ceea ce mi-a plăcut să văd în trecut - mai degrabă decât să urmăresc un spectacol care a fost creat o dată pentru toată lumea. Vom avea tehnologia necesară pentru a face acest lucru. Și sunt sigur că vor exista antreprenori inovatori care profită de asta.

Sunt multe, multe alte locuri de muncă pentru scenaristi. Și, da, scenariștii vor ști cum să folosească AI pentru a-și împuternici productivitatea. Acest lucru este valabil pentru o mulțime de domenii diferite.

Vă voi da un alt exemplu. Există un sondaj anual al absolvenților de liceu. Una dintre întrebări este: „La ce carieră aspirați cel mai mult?” Când am crescut, eram la sfârșitul programului spațial Apollo, iar cariera numărul unu la care aspirau tinerii era astronautul. Cu toții am vrut să fim astronaut. Foarte puțini dintre noi au devenit astronauți, dar a condus o întreagă generație de americani în câmpurile STEM, ceea ce a fost incredibil de util pentru țara noastră.

Poți ghici anul trecut care a fost răspunsul numărul unu al absolvenților de liceu din America?

Barbara Humpton:
Nu am nici un indiciu.

Congresman Obernolte:
Influencer social media.

Așadar, ignorând pentru o clipă lucrurile oarecum deranjante pe care răspunsul le spune despre tinerii noștri, gândește-te la asta: înainte de apariția internetului, cum ai articula cuiva ce este un influencer social media, ce face și de ce oferă o valoare unei societăți pentru care oamenii îi vor plăti?

Imaginează-ți cât de greu ar fi să ai o astfel de conversație. Nu aveți vocabularul decât dacă înțelegeți internetul și modul în care a adus oamenii împreună și a conectat oamenii și modul în care oamenii își trăiesc viața prin internet acum, nu?

Deci, rapid înainte - va exista un întreg spectru de locuri de muncă create din cauza AI. Nici măcar nu avem vocabularul pentru a descrie care vor fi acele locuri de muncă, dar putem privi înapoi prin istorie, nu doar internetul, ci Revoluția Industrială, tipografia - toate aceste revoluții tehnologice au creat deplasări, dar au permis și succesul uman și au creat multe, mult mai multe locuri de muncă decât au înlocuit. Sunt 100% încrezător că acest lucru va fi adevărat și pentru AI.

Tehnologiile sunt perturbatoare, dar au creat mult mai multe locuri de muncă decât au perturbat. Noi, ca societate, vom avea obligația, în primul rând, de a dota tinerii noștri cu instrumentele de care au nevoie pentru a reuși într-un spațiu de lucru bazat pe IA. Avem nevoie de un angajament pentru recalificare, deoarece unele locuri de muncă vor fi strămutate, iar oamenii vor avea nevoie de ajutor pentru a fi recalificați în alte domenii. Va trebui să le consolidăm plasa de siguranță socială pentru a ne asigura că nimeni nu cade prin crăpături.
Congresman Obernolte

Barbara Humpton:
De multe ori am fost întrebat de părinți ce sfaturi le-aș da copiilor lor. Ce ar trebui să studieze pentru a fi pregătiți pentru viitor? Și le-am spus oamenilor: spuneți copiilor voștri să joace jocurile lor video. Ce părere aveți despre această teorie?

Congresman Obernolte:
Aș spune: obișnuiește-te să fii capabil să dictezi unei mașini cum să rezolve o problemă și apoi să lași mașina să o facă.

Obișnuiam să numim asta programare pe calculator. Cred că acum când spunem programare, ne referim mai mult la ceea ce generația mea obișnuia să numească scripting. Acesta este un nivel mult mai înalt. Când am început programarea, era într-un limbaj de nivel foarte scăzut numit „limbaj de asamblare”, care este limbajul pe care îl vorbesc cipurile. Mai târziu am primit limbi de nivel superior, cum ar fi C, și apoi limbi orientate pe obiecte.

Cu AI, va fi un alt strat deasupra acestuia, unde vei putea articula procedural AI ceea ce vrei să facă. Oamenii care sunt cei mai eficienți în utilizarea AI vor fi cei care sunt cei mai buni în a articula ceea ce doresc să facă AI și cum să o facă. Și acestea vor fi abilități incredibil de utile de avut.

Dar permiteți-mi să asociez și asta cu altceva. Fiind cineva care a angajat mii și mii de oameni în cariera mea, atât în sectorul privat, cât și în ultimii 20 de ani în birouri guvernamentale, vă pot spune acest lucru: Vă rog, copii, învățați să scrieți. Aceasta este una dintre cele mai solicitate abilități de muncă în acest moment. Dar tinerii nu absolvesc cu capacitatea de a putea lua ceva ce vor să spună și să-l comunice. Și asta va fi în continuare foarte important cu AI.

Acesta este un punct interesant, deoarece există această anxietate uriașă în rândul profesorilor de școală cu privire la copiii care folosesc AI pentru a scrie eseuri. Este aproape ca dezbaterea pe care am avut-o când creșteam dacă ar trebui sau nu să ni se permită să folosim calculatoare pentru a face diviziuni lungi. Și ni s-a spus, nu, trebuie să înveți acest proces arcan cu puncte zecimale și cum purtați lucrurile. Dar până la urmă noi am avut ultimul cuvânt, pentru că s-a dovedit că acum toată lumea poartă cu sine un calculator, ca parte a telefonului mobil. Probabil că nimeni nu mai știe cum să facă diviziune lungă odată ce devine adult.

AI va fi similar. Vom ajunge să apreciem că există lucruri pe care AI le face pentru noi care ne eliberează să ne gândim la concepte la un nivel superior. Deci, în loc să vă gândiți la modul în care veți articula un anumit punct, vă veți gândi cum să convingeți.

Tu și cu mine avem o conversație. Cum vă voi convinge că punctul meu de vedere este corect? Vreau să vă spun o poveste; vreau să vă spun această călătorie de descoperire pe care am făcut-o pentru a încerca să vă fac să veniți împreună cu mine. Și atunci aș putea folosi AI pentru a mă ajuta cu piulițele și șuruburile pentru a-mi face cazul. Oamenii care vor avea cel mai mare succes folosind AI vor ști cum să facă asta.

Barbara Humpton:
Versiunea mea din anii 1980, care a folosit carduri perforate pe computer, îmbrățișează absolut această nouă eră în care intrăm. Dincolo de asta, mă întreb dacă, la un anumit nivel, o educație artistică liberală revine în vogă.

Vorbind cu educatorii, învățăm despre educația personalizată. Fiecare dintre noi poate avea tutori AI care ne învață stilul de învățare și apoi sunt capabili să ne aducă pe o cale cu propria noastră viteză. Există atât de multe posibilități disponibile pentru noi încât mă aduce la ceea ce îmi place să întreb fiecăruia dintre oaspeții mei de pe podcast, pentru că îmi place să învăț de la oaspeții mei despre perspectivele lor optimiste.

Ca membru al Congresului, aveți o oportunitate incredibilă de a influența inovația americană. Despre ce ești cel mai optimist în era AI?

Congresman Obernolte:
Voi aborda mai întâi întrebarea pe care ați pus-o despre o educație artistică liberală. Și răspunsul meu este: da și nu.

AI va revoluționa complet abordarea noastră față de educație. Cu toate acestea, în ultimii 150 de ani, am îmbrățișat acest model care spune că atunci când ești tânăr, mergi să dobândești acest lucru pe care îl numim educație. Faci asta începând cu liceul, apoi mergi la facultate, și apoi poate continui să mergi la școala postuniversitară. Apoi absolviți și folosiți acea educație în restul unei cariere.

Acest model, prin obiectivul învățării împuternicite de AI, este complet depășit din două motive.

În primul rând, vom avea ocazia să învățăm pe tot parcursul vieții. Putem învăța orice vrem, oricând vrem. Deci, de ce naiba ne-am dedica tot acest timp când suntem tineri, doar învățând lucruri, când învățarea în sine este ceva ce vom face toată viața noastră?

În al doilea rând, va fi necesitate pentru a îmbrățișa educația pe tot parcursul vieții. Ritmul tehnologiei va continua să se accelereze și nu va exista nicio modalitate posibilă prin care cineva să poată dobândi chiar de la început, în tinerețe, tot ceea ce trebuie să știți și să nu aveți un angajament de a învăța pe măsură ce merge mai departe. Statisticile spun chiar acum că absolvenții medii de liceu în acest an vor avea trei cariere în viața lor - nu trei locuri de muncă diferite sau trei angajatori diferiți, ci trei diferite cariere, ceea ce este un lucru incredibil.

Dar ați cerut cazul optimist. Deci, gândiți-vă la asta:

În cei 250 de ani în care Statele Unite au fost o țară, dacă vă întoarceți și vă uitați la istoria noastră economică, veți descoperi că fiecare extindere majoră a produsului nostru intern brut a fost anunțată de o creștere corespunzătoare a productivității forței de muncă. Cele două sunt direct legate între ele. Productivitatea muncitorului american alimentează creșterea economiei noastre.

În ultimii șase ani, de la începutul COVID, am fost într-o scădere treptată a productivității lucrătorilor. Cred că IA va fi următorul catalizator pentru o explozie uriașă a productivității, care nu numai că ne ridică produsul intern brut în economia noastră, dar va crește averea economică a tuturor celor din America. Acesta este un lucru incredibil de puternic.

Publicat: 26 august 2025