Poznámka editora: Tento text je mírně upravenou verzí přepisu nedávného podcastu Optimistiké vyhlídky , ve kterém Barbara mluvila sčlenem kongresu USA, Jayem Obernoltem: Přihlaste se k odběru podcastu na své oblíbené platformě.
Kongresman Jay Obernolte (za stát Kalifornia, USA) je předsedou podvýboru sněmovního Výboru pro výzkum a technologie pro vědu, vesmír a technologii a členem Výboru pro energetiku a obchod, před kterým jsem v únoru sama vypovídala.
V loňském roce stál v čele dvoustranické sněmovní zprávy o umělé inteligenci, která zkoumala odpovědné přijetí AI napříč různými odvětvími.
Kongresman Obernolte je také zakladatelem FarSight Studios, vývojářské firmy pro videohery se sídlem v USA.
Barbara Humpton:
Přibližte prosím našim posluchačům pohled z výšky na to, jak vidíte příležitosti a rizika umělé inteligence ve firmách v USA.
Kongresman Obernolte:
Umělá inteligence bude mít transformativní přínos nejen pro byznys ve Spojených státech, ale také pro americkou společnost. Bohužel se ale domnívám, že jsme odvedli velmi špatnou práci při formulování kladných argumentů pro AI. Náš názor na nevýhody umělé inteligence byl v posledních 50 letech formován sci-fi a popkulturou. Takže když se někoho zeptáte na umělou inteligenci, uslyšíte něco z filmů o Terminátorovi, kde armáda zlých robotů povstává, aby ovládla svět – ale nedostanete z něj optimistický argument.
A optimistický příklad je například tento: Zaprvé, umělá inteligence je již nyní nejmocnějším nástrojem pro šíření lidských znalostí, jaký kdy lidstvo vynalezlo. Může vás naučit cokoli, co se chcete dozvědět, a to jakýmkoli stylem učení, který je pro vás optimální. Zadruhé, zcela demokratizuje přístup nejen k informacím, ale i k vzdělání a odborným polemikám. A to vnese naprostou změnu do naší společnosti.
Zároveň se však děje to, že umělá inteligence se brzy stane nejmocnějším nástrojem pro zvýšení lidské produktivity, jaký kdy lidstvo vynalezlo. A to je neuvěřitelně posilující. Věřím, že to vytvoří rostoucí vlnu prosperity, která doslova zvedne všechny lodě v USA z přístavů.
Barbara Humpton:
Vedl jste v Kongresu dvoustranické úsilí o vypracování zprávy Sněmovny reprezentantů o umělé inteligenci, kde jste zkoumali využití umělé inteligence v různých odvětvích – od zdravotnictví přes finance až po zemědělství. Zpráva také nabídla vizi zodpovědného zavádění umělé inteligence, inovací a správy, které musí být vyvážené, jakmile tato technologie vstoupí do našeho světa. Když se nad zprávou nyní zamyslíte, byly nějaké z hlavních bodů, které vás skutečně udivili?
Kongresman Obernolte:
Naše pracovní skupina byla pověřena úkolem vypracovat do konce roku 2024 zprávu, která navrhne federální regulační rámec pro umělou inteligenci. Měl jsem tedy 24 velmi talentovaných a zapálených členů, 12 z každé strany politického spektra. Loni jsme měli 25 slyšení a v prosinci jsme předložili 270stránkovou zprávu, kterou jsme náš úkol splnili.
Stačí se dotknout hlavních bodů této zprávy: Američané se mylně domnívají, že umělá inteligence v naší zemi není regulována. To je zcela nepravdivé. Přijali jsme velmi odlišný přístup než jiné subjekty (například Evropská unie), a vsadili jsme na decentralizovanou regulaci podle sektorů.
To znamená, že věříme v regulaci výsledků, nikoliv nástrojů. Umělá inteligence je velmi mocný nástroj, ale koneckonců je to jen nástroj. A když přemýšlíte o rizicích nasazení umělé inteligence – a to je právě to, co musíte pochopit – abyste mohli hovořit o povinnosti nás jako regulačních orgánů tato rizika zmírnit – velmi záleží na tom, co s touto umělou inteligencí plánujete dělat. Algoritmus, který je u jednoho použití nepřijatelně rizikový, například umělá inteligence ve zdravotnickém prostředku, který bude implantován do něčího těla (mám-li jměnovat obzvláště rizikové použití), by mohl být u jiného typu použití, například ve videohře, zcela neškodný. A regulační orgány jednotlivých odvětvích to vědí.
Umělá inteligence se již používá v kontextech, jako jsou zdravotnické prostředky. Ve skutečnosti je mnoho lidí šokováno, když jim řeknu, že americký Úřad pro kontrolu potravin a léčiv (FDA), což je samozřejmě náš regulační orgán s pravomocí v oblasti regulace zdravotnických prostředků, již zpracoval přes tisíc žádostí o použití umělé inteligence ve zdravotnických prostředcích.
Jednou z věcí, které jsme v naší zprávě podpořili, je pokračovat v tomto decentralizovaném přístupu k regulaci podle sektorů. Zde je důvod, proč.
Evropská unie zaujala velmi odlišný přístup. Všechno centralizovali – mají sice běžné regulační orgány pro jednotlivá odvětví, ale budují nový regulační orgán pro AI. V důsledku toho budete potřebovat další licenci od tohoto regulačního orgánu pro cokoli jiného než použití AI s nejnižším rizikem.
Domníváme se, že to je špatný přístup. Naopak si myslíme, že mnohem snazší je naučit například FDA vše, co možná ještě neví o AI, než abychom učili zbrusu nový subjekt vše, co se FDA naučila během desetiletí dohledu na bezpečnost pacientů.
To platí i pro regulační orgány ostatních odvětví. Národní správa pro bezpečnost silničního provozu (NHTSA) se již zabývá používáním AI v autonomně řízených vozidlech. Federální letecká správa (FAA) se zabývá používáním AI a avioniky. A mohl bych pokračovat s vyjmenováním dál a dál.
Barbara Humpton:
Myslím, že to dává smysl. Zajímavé je také to, že když o tom přemýšlíme z pohledu koncového uživatele, často si ani neuvědomujeme existenci umělé inteligence. Podívejte se například na mapovací algoritmy, které používáme, nebo, upřímně řečeno, stačí jednoduché vyhledávací funkce, na které jsme všichni zvyklí. Toto je první technologie, která skutečně přišla až k lidem místo toho, aby lidé museli jít za technologií a složitě ji začlenovat.
Kongresman Obernolte:
Je zajímavé, že nikdo nepřišel s federální definicí v zákoně, co vlastně umělá inteligence znamená, nebo co umělá inteligence je. A to proto, že umělá inteligence je v oku pozorovatele. Je to neuronová síť? Je to algoritmus, díky kterému se počítač jeví jako člověk? Každý má jinou definici.
Pro mě je AI cokoli, co vypadá jakoby jste komunikovali se strojem, a přitom se vám zdá, že komunikujete s člověkem. Když to shrneme, pochopíte, proč bude mít umělá inteligence takový dopad, protože nám umožní mít velmi lidsky vypadající rozhraní pro práci se složitými technologiemi.
Barbara Humpton:
Byla jsem nadšená, že jsem mohla vypodvídat před vaším výborem o umělé inteligenci a výrobě. Opravdu jste se hodně ponořili do tématu, jaký bude mít umělá inteligence vliv na výrobu. A my jsme se opravdu snažili rozlišit mezi tím, co jsme tehdy nazývali „spotřebitelskou umělou inteligencí“ (umělou inteligencí, kterou používáme v našem soukromém životě, v našem obchodním životě, v našem zábavním životě) a umělou inteligencí, která se zavádí do světa výroby, kde máme kontrolu nad daty používanými k trénování základních modelů, a kde máme kontrolu nad tím, jak se tato data používají, a stejně tak nad lidskými zásahy do výrobního prostředí. V den, kdy jsem vypovídala, jste mi položil otázku, která jasně ukázala, že smýšlíte tímto směrem, směrem k přístupnosti pro odvětví.
Kongresman Obernolte:
A je vynikající, že přístup k regulaci přes jednotlivá odvětví umožňuje rozlišovat mezi těmito dvěma způsoby použití, protože u průmyslové umělé inteligence je důležité, aby prostředí, ve kterém působí, bylo velmi omezené. Pokud si představíte umělou inteligenci, která ovládá několik robotických ramen ve výrobní hale, s výstražnou páskou nataženou kolem, aby se zajistilo, že tam lidé nevstoupí, a robotická ramena vytvářejí nějaký widget, je to skvělý příklad průmyslové umělé inteligence.
My jako regulační orgány bychom si při hodnocení rizik takové situace měli položit otázku: „Co nejhoršího se může stát?“ Co je, jak říkají právníci, ta přehlídka hrozných věcí? A co uděláme pro jejich zmírnění? Když je to prostředí omezené, je okruh věcí, které se mohou pokazit, mnohem užší. Pokud provádíte kontrolu kvality widgetu, který umělá inteligence vytváří, máte v tomto případě pod kontrolou mnoho rizik spojených s nasazením umělé inteligence.
Pokud to porovnáte s více spotřebitelským použitím AI, například v rámci chatbotu, tam nemáte představu o rizicích. Mohl by chatbot někomu pomoci postavit biologickou zbraň? Mohlo by to způsobit, že dospívající si osvojí sebevražedné myšlenky? Mohl by chatbot vykazovat nějaké opravdu znepokojující rasové předsudky? Protože nasazení umělé inteligence ve spotřebitelském kontextu je mnohem otevřenější, musíme se o tyto věci starat, zatímco v průmyslové umělé inteligenci je mnohem jednodušší vytyčit hranice.
Vyvážená vize pro regulaci AI
Autor: Barbara Humpton, prezidentka a generální ředitelka, Siemens USA
Pro mě je AI cokoli, co vypadá jakoby jste komunikovali se strojem, a přitom se vám zdá, že komunikujete s člověkem. Když to shrneme, pochopíte, proč bude mít umělá inteligence takový dopad, protože nám umožní mít velmi lidsky vypadající rozhraní pro práci se složitými technologiemi.
Barbara Humpton:
Často jsem vás slyšela mluvit o důležitosti partnerství veřejného a soukromého sektoru pro udržení pvního místa USA ve vývoji AI. Pokud se podívám na tuto zemi, je jedním z našich národních cílů udržet si tuto vedoucí roli. Pokud si dobře vzpomínám, zpráva vaší pracovní skupiny o umělé inteligenci obsahuje skvělou část, která se zabývá významem ekosystémů vlády, univerzit a průmyslu pro výzkum a vývoj. Ráda bych slyšela váš názor na to, jak mohou podniky a vláda spolupracovat na rozvoji a rozšiřování těchto ekosystémů.
Kongresman Obernolte:
Myslím, že k udržení dominance USA ve vývoji a zavádění umělé inteligence bude potřebná spolupráce z naší strany a úsilí stejným směrem. Jednou z věcí, které nás velmi znepokojují, je nedostatek konkurence ve vývoji umělé inteligence na hranici možností. Vývoj algoritmu pro umělou inteligenci na hranici možností se stal tak drahým z hlediska výpočetního výkonu a dat, že se obáváme, že pouze největší technologické společnosti budou mít k dispozici zdroje, které to dokážou.
To je velmi nezdravé, zejména pokud jde o akademickou sféru a firmy, protože to jsou dvě síly, které skutečně poháněly pokrok v amerických vědeckých objevech za posledních sto let, a my chceme zajistit, aby tato tradice pokračovala. Když mluvíme zejména o akademické obci, výzkumy prováděné v akademickém prostředí s sebou nesou některé velmi žádoucí věci, jako je transparentnost, publikování a vzájemné hodnocení. To jsou věci, které ztrácíte, pokud se výzkum provádí pouze za zavřenými dveřmi největších korporací.
Jedna z věcí, které říkáme ve zprávě pracovní skupiny, je doporučení kodifikace pilotního programu, který v současné době provozujeme, s názvem NARE (Národní zdroj pro výzkum umělé inteligence), který zpřístupňuje akademikům a podnikatelům soubory dat, aby se zajistilo, že takový výzkum bude i nadále probíhat mimo velké korporace. To je velmi důležité.
A mimochodem, abych to zdůraznil - vzhledem k tomu, že jsem sám konzervativcem orientovaným na malou vládu – všechny tyto zdroje mají být darovány. Jediným úkolem federální vlády je být strážcem při zajišťování přístupu k těmto zdrojům. Je to proto, že dodavatelé těchto zdrojů sdílejí náš cíl zajistit, aby k nim měli i nadále přístup podnikatelé a akademici.
Barbara Humpton:
Právě tento inovační ekosystém skutečně dovedl USA k vůdčímu globálnímu postavení. Nyní se na chvíli zaměřme na dopad umělé inteligence na lidi.
Slyšeli jste mě říkat, když jsem vypovídala, že věřím, že AI nenahradí lidi. Víme, že každá vlna nových nástrojů a technologií, které byly zavedeny, vždy rozšířila to, co bylo pro lidi možné.
Podělím se s vámi o jeden rychlý příběh o využití AI v provozu mé společnosti.
Měli jsme výzkumníky, kteří pracovali na tom, jak umístit kopilota do výrobního prostředí. V továrně v Německu, kde fungovala první a druhá směna, vědci nainstalovali nového kopilota a lidé ho začali používat. V průzkumech spokojenosti byla zpětná vazba z první i druhé směny skvělá. Vědci si však v datech všimli něčeho zvláštního. Druhá směna ho používala daleko více než první směna. Proč tomu tak bylo?
Výzkumníci tedy provedli rozhovory s pracovníky druhé směny a ti jim řekli: „V minulosti, když se během druhé směny něco pokazilo, museli jsme volat odborníky – a to je uprostřed noci a my je nechceme obtěžovat, takže používáme kopilota.“
Ano, umělá inteligence absolutně mění způsob, jakým pracujeme, ale také skutečně zvyšuje produktivitu lidí a zvyšuje úroveň odbornosti. Slyšíte někdy takové příběhy?
Kongresman Obernolte:
Ano hodně často. V naší zprávě pracovní skupiny máme celou kapitolu o otázkách vzdělávání a pracovní síly. A velmi důrazně zdůrazňujeme, že si myslíme, že, jak říkáte, umělá inteligence vytvoří mnohem více pracovních míst, než kvůli ní zanikne, ale samozřejmě to naruší zajetý řád, jak to vždy dělají nové technologie.
Vrátíme-li se až k době vynálezu tiskařského stroje – technologie vždy znamenají převrat, ale vytvořily mnohem více pracovních míst, než kvůli nim zaniklo. My, jako společnost, budeme mít v první řadě povinnost vybavit naše mladé lidi nástroji, které potřebují k úspěchu v pracovním prostředí s umělou inteligencí. Potřebujeme se zavázat k pomoci s rekvalifikací, protože některá pracovní místa zaniknou a lidé budou potřebovat pomoc s rekvalifikací v jiných oborech. Budeme muset posílit jejich síť sociálního zabezpečení, abychom zajistili, že nikdo neztratí šanci.
Ale nakonec vytvoříme více pracovních míst, než zrušíme. Domnívám se, že velká část úzkosti kolem tohoto tématu není na místě. Uvedu vám konkrétní příklad z mého domovského státu Kalifornie.
Loni jsme měli velmi znepokojivou stávku hollywoodských scenáristů. Jedním z ústředních bodů stávky bylo, že scenáristé protestovali proti používání umělé inteligence filmovými studii pro automatizované psaní filmových scénářů. Jaksi mlčky v tom zazněl předpoklad, že větší využití umělé inteligence vytvoří méně pracovních míst pro hollywoodské scenáristy.
Pomyslel jsem si, jak krátkozraké to je? Když se podívám do budoucnosti, za deset let, představuji si, že zapnu Netflix a budu sledovat pořad, který je vytvořen generativní umělou inteligencí v reálném čase jen pro mě, na základě toho, na co se dnes chci dívat a co mě bavilo sledovat v minulosti – než abych sledoval show, která byla vytvořena jednou pro každého. Budeme mít k tomu technologie. A jsem si jist, že budou existovat inovativní podnikatelé, kteří toho využijí.
To je mnohem více pracovních míst pro scenáristy. A ano, scenáristé budou vědět, jak používat AI k posílení své produktivity. To platí pro mnoho různých oborů.
Dám vám další příklad. Existuje každoroční průzkum mezi maturanty středních škol. Jednou z otázek je: „Po jaké kariéře nejvíce toužíte?“ Když jsem vyrůstal, zažil jsem ještě éru vesmírného programu Apollo a kariérou číslo jedna, po které mladí lidé toužili, bylo stát se astronautem. Všichni jsme chtěli být astronauty. Ale jen velmi málo z nás se skutečně stalo astronauty. Přesto to přivedlo celou generaci Američanů do oborů STEM, což bylo pro naši zemi neuvěřitelně užitečné.
Dokážete uhodnout, jaká byla odpověď číslo jedna mezi absolventy středních škol v USA v loňském roce?
Barbara Humpton:
Nemám ponětí.
Kongresman Obernolte:
Influencer na sociálních sítích.
Na chvíli teď odignorujme poněkud znepokojivá fakta, které odpověď říká o našich mladých lidech, a zamysleme se nad tímto: Jak byste před příchodem internetu někomu vysvětlili, co je influencer na sociálních sítích, co dělá a proč společnosti poskytuje hodnotu, za kterou mu lidé zaplatí?
Představte si, jak těžké by bylo vést tento rozhovor. Neměli byste slovní zásobu, pokud byste nevědeli, co je internet, ani jakým způsobem lidi spojil a způsob, jakým lidé nyní žijí svůj život prostřednictvím internetu, že jo?
Takže, posuňme se rychle vpřed – díky umělé inteligenci vznikne celé spektrum pracovních míst. V současné době ani nemáme slovní zásobu, abychom je popsali, ale můžeme se podívat zpět do historie, nejen na internet, ale i na průmyslovou revoluci, na tiskařský lis – všechny tyto technologické revoluce způsobily nahrazení, ale také umožnily lidský úspěch a vytvořily mnohem, mnohem více pracovních míst, než kolik zničily. Jsem si stoprocentně jistý, že to platí i pro umělou inteligenci.
Vrátíme-li se až k době vynálezu tiskařského stroje – technologie vždy znamenají převrat, ale vytvořily mnohem více pracovních míst, než kvůli nim zaniklo. My, jako společnost, budeme mít v první řadě povinnost vybavit naše mladé lidi nástroji, které potřebují k úspěchu v pracovním prostředí s umělou inteligencí. Potřebujeme se zavázat k pomoci s rekvalifikací, protože některá pracovní místa zaniknou a lidé budou potřebovat pomoc s rekvalifikací v jiných oborech. Budeme muset posílit jejich síť sociálního zabezpečení, abychom zajistili, že nikdo neztratí šanci.
Barbara Humpton:
Rodiče se mě často ptají, jakou radu bych dala jejich dětem. Co by měly studovat, aby byly připraveni na budoucnost? A já říkávám lidem: řekněte svým dětem, aby hrály videohry. Co si myslíte o této teorii?
Kongresman Obernolte:
Řekl bych: Zvykněte si na to, že jste schopni komunikovat se stroji, jak vyřešit problém, a pak nechat stroj, aby to udělal.
Dříve jsme tomu říkali počítačové programování. Myslím, že teď, když říkáme programování, máme na mysli spíše to, čemu moje generace říkala skriptování. To je mnohem vyšší úroveň. Když jsem začínal s programováním, používal jsem programovací jazyk velmi nízké úrovně, tzv.„assemblerovský jazyk“, což je jazyk, kterým mluví čipy. Později jsem se dostal k jazykům vyšší úrovně jako C a pak k objektově orientovaným jazykům.
U umělé inteligence to bude další vrstva nad touto, kde budete moci procedurálně říct umělé inteligenci, co chcete, aby dělala. Lidé, kteří budou nejefektivnější v používání umělé inteligence, budou ti, kteří dokážou nejlépe formulovat, co chtějí, aby umělá inteligence dělala a jak to má dělat. A to budou neuvěřitelně užitečné dovednosti.
Ale dovolte mi to spojit s něčím dalším. Jako někdo, kdo během své kariéry zaměstnal tisíce a tisíce lidí, a to jak v soukromém sektoru, tak za posledních 20 let ve státních úřadech, vám mohu říct toto: Prosím vás, děti, naučte se psát. To je v současnosti jedna z nejžádanějších pracovních dovedností. Mladí lidé ale nevycházejí ze škol se schopností vzít něco, co chtějí říct, a sdělit to. Přesto, pro umělou inteligenci to bude velmi důležité.
A to je zajímavý bod, protože učitelé mají obrovský strach o děti, které používají umělou inteligenci k psaní esejů. Je to skoro jako debata, kterou jsme vedli, když jsem vyrůstal o tom, zda by nám mělo být dovoleno používat kalkulačky k náročnějšímu dělení. A bylo nám řečeno, ne, musíte se naučit tento náročný proces s desetinnými čárkami. Ale naposledy jsme se na tom smáli, protože se ukázalo, že teď každý nosí s sebou kalkulačku v mobilu. Pravděpodobně už nikdo v dospělosti neví, jak dělat zdlouhavá dělení.
AI bude podobná. Uvědomíme si, že existují věci, které pro nás umělá inteligence dělá a které nás osvobozují, abychom mohli přemýšlet o konceptech na vyšší úrovni. Takže místo toho, abyste přemýšleli o tom, jak budete formulovat konkrétní bod, budete přemýšlet o tom, jak AI o tom bodě přesvědčit.
Vedeme spolu rozhovor. Jak tě mám přesvědčit, že můj názor je správný? Chci ti vyprávět příběh; chci ti vyprávět o této objevné cestě, kterou jsem podnikl, abych se pokusil přimět tě, abys šel se mnou. A pak bych mohl použít umělou inteligenci, která mi pomůže s detaily mé argumentace. Lidé, kteří budou s umělou inteligencí nejúspěšnější, budou vědět, jak na to.
Barbara Humpton:
Moje já z osmdesátých let, které používalo počítačové děrovací karty, naprosto přijímá tuto novou éru, do které vstupujeme. Kromě toho by mě však zajímalo, zda se na určité úrovni vrátí do módy liberální umělecké vzdělání.
Když mluvím o vzdělávání, dozvídáme se o personalizovaném vzdělávání. Každý z nás může mít lektory s umělou inteligencí, kteří si osvojí náš styl učení a pak nás dokážou vést cestou naším vlastním tempem. Máme k dispozici tolik možností, že se dostávám k tomu, na co se ráda ptám každého ze svých hostů v podcastu, protože se od nich ráda učím o jejich optimistickém pohledu na věc.
Jako člen Kongresu máte neuvěřitelnou příležitost ovlivnit americké inovace. V čem jste v éře AI nejoptimističtější?
Kongresman Obernolte:
Nejprve se budu zabývat otázkou, kterou jste položila ohledně liberálního uměleckého vzdělávání. A moje odpověď zní: ano a ne.
Umělá inteligence zcela zrevolucionizuje náš přístup ke vzdělávání. Za posledních 150 let jsme si osvojili model, který říká, že když jste mladí, získáváte to, čemu říkáme vzdělání. To děláte tak, že začínáte na střední škole, pak jdete na vysokou školu a možná pokračujete na postgraduální studium. Pak promujete a toto vzdělání využíváte po zbytek kariéry.
Tento model, optikou učení podporovaného umělou inteligencí, je zcela zastaralý, a to ze dvou důvodů.
Za prvé, budeme mít příležitost stát se celoživotními studenty. Můžeme se naučit cokoli chceme, kdykoli chceme. Proč bychom tedy proboha věnovali všechen ten čas, když jsme mladí, jen se učením věcí, když učení samo o sobě je něco, co budeme dělat celý život?
Za druhé, bude tu nutnost přijmout celoživotní vzdělávání. Tempo technologie se bude stále zrychlovat a nebude existovat žádný možný způsob, jak by člověk mohl získat na samém začátku, v mládí, vše, co člověk potřebuje vědět, a neměl závazek učit se dále v životě. Statistiky právě teď říkají, že průměrný senior absolvent střední školy v tomto roce bude mít za svůj život tři kariéry – ne tři různá zaměstnání nebo tři různí zaměstnavatelé, ale tři různé kariéry, což je neuvěřitelná věc.
Ale chtěla jste slyšet optimistický případ. Takže přemýšlejte o tom:
Za 250 let existence Spojených států, pokud se podíváte na naši ekonomickou historii, zjistíte, že každé větší rozšíření našeho hrubého domácího produktu bylo doprovázeno odpovídajícím zvýšením produktivity naší pracovní síly. Tyto dvě věci jsou přímo propojeny. Produktivita amerického pracovníka pohání růst naší ekonomiky.
Posledních šest let, od začátku COVID, jsme v postupném poklesu produktivity pracovníků. Myslím, že umělá inteligence bude dalším katalyzátorem obrovského výbuchu produktivity, který nejen zvedne náš hrubý domácí produkt v naší ekonomice, ale pozvedne ekonomické bohatství každého v Americe. To je neuvěřitelně úžasná věc.
Publikováno: 26. srpna 2025