„Pěstujeme je, nestavíme"
Olah patří ke hrstce lidí, kteří se profesionálně zabývají otázkou, co se vlastně děje uvnitř neuronových sítí. Ve svém vatikánském příspěvku to shrnul přirovnáním: moderní modely se podle něj nedají chápat jako klasický software, který inženýr řádek po řádku napíše. „Rostou na struktuře volně utvořené podle vzoru mozku, na obrovském dědictví lidského myšlení a řeči," řekl. Anthropic ↗A právě proto zůstávají v důležitých ohledech nejasné také pro své tvůrce. „Stále nacházíme věci, které jsou záhadné, ba znepokojující," pokračoval Olah, když popisoval vnitřní stavy modelů, které podle něj „funkčně připomínají radost, uspokojení, strach, smutek či nepokoj". Anthropic ↗ Není to tvrzení, že stroj cítí. Je to přiznání, že systém vykazuje vzorce, které jeho stavitelé nemohou spolehlivě vysvětlit.
„Včetně Anthropicu"
Druhá část Olahova poselství byla sebekritická vůči celému oboru, včetně jeho vlastní firmy. „Každá špičková AI laboratoř, včetně Anthropicu, funguje v souboru podnětů a omezení, která se někdy mohou dostat do rozporu s tím, co je správné," prohlásil. Proto je podle něj „nesmírně důležité, aby existovali lidé mimo tyto podněty, lidé, kterým záleží na tom, aby věci dopadly dobře, a trvají na bezpečnosti". Anthropic ↗Církev v tomto rámci představuje jeden z mála hlasů, který stojí mimo obchodní tlak. Olah pro CNN varoval, že konkurenční tlak může vyvolat závody ke dnu, v nichž firmy obětují opatrnost rychlosti, a vyjádřil naději, že může vzniknout opačný tlak, když na vývoj dohlíží dost lidí, kterým na věci záleží. Sám dodal, že o umělé inteligenci mluvil s patnácti náboženskými vůdci. CNN ↗
Muž uprostřed paradoxu, který encyklika pojmenovává
Právě zde se Olahova přítomnost stává nejednoznačnou. Papež v encyklice Magnifica humanitas (Velkolepé lidstvo) žádá „odzbrojení" umělé inteligence a její osvobození z monopolní kontroly, aby byla přátelská vůči člověku. Varuje, že technologie živí globální konflikty, a žádá, aby její použití ve válce podléhalo „nejpřísnějším etickým omezením". CNN ↗Jenže společnost Anthropic, jejíž spoluzakladatel v ten den stál po papežově boku, je v právním sporu s Trumpovou administrativou pro použití své technologie ve vojenských a obranných operacích. CNN ↗ Muž, který přiznává, že tvůrci vlastním modelům plně nerozumějí, tak stál u dokumentu, který varuje, aby technologie neovládla člověka. Vatikán to vnímá střízlivě. Podle jeho zdroje účast Anthropicu „není projevem podpory, cenou, odměnou ani kanonizací". CNN ↗
Sám Olah označil za čest, že mohl stát na jednom pódiu s papežem, ale přiznal také úlevu, že se církev a v širším smyslu také svět do debaty o technologii zapojují. Dodal, že umělá inteligence podle něj nemůže nahradit náboženství. CNN ↗
Co sleduje hotinfo
- Zda Anthropic promítne papežovu výzvu k odzbrojení AI do vlastní praxe, nebo zůstane u rétoriky z pódia.
- Vývoj soudního sporu Anthropicu s Trumpovou administrativou o vojenské použití modelů a osud odloženého exekutivního příkazu o prověrce AI systémů (včetně modelu Mythos).
- Práce nové meziúřední vatikánské komise pro umělou inteligenci, kterou papež zřídil pár dní před vydáním encykliky.
Přečtěte si také: Papež Lev XIV. vydal encykliku o rizicích umělé inteligence
Přečtěte si také: Papež Lev XIV. vydal průlomovou encykliku o AI, regulaci i o historii otroctví







