HotInfo Menu
✍️ REDAKČNÍ VÝBĚR
Spoluzakladatel Anthropicu u papeže: uvnitř vlastních AI nacházíme znepokojivé věci, kterým nerozumíme

Spoluzakladatel Anthropicu u papeže: uvnitř vlastních AI nacházíme znepokojivé věci, kterým nerozumíme

Videa

Anthropic's Olah says AI must be guided from outside Big Tech
Anthropic's Olah says AI must be guided from outsi… Reuters
Full Speech: Anthropic Co‑Founder Christopher Olah at Magnifica Humanitas Vatican Launch | EWTN News
Full Speech: Anthropic Co‑Founder Christopher Olah… EWTN News
Pope Leo calls for 'disarming' of AI
Pope Leo calls for 'disarming' of AI Guardian News
Když papež Lev XIV. 25. května osobně představil svou první encykliku o umělé inteligenci, mezi řečníky po jeho boku stál také ateista, který pomáhá vyvíjet modely Claude ve firmě Anthropic, jedné z předních světových AI laboratoří. Christopher Olah, vedoucí výzkumu interpretovatelnosti, při tom vyslovil přiznání, jaké od tvůrců technologie slyšet málokdy: uvnitř vlastních systémů nacházejí „záhadné, ba znepokojující" věci, kterým zcela nerozumějí. Slovenská a česká média o encyklice informovala. Olahovo přiznání zevnitř oboru jim však uniklo.

„Pěstujeme je, nestavíme"

Olah patří ke hrstce lidí, kteří se profesionálně zabývají otázkou, co se vlastně děje uvnitř neuronových sítí. Ve svém vatikánském příspěvku to shrnul přirovnáním: moderní modely se podle něj nedají chápat jako klasický software, který inženýr řádek po řádku napíše. „Rostou na struktuře volně utvořené podle vzoru mozku, na obrovském dědictví lidského myšlení a řeči," řekl. Anthropic ↗

A právě proto zůstávají v důležitých ohledech nejasné také pro své tvůrce. „Stále nacházíme věci, které jsou záhadné, ba znepokojující," pokračoval Olah, když popisoval vnitřní stavy modelů, které podle něj „funkčně připomínají radost, uspokojení, strach, smutek či nepokoj". Anthropic ↗ Není to tvrzení, že stroj cítí. Je to přiznání, že systém vykazuje vzorce, které jeho stavitelé nemohou spolehlivě vysvětlit.

„Včetně Anthropicu"

Druhá část Olahova poselství byla sebekritická vůči celému oboru, včetně jeho vlastní firmy. „Každá špičková AI laboratoř, včetně Anthropicu, funguje v souboru podnětů a omezení, která se někdy mohou dostat do rozporu s tím, co je správné," prohlásil. Proto je podle něj „nesmírně důležité, aby existovali lidé mimo tyto podněty, lidé, kterým záleží na tom, aby věci dopadly dobře, a trvají na bezpečnosti". Anthropic ↗

Církev v tomto rámci představuje jeden z mála hlasů, který stojí mimo obchodní tlak. Olah pro CNN varoval, že konkurenční tlak může vyvolat závody ke dnu, v nichž firmy obětují opatrnost rychlosti, a vyjádřil naději, že může vzniknout opačný tlak, když na vývoj dohlíží dost lidí, kterým na věci záleží. Sám dodal, že o umělé inteligenci mluvil s patnácti náboženskými vůdci. CNN ↗

Muž uprostřed paradoxu, který encyklika pojmenovává

Právě zde se Olahova přítomnost stává nejednoznačnou. Papež v encyklice Magnifica humanitas (Velkolepé lidstvo) žádá „odzbrojení" umělé inteligence a její osvobození z monopolní kontroly, aby byla přátelská vůči člověku. Varuje, že technologie živí globální konflikty, a žádá, aby její použití ve válce podléhalo „nejpřísnějším etickým omezením". CNN ↗

Jenže společnost Anthropic, jejíž spoluzakladatel v ten den stál po papežově boku, je v právním sporu s Trumpovou administrativou pro použití své technologie ve vojenských a obranných operacích. CNN ↗ Muž, který přiznává, že tvůrci vlastním modelům plně nerozumějí, tak stál u dokumentu, který varuje, aby technologie neovládla člověka. Vatikán to vnímá střízlivě. Podle jeho zdroje účast Anthropicu „není projevem podpory, cenou, odměnou ani kanonizací". CNN ↗

Sám Olah označil za čest, že mohl stát na jednom pódiu s papežem, ale přiznal také úlevu, že se církev a v širším smyslu také svět do debaty o technologii zapojují. Dodal, že umělá inteligence podle něj nemůže nahradit náboženství. CNN ↗

Co sleduje hotinfo

0/3 splněnokontrola do 09.10.2026
  • Zda Anthropic promítne papežovu výzvu k odzbrojení AI do vlastní praxe, nebo zůstane u rétoriky z pódia.
  • Vývoj soudního sporu Anthropicu s Trumpovou administrativou o vojenské použití modelů a osud odloženého exekutivního příkazu o prověrce AI systémů (včetně modelu Mythos).
  • Práce nové meziúřední vatikánské komise pro umělou inteligenci, kterou papež zřídil pár dní před vydáním encykliky.
Jak to pokračuje — celý tracker tématu →

Přečtěte si také: Papež Lev XIV. vydal encykliku o rizicích umělé inteligence

Přečtěte si také: Papež Lev XIV. vydal průlomovou encykliku o AI, regulaci i o historii otroctví

Svět Technologie 👤 christopher olah 👤 olah 🏢 anthropic
🕒

Minuta po minutě

LIVE