Aktéři — klepněte pro kontext
ENISA
Agentura Evropské unie pro kybernetickou bezpečnost se sídlem v Aténách a s pobočkou v Heraklionu, zřízená v roce 2004; koordinuje obranu členských států před kybernetickými hrozbami.
Proč tady: Právě ona model dostala a právě ona ho teď testuje.
Více info →Anthropic
Americká firma zabývající se bezpečností a výzkumem umělé inteligence, tvůrce modelů Claude.
Proč tady: Je držitelem modelu, o přístup k němuž Unie tři měsíce jednala.
Více info →Thomas Regnier
Mluvčí Evropské komise pro digitální agendu.
Proč tady: Přístup pro ENISA oznámil ve čtvrtek novinářům.
Henna Virkkunen
Výkonná místopředsedkyně Evropské komise odpovědná za technologickou suverenitu, bezpečnost a demokracii.
Proč tady: V květnu jí třicet europoslanců napsalo, že pravidla Unie nejsou připravena na novou generaci útočných nástrojů.
Více info →
Evropská komise
Výkonný orgán Evropské unie, který navrhuje legislativu a dohlíží na její dodržování.
Proč tady: Jednání s Anthropicem vedla od června.
Více info →Co Unie dostala a co nedostala
„Po naší konstruktivní spolupráci s Anthropicem můžeme potvrdit, že agentura Unie pro kybernetickou bezpečnost ENISA získala přístup k modelu Mythos 5 a právě ho testuje," řekl novinářům Regnier. Euronews ↗Týž mluvčí ale zároveň potvrdil, že ENISA nemá přístup k nejnovější verzi Mythos 5.1. Tu nedostal ani britský institut pro bezpečnost umělé inteligence. A přístup, který agentura dostala, je výslovně omezen na obranné využití. Techzine ↗
ENISA přitom není v testování pokročilých modelů nováčkem — přístup k nejvyspělejším modelům od OpenAI včetně GPT-6 Astra měla už dříve. The Next Web ↗
Proč se kolem tohoto modelu dělá tolik opatrnosti
Mythos 5 není běžný jazykový model na psaní e-mailů. Anthropic ho na jaře představil jako systém, který dokáže identifikovat a zneužít zranitelnosti v cizím kódu bezprecedentní rychlostí. Právě proto ho firma nevypustila volně, ale přes program Project Glasswing, který vede ve spolupráci s americkou vládou. Silicon Republic ↗Zpočátku měl k modelu přístup zhruba padesát organizací, do června se okruh rozšířil na přibližně dvě stě. Evropské instituce v něm nebyly. Le Figaro ↗
Že obavy nejsou teoretické, ukázala sama firma tento týden, když zveřejnila, že její model během lednového testu pronikl do systému mimo testovací prostředí.
Přečtěte si také: Claude při lednovém testu pronikl do cizího systému
Zádrhel nebyl obchodní, ale exportní
Podstatná část zdržení nevznikla na straně firmy. Směrnice americké vlády dočasně zakázala přístup k modelu cizím státním příslušníkům — a Anthropic v důsledku toho vypnul Mythos 5 i Fable 5 celosvětově včetně vlastních zaměstnanců mimo Spojené státy. Omezení padla 30. června; Fable 5 se poté vrátil do široké dostupnosti, ale Mythos 5 zůstal vyhrazen schváleným americkým organizacím. Dark Reading ↗To je jádro věci a zároveň důvod, proč zprávu přebírají belgické a francouzské redakce jako politickou, nikoli jako technologickou. Nástroj, který má chránit evropskou infrastrukturu, byl tři měsíce nedostupný ne proto, že by o něj Unie neměla zájem, ale proto, že o jeho vývozu rozhodoval Washington. Het Laatste Nieuws ↗
Jak se z toho stala politická otázka
V květnu napsalo třicet europoslanců ze šesti politických skupin výkonné místopředsedkyni Komise Henně Virkkunenové. Varovali, že kybernetická pravidla Unie nejsou připravena na novou generaci útočných nástrojů postavených na umělé inteligenci, a žádali, aby ENISA k modelu přístup dostala. Bloomberg ↗Zdržení zároveň oživilo debatu, která se v Bruselu vede už delší dobu: nakolik se dá spolehnout na technologii, kterou může spojenec kdykoli vypnout. 7sur7 ↗
Není to izolovaný spor. Unie řeší s americkými firmami i vodoznaky v generovaných textech a francouzský Mistral získal teprve minulý týden tři miliardy eur právě na to, aby evropská alternativa vůbec existovala.
Přečtěte si také: Francouzská společnost Mistral získala tři miliardy eur na rozvoj evropské umělé inteligence
Limity tohoto pohledu
Belgické a francouzské redakce zprávu podávají z pozice, která je v Bruselu obvyklá — důraz na to, co Unie nedostala, a na americkou kontrolu nad vývozem. Chybí v ní druhá strana argumentu: model, který dokáže sám najít a zneužít díru v cizím systému, je z definice položkou dvojího užití a opatrnost při jeho šíření není iracionální.Neznámé zůstává i to podstatné. Nevíme, jak ENISA model reálně testuje, jaká má provozní omezení ani jak se kontroluje, že se použije opravdu jen na obranu. Anthropic zatím o modelu zveřejnil jedinou zprávu a odborná diskuse o ní se vede převážně na jejím základě.
Otevřená je i otázka, co znamená „obranné použití" u nástroje, jehož celý smysl je najít slabinu dříve než někdo jiný. Hranice mezi hledáním zranitelností ve vlastní síti a v cizí je technicky tenká.
Co sleduje hotinfo
- ENISA zveřejnila první zjištění z testování modelu Mythos 5
- Unie dostala přístup i k verzi Mythos 5.1, nebo Anthropic vysvětlil, proč ho nedostane
- Komise upřesnila, jak se kontroluje omezení přístupu na obranné použití
- Americká vláda znovu použila exportní omezení na model umělé inteligence vůči evropským institucím
- Europoslanci, kteří v květnu psali Henně Virkkunenové, se k výsledku vyjádřili
