Společnost Anthropic obnovuje přístup ke svému nejnovějšímu modelu Claude Fable 5 poté, co americká vláda zrušila exportní omezení uvalená v polovině června. Ta se týkala modelů Claude Fable 5 a Claude Mythos 5 a přišla jen několik dní po jejich uvedení.
Podle Anthropic byly kontroly zavedeny 12. června. Vzhledem k tomu, že firma nedokázala v reálném čase spolehlivě ověřovat státní příslušnost uživatelů, přístup k oběma modelům raději dočasně pozastavila všem.
Od 1. července se Fable 5 vrací uživatelům po celém světě v prostředí Claude Platform, Claude.ai, Claude Code a Claude Cowork. Mythos 5 je však zatím dostupný pouze vybraným americkým organizacím, které jej mají používat hlavně pro obrannou kyberbezpečnost.
Spouštěčem byl údajný jailbreak
Celý případ odstartovala zpráva výzkumníků z Amazonu, kteří podle Anthropic našli způsob, jak obejít bezpečnostní pojistky modelu Fable 5. Model měl po takzvaném jailbreaku identifikovat několik softwarových zranitelností a v jednom případě ukázat i kód demonstrující možné zneužití.
Anthropic ale tvrdí, že nešlo o schopnost unikátní pouze pro Fable 5. Podle vlastního testování dokázaly stejné slabiny najít i méně výkonné modely včetně Claude Opus 4.8, GPT-5.5 nebo Kimi K2.7. Firma zároveň uvedla, že daný případ neodhalil žádné specifické schopnosti modelu Mythos 5, který je výrazně citlivější právě kvůli využití v kyberbezpečnosti.
I tak Anthropic přidal nové bezpečnostní klasifikátory. Ty mají lépe blokovat konkrétní typ požadavků popsaný ve zprávě Amazonu. Podle společnosti nová ochrana zachytí danou techniku ve více než 99 % případů. Vedlejším efektem ale může být vyšší počet falešných blokací u běžného programování a ladění kódu.
Umělá inteligence pod dohledem státu
Kauza ukazuje, že nejvýkonnější AI modely už nejsou jen technologickým produktem. V případě kybernetických schopností se z nich stává i otázka národní bezpečnosti. Americký ministr obchodu Howard Lutnick uvedl, že vláda během posledních dvou týdnů spolupracovala s Anthropic na analýze a schválení Fable 5 tak, aby byl model v souladu s vládními požadavky a zároveň posílil americké vedení v oblasti umělé inteligence.
Anthropic zároveň prohlubuje spolupráci s vládou USA. Ta má zahrnovat předběžné testování nových modelů, sdílení informací o jailbreacích a zneužití i společný výzkum bezpečnostních opatření.
Firma také začala ve spolupráci s partnery z projektu Glasswing připravovat rámec pro hodnocení závažnosti AI jailbreaků. Projekt Glasswing byl oznámen v dubnu a kromě Anthropic se do něj zapojily například Amazon Web Services, Apple, Google, Microsoft, NVIDIA, CrowdStrike nebo Linux Foundation. Cílem je využít pokročilé AI modely hlavně k obraně kritického softwaru.
Případ kolem Claude Fable 5 a Mythos 5 tak může být předzvěstí nové éry. Vývojáři AI budou pod stále větším tlakem, aby své nejvýkonnější modely uváděli rychle, ale zároveň s dohledem státu a s bezpečnostními pojistkami, které mají zabránit jejich zneužití.