USA odblokovaly nejvýkonnější modely Claude po obavách z kybernetických útoků

Share This Post

Společnost Anthropic obnovuje přístup ke svému nejnovějšímu modelu Claude Fable 5 poté, co americká vláda zrušila exportní omezení uvalená v polovině června. Ta se týkala modelů Claude Fable 5 a Claude Mythos 5 a přišla jen několik dní po jejich uvedení.

Podle Anthropic byly kontroly zavedeny 12. června. Vzhledem k tomu, že firma nedokázala v reálném čase spolehlivě ověřovat státní příslušnost uživatelů, přístup k oběma modelům raději dočasně pozastavila všem.

Od 1. července se Fable 5 vrací uživatelům po celém světě v prostředí Claude Platform, Claude.ai, Claude Code a Claude Cowork. Mythos 5 je však zatím dostupný pouze vybraným americkým organizacím, které jej mají používat hlavně pro obrannou kyberbezpečnost.

Spouštěčem byl údajný jailbreak

Celý případ odstartovala zpráva výzkumníků z Amazonu, kteří podle Anthropic našli způsob, jak obejít bezpečnostní pojistky modelu Fable 5. Model měl po takzvaném jailbreaku identifikovat několik softwarových zranitelností a v jednom případě ukázat i kód demonstrující možné zneužití.

Anthropic ale tvrdí, že nešlo o schopnost unikátní pouze pro Fable 5. Podle vlastního testování dokázaly stejné slabiny najít i méně výkonné modely včetně Claude Opus 4.8, GPT-5.5 nebo Kimi K2.7. Firma zároveň uvedla, že daný případ neodhalil žádné specifické schopnosti modelu Mythos 5, který je výrazně citlivější právě kvůli využití v kyberbezpečnosti.

I tak Anthropic přidal nové bezpečnostní klasifikátory. Ty mají lépe blokovat konkrétní typ požadavků popsaný ve zprávě Amazonu. Podle společnosti nová ochrana zachytí danou techniku ve více než 99 % případů. Vedlejším efektem ale může být vyšší počet falešných blokací u běžného programování a ladění kódu.

Umělá inteligence pod dohledem státu

Kauza ukazuje, že nejvýkonnější AI modely už nejsou jen technologickým produktem. V případě kybernetických schopností se z nich stává i otázka národní bezpečnosti. Americký ministr obchodu Howard Lutnick uvedl, že vláda během posledních dvou týdnů spolupracovala s Anthropic na analýze a schválení Fable 5 tak, aby byl model v souladu s vládními požadavky a zároveň posílil americké vedení v oblasti umělé inteligence.

Anthropic zároveň prohlubuje spolupráci s vládou USA. Ta má zahrnovat předběžné testování nových modelů, sdílení informací o jailbreacích a zneužití i společný výzkum bezpečnostních opatření.

Firma také začala ve spolupráci s partnery z projektu Glasswing připravovat rámec pro hodnocení závažnosti AI jailbreaků. Projekt Glasswing byl oznámen v dubnu a kromě Anthropic se do něj zapojily například Amazon Web Services, Apple, Google, Microsoft, NVIDIA, CrowdStrike nebo Linux Foundation. Cílem je využít pokročilé AI modely hlavně k obraně kritického softwaru.

Případ kolem Claude Fable 5 a Mythos 5 tak může být předzvěstí nové éry. Vývojáři AI budou pod stále větším tlakem, aby své nejvýkonnější modely uváděli rychle, ale zároveň s dohledem státu a s bezpečnostními pojistkami, které mají zabránit jejich zneužití.

Related Posts

Představenstvo Nvidie prověřuje podezření na špionáž, Huangovi dál důvěřuje

Akcie Nvidie v úterý 10. listopadu odpoledne klesly na 166,95 dolaru a vymazaly všechny letošní zisky. Výprodej zrychlil poté, co republikáni pohrozili šéfovi firmy Jensenovi Huangovi předvoláním kvůli jeho kontaktům s ženou podezřelou z vazeb na čínské zpravodajské služby. Vědomé předání důvěrných informací ani porušení vývozních pravidel mu prokázáno nebylo.

Nasdaq má za sebou nejhorší měsíc od března 2025. Ustojí akcie týden voleb a výsledků?

Wall Street vstupuje do týdne amerických voleb, údajů o zaměstnanosti a výsledků Applu po oslabení Nasdaqu. Index za minulý týden ztratil 2 % a uzavřel nejhorší měsíc od března 2025. Vedle politiky se pozornost soustředí na další postup Fedu a hospodaření Applu.

Zhao po Muskově reakci žádá podporu a připomíná investici Binance

Binance slibuje uhradit ztráty po bezpečnostním incidentu, jehož dopad odhaduje na 6,3 miliardy dolarů. Její zakladatel Changpeng Zhao jako doklad finančních rezerv zmínil také podíl ve SpaceX v hodnotě přes miliardu dolarů. Později upřesnil, že tím neoznamoval jeho prodej.

OpenAI přinesla Microsoftu za čtvrtletí 10 miliard dolarů, více než Xbox

Microsoft za čtvrtletí končící 30. září 2026 vykázal z obchodů s OpenAI tržby 10 miliard dolarů, tedy téměř 11 procent svých celkových tržeb. Firma zároveň uvedla pohledávky vůči OpenAI ve výši 7,2 miliardy dolarů a její podíl ve startupu klesl na 24 procent.

Ripple rozšiřuje své bankovní služby. Cena XRP na to nereaguje

Ripple získala konečný souhlas amerického bankovního regulátora OCC se vznikem Ripple National Trust Bank. Nová banka bude spravovat rezervy stablecoinu RLUSD a poskytovat úschovu digitálních aktiv institucím, cena XRP ale po oznámení výrazně nevzrostla.

Výsledky technologických gigantů prověří očekávání od umělé inteligence

Microsoft a Alphabet zveřejní čtvrtletní výsledky ve středu 28. října, Amazon o den později. Jejich cloudové služby rychle rostou, zároveň však firmy vydávají desítky miliard dolarů na infrastrukturu pro umělou inteligenci. Vedle tržeb tak bude důležité i to, kolik peněz po investicích zbývá.