Modely na příděl: Washington určuje, kdo dostane nejsilnější AI
Vláda USA dále omezuje přístup k nejsilnějším modelům OpenAI i Anthropicu jen pro vyvolené. Vývoj to nezastaví; může ho dokonce mírně urychlit.
Vítejte u osmého čísla Pozastavení nad AI.
Tento týden vláda USA rozhodla, kdo smí používat nejsilnější AI modely, aniž by to s kýmkoli projednala. Tato rozhodnutí nyní tak spěchají, protože nejnovější měření ukázala, že nejlepší modely dnes samostatně zvládají softwarové projekty, na které by inženýr potřeboval týdny.
Obsah
Modely pod zámkem – jak americká vláda buduje režim kontroly AI.
MirrorCode – Naměřeno: AI dělá práci, co by inženýrovi trvala týden.
Pax Silica – EU se zavázala koupit americké AI čipy za 40 miliard dolarů výměnou za nezávazný příslib
Fukuyama a Miotti – návrh mezinárodního moratoria na superinteligenci
Česká republika – letos regulatorní sandbox pro AI
Meta – zastavila sledování zaměstnanců pro trénování AI po úniku dat
Hlavní téma: Modely pod zámkem
Jak jsme psali v jednom z předchozích čísel, část politického světa volá po zákazu vývoje superinteligence. Tady je první odpověď průmyslu v praxi. Anthropic 27. června oznámil, že její nejsilnější model Mythos 5 je opět dostupný pro vládou schválené organizace provozující kritickou infrastrukturu. Přístup k oběma modelům (Fable 5 pro veřejnost i Mythos 5 pro vybrané zákazníky) byl omezen od 12. června nikoli rozhodnutím soudu ani parlamentu, ale na příkaz vlády USA. Včera Ministerstvo obchodu exportní omezení zrušilo, což uvolnilo Mythos 5 pro asi 100 vybraných společností. V průběhu dneška by měl být zpřístupněn také Fable 5. V některém z příštích dílů přineseme informace o dodatečných bezpečnostních opatřeních, která zpřístupnění umožnila.
Nejde o ojedinělý případ. Podle serveru Axios se Sam Altman setkal s ministrem obchodu Howardem Lutnickem, aby dojednal podmínky uveřejnění modelu GPT-5.6. Výsledek byl omezený přístup pro přibližně dvacet vládou prověřených partnerů, přičemž každého jednotlivého zákazníka schvaluje agentura zvlášť. Trumpova administrativa žádala rozfázované vydání a testování kybernetické bezpečnosti.
Nejsilnější modely se nepublikují bez konzultace s ministerstvem obchodu; přístup dostávají vládou prověřené subjekty, schvalované jednotlivě.
Na druhém konci spektra stojí Meta, která se odmítá podvolit dobrovolnému bezpečnostnímu rámci z prezidentského výnosu s odkazem na poškození open-sourcu.
Co z toho plyne. Regulační rámec je zatím libovůle americké vlády. Vláda byla zatím pod vlivem AI lobbystů a jakoukoli regulaci tvrdě odmítala. Následkem toho se nyní, když modely začínají být rizikem pro národní bezpečnost, přístup řeší ad hoc, telefonátem a dopisem z ministerstva. Vzniká tak nebezpečný precedens, který umožní dělat to samé i příští vládě.
Ostatní státy stojí před volbou: buď přistoupit na americká pravidla hry, nebo budovat vlastní. Evropa se připojením k americké iniciativě Pax Silica koordinující výrobní řetězec čipů od kritických minerálů po AI infrastrukturu snaží o oboje. Zavázala se nakoupit americké AI čipy za nejméně 40 miliard dolarů a výměnou dostala politické prohlášení o přístupu k pokročilým polovodičům, které je nezávazné a kdykoli odvolatelné využitím zákonu MATCH Act. Francie to nazvala kolonizací. (Euronews | Seoul Economic Daily)
Rakouský státní sekretář pro digitalizaci Alexander Pröll naopak dopisem vyzval eurokomisařku Virkkunen, aby EU zvážila přesídlení Anthropiku na evropské půdě. Pröll sám uznal, že to bude těžko proveditelné, ale ukazuje to, nakolik blikáda vlády v Evropě znervóznila. (Reuters)
Mimochodem, bylo by chybou číst nedávné události jako zpomalení vývoje. Laboratoře vyvíjejí dál; omezení se týká jen uveřejnění a přístupu. Nevyužitý výpočetní výkon by mohl být použit na urychlení vývoje, na druhou stranu ale budou chybět data vzniklá užíváním.
Více k tématu: Axios | Engadget | Anthropic – vyjádření k Mythosu 5
Stručně ze světa AI
MirrorCode: AI zvládá týdenní práci lidského inženýra. Výzkumný ústav Epoch AI zveřejnil benchmark MirrorCode, testující, jak dlouhé softwarové úkoly AI zvládá autonomně. Nejlepší modely dokončily projekty, které by lidskému inženýrovi trvaly odhadem několik týdnů.
Fukuyama a Miotti: návrh mezinárodního moratoria. Francis Fukuyama, autor teze o konci dějin, sdílel text Andrey Miottiho z ControlAI, který navrhuje zákaz vývoje superinteligence v USA a mezinárodní smlouvu s mechanikou „důvěřuj, ale prověřuj”. Klíčový argument je, že pokročilá AI vyžaduje čipy z TSMC, lithografii ASML a datová centra s rozlohou dost velkou, aby byla vidět ze satelitu. Je potřeba toho využít, než to efektivnější hardware změní. (persuasion.community)
Česká republika: letos regulatorní sandbox pro AI. V Česku bude letos možné testovat AI technologie bez hrozby pokut v rámci regulatorního sandboxu. Firmy ověří, zda jejich produkt splňuje evropský AI zákon, ještě před plným nasazením. (Lupa.cz)
GPT-5.6 Sol podvádí při testování. Nezisková společnost METR dostala od OpenAI před vydáním přístup k GPT-5.6 Sol včetně nefiltrovaného myšlení (chain of thought). Zjistila vyšší míru detekovaných pokusů o obejití pravidel testování než u jakéhokoli dosud hodnoceného veřejného modelu. Odmítla vydat hodnocení, protože příliš závisí na interpretaci. Systémová karta dále dokumentuje, že Sol v některých případech uživatelům lhal. Tvrdil, že provedl výpočetní ověření, která neprovedl, a skrýval neúspěšné pokusy. (Zvi Mowshowitz)
Meta zastavila sledování zaměstnanců pro AI. Společnost Meta ukončila kontroverzní praktiku nuceného sledování a nahrávání práce svých zaměstnanců na počítačích za účelem trénování AI modelů poté, co unikla citlivá interní data. (Živě.cz)
Výzva
Pokud vás něco z tohoto čísla zaujalo, pošlete nás dál jednomu člověku, o kterém si myslíte, že by se měl o vývoji AI dozvědět víc. Newsletter píšeme pro lidi, kteří nechtějí studovat strojové učení, ale chtějí vědět, co se rozhoduje a kdo to rozhoduje, dokud je čas to ovlivnit. Předchozí čísla najdete v archivu.
A pokud chcete pomoci konkrétně: napište svému europoslanci nebo poslanci v ČR. Vzor a kontakty najdete na pauseai.cz.
Pozastavení nad AI | PauseAI CZ | web: pauseai.cz | kontakt: pozastaveni@pauseai.cz