Začátkem tohoto měsíce vývojář systému AI Anthropic učinil velké oznámení: vytvořili nový model, Mythos Preview, ale rozhodli se jej nezveřejnit. Společnost tvrdí, že rozhodnutí je řízeno „odpovědností“, přičemž uvádí jedinečnou schopnost modelu identifikovat a využívat zranitelnosti v softwaru.
Podle Anthropic jsou rizika spojená s Mythos příliš velká na to, aby je bylo možné ignorovat, přičemž tento model potenciálně ohrožuje národní bezpečnost, veřejnou bezpečnost a globální ekonomickou stabilitu. Tento krok však mezi odborníky vyvolal debatu o tom, zda společnost jedná z pouhé opatrnosti, nebo ze záměrné strategie určování pozice.
Hlavní problém: autonomní kybernetické hrozby
Hlavním strachem spojeným s Mythosem jsou jeho vysoce specializované dovednosti. Zatímco většina velkých jazykových modelů je navržena tak, aby řešila obecné problémy, zdá se, že Mythos má mimořádný úspěch ve využívání slabých míst v oblasti kybernetické bezpečnosti.
Pokud je model schopen autonomně najít díry v kódu programu a vytvořit exploity k jejich proniknutí, mohlo by to teoreticky vést k následujícím důsledkům:
– Automatizace rozsáhlých kybernetických útoků.
– Obcházení systémů ochrany kritické infrastruktury.
– Zrychlení tempa digitální války do takové míry, že lidští obránci na ně nebudou schopni reagovat.
Skepse a debata o bezpečnosti versus strategii
Navzdory závažnosti varování Anthropic nejsou všichni přesvědčeni, že Mythos je „superzbraní“, kterou společnost prohlašuje. Někteří odborníci z oboru vyjádřili skepsi ohledně skutečných schopností modelu a zajímali se, zda nebyl rozsah hrozby přehnaný.
Tato patová situace vyvolává kritickou otázku: Je společnost Anthropic odpovědným průkopníkem, nebo používá „bezpečnost“ jako konkurenční nástroj?
V nelítostných závodech ve zbrojení s umělou inteligencí slouží prohlášení, že byl vyvinut model, který je „příliš nebezpečný na to, aby se dal vypustit“, k několika strategickým účelům:
1. Umístění na trhu: Díky tomu je Anthropic nejeticky uvědomělejším hráčem v oboru.
2. Dopad regulace: Zdůrazněním extrémních rizik může společnost lobbovat za přísnější předpisy, které vytvoří vysoké překážky vstupu a ztíží fungování menších konkurentů.
3. Brand Trust: To vytváří image společenské odpovědnosti, která přitahuje vlády a korporátní klienty, kteří se bojí rizik spojených s AI.
Cesta k regulaci
Bez ohledu na to, zda je hrozba ze strany Mythos přehnaná, tento incident zdůrazňuje rostoucí trend v odvětví umělé inteligence: posun od vývoje řízeného schopnostmi k řízení řízenému riziky.
Rozhodnutí ponechat si modelku kvůli jejím potenciálním známkám poškození…
