На початку цього місяця розробник ІІ-систем Anthropic зробив гучну заяву: вони створили нову модель, Mythos Preview, але вирішили не випускати її у відкритий доступ. Компанія стверджує, що це рішення продиктоване «відповідальність», посилаючись на безпрецедентну здатність моделі виявляти та експлуатувати вразливості у програмному забезпеченні.
За словами Anthropic, ризики, пов’язані з Mythos, занадто великі, щоб їх ігнорувати: модель потенційно загрожує національній безпеці, громадській безпеці та глобальній економічній стабільності.
Головна проблема: автономні кіберзагрози
Основний страх, пов’язаний з Mythos, полягає у її вузькоспеціалізованих навичках. У той час як більшість великих мовних моделей призначені для вирішення спільних завдань, Mythos, судячи з усього, демонструє визначні успіхи в експлуатації вразливостей у сфері кібербезпеки.
Якщо модель здатна автономно знаходити «дірки» у програмному коді та створювати експлойти для проникнення через них, це теоретично може призвести до наступних наслідків:
– Автоматизація великомасштабних кібератак.
– обхід систем захисту критично важливої інфраструктури;
– Прискорення темпів ведення цифрових воєн настільки, що люди-захисники не зможуть на них реагувати.
Скептицизм та дискусія «Безпека проти Стратегії»
Незважаючи на серйозність попереджень Anthropic, далеко не всі переконані, що Mythos — це та сама «суперзброя», про яку заявляє компанія. Деякі галузеві експерти висловлюють скептицизм щодо реальних можливостей моделі, задаючись питанням: чи не перебільшено масштабу загрози?
Це протистояння порушує критичне питання: ** чи є Anthropic відповідальним першопрохідником чи вони використовують «безпеку» як інструмент конкурентної боротьби?**
В умовах жорстких перегонів озброєнь у сфері ІІ заява про те, що розроблена модель, «надто небезпечна для випуску», має кілька стратегічних цілей:
1. Позиціонування над ринком: Це стверджує Anthropic у ролі найетично свідомішого гравця у промисловості.
2. Вплив на регулювання: Підкреслюючи екстремальні ризики, компанія може лобіювати введення більш суворих правил, які створять високі бар’єри для входу, ускладнюючи роботу дрібним конкурентам.
3. Довіра до бренду: Це формує імідж корпоративної відповідальності, який притягує уряди та корпоративних клієнтів, що побоюються ризиків, пов’язаних з ІІ.
Шлях до регулювання
Незалежно від того, чи перебільшена загроза з боку Mythos, цей інцидент підкреслює зростаючу тенденцію в індустрії ІІ: перехід від розробки, орієнтованої на можливості, до управління, орієнтованого на ризики.
Рішення утримати модель через її потенційну шкоду знаменує собою…
