Компания Anthropic сообщила, что правительство США сняло запрет на экспорт ее самых мощных инструментов искусственного интеллекта. Всего несколько недель назад Белый дом обязал Anthropic ограничить доступ к ним по соображениям национальной безопасности, пишет Русская служба Би-би-си.
Anthropic заявила, что в среду начнет восстанавливать международный доступ к Claude Fable 5 и Mythos 5 после получения уведомления о том, что Министерство торговли США сняло ограничения на эти две модели.
12 июня американское правительство приостановило доступ к этим наиболее передовым ИИ-инструментам из-за опасений, что хакеры могут использовать их для взлома компьютерных систем.
Би-би-си ознакомилась с письмом Министерства торговли США, в котором говорится, что компания Anthropic устранила эти риски.
«Anthropic согласилась проактивно выявлять и устранять риски безопасности, связанные с этими моделями», — написал министр торговли Говард Лютник в письме компании.
Anthropic также намерена сотрудничать с правительством при выпуске на рынок новых моделей искусственного интеллекта и предупреждать его о любой вредоносной деятельности, написал Лютник.
Министерство торговли оставляет за собой право пересмотреть свое решение об отмене экспортных ограничений в случае необходимости, добавил он.
Би-би-си обратилась в Министерство торговли США за дополнительной информацией.
Mythos и Fable — две модели искусственного интеллекта от компании Anthropic, созданные в рамках семейства Claude, главного конкурента популярных чат-ботов ChatGPT от OpenAI и Gemini от Google.
Fable 5 — это версия модели искусственного интеллекта для потребительского рынка, которая способна самостоятельно выполнять сложные задачи и справляться с глубокой обработкой запросов.
Mythos 5 — это версия платформы, предназначенная для компаний и экспертов по кибербезопасности. Считается, что она способна выявлять уязвимости в компьютерном коде и использовать их в своих целях.
Обе модели были выпущены 9 июня.
Ранее Anthropic заявляла, что власти США не объяснили, почему именно они вводили ограничения на экспорт технологий компании.
«Насколько мы понимаем, правительству стало известно, что существует способ обхода или взлома Fable 5, — заявила тогда компания (имея в виду обход программных ограничений безопасности с целью разблокировки определенных функций). — Однако мы не согласны с тем, что обнаружение узкого потенциального способа взлома должно быть причиной отзыва коммерческой модели, которой пользуются сотни миллионов людей».
В начале июня руководство Anthropic предупредило, что новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под человеческого контроля.
Сооснователь Anthropic Джек Кларк заявил, что технология приближается к этапу, когда сможет развиваться без участия человека, и призвал создать механизмы, которые позволят при необходимости замедлять развитие искусственного интеллекта.
«У нас должна быть возможность убрать ногу с педали газа и нажать на тормоз, — заявил Кларк в интервью Би-би-си. — Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза».