Минобороны США: «красные линии» Anthropic делают компанию неприемлемым риском для национальной безопасности

Фото: Getty Images

Министерство обороны США во вторник вечером объявило, что Anthropic представляет собой «неприемлемый риск для национальной безопасности». Это первая реакция ведомства на иски AI-лаборатории, оспаривающих решение министра обороны Пита Хегсета признать компанию риском для цепочки поставок, принятое в прошлом месяце. Anthropic просила суд временно запретить Минобороны применять эту маркировку.

Суть аргумента Минобороны изложена в 40-страничном документе, поданном в федеральный суд Калифорнии. Ведомство опасается, что Anthropic может «попытаться отключить свою технологию или заранее изменить поведение модели» до или во время «боевых операций». Это может произойти, если компания решит, что её корпоративные «красные линии» пересечены.

Летом прошлого года Anthropic заключила с Пентагоном контракт на $200 млн на развёртывание своих технологий в секретных системах. В последующих переговорах о условиях контракта Anthropic заявила, что не хочет, чтобы её AI-системы использовались для массовой слежки за американцами. Также компания указала, что технология не готова к применению при выборе целей (целеуказании) или использовании летального оружия. Пентагон возразил, что частная компания не должна диктовать армии, как использовать технологию.

Крис Маттеи, юрист, специализирующийся на вопросах Первой поправки (защищающей свободу слова в США) и бывший прокурор Департамента юстиции, рассказал TechCrunch, что не проводилось никакого расследования, которое подтверждало бы опасения Минобороны. Ведомство опасается, что Anthropic может отключить или изменить свои модели во время боевых действий, но доказательств этому нет. Без таких доказательств, по мнению Маттеи, аргумент ведомства не объясняет, как именно переговорная позиция Anthropic сделала её «противником».

«Правительство полностью опирается на спекулятивные фантазии, чтобы оправдать очень серьёзный юридический шаг против Anthropic», — сказал Маттеи. Он добавил, что ведомство не смогло объяснить, почему отказ Anthropic согласиться на положение об «использовании в любых законных целях» сделал её риском для цепочки поставок, а не просто поставщиком, с которым Минобороны не хочет работать.

Многие организации выступили против действий Минобороны, отмечая, что ведомство могло просто расторгнуть контракт. Несколько tech-компаний и их сотрудники — в том числе из OpenAI, Google и Microsoft — а также правозащитные организации подали amicus briefs (письменные заключения третьих лиц в поддержку одной из сторон) в поддержку Anthropic.

В своих исках Anthropic обвинила Минобороны в нарушении прав по Первой поправке и наказании компании на идеологической основе.

«Бессмысленные аргументы правительства сами по себе — лучшее доказательство того, что действия администрации были откровенно карательным наказанием за отказ Anthropic согласиться с условиями. И этот отказ, вопреки утверждению в документе ведомства, является формой защищённого выражения», — сказал Маттеи.

Слушание по запросу Anthropic о предварительном судебном запрете назначено на следующий вторник.

Anthropic не ответила на запрос о комментарии.