Методология исследования
Авторы отобрали девять компаний, чьи модели лидируют в рейтингах – американские Anthropic, OpenAI, Google DeepMind, xAI, Meta, китайские Z.ai, DeepSeek, Alibaba Cloud и европейскую Mistral.
Затем эксперты-панелисты выставляли компаниям свои оценки по 37 показателям, которые были обобщены в шесть доменов:
| 1. | Оценка рисков (6 показателей) | Проверяется тестируют ли разработчики модели, например, проверяют их устойчивость к кибератакам или оценивают, может ли ИИ причинить вред человеку. Учитывается оценка рисков, проведенная силами компании, и с привлечением сторонних специалистов. |
| 2. | Текущие угрозы (9 показателей) | Речь не об обязательствах, а о фактически достигнутых результатах: оцениваются показатели ИИ-моделях в специализированных тестах безопасности (Stanford’s HELM Safety Benchmark, TrustLLM Benchmark и др.), проверяется наличие водяных знаков в контенте, «заглушек» для дообучения. |
| 3. | Фреймворки безопасности (4 показателя) | Оценка того, внедрена ли в компании система оценка рисков ИИ-систем, разработанная некоммерческой организацией SaferAI |
| 4. | Экзистенциальная безопасность (4 показателя) | Исследование того, насколько компании готовы справляться с экстремальными рисками – говоря проще, ищут ли они технические или организационные решения для предотвращения катастроф с участием ИИ. |
| 5. | Управление и подотчетность (4 показателя) | Насколько открыто компании раскрывают техническую и управленческую информацию, а также насколько их публичные заявления и позиция в законодательных вопросах соответствуют принципам ответственного управления ИИ. |
| 6. | Обмен информацией (10 показателей) | Оценка готовности бизнеса делиться информацией о продуктах, рисках и практиках управления рисками. Включает добровольное участие в международных инициативах (например, отчетность в рамках Хиросимского процесса G7 по ИИ), сотрудничество с правительствами для разработки законодательства и т. д. |
Шкала оценок была пятибалльной, она варьировалась от A – наивысший балл, «отлично», до F – низший балл, «неудовлетворительно».
Результаты анализа
Anthropic, OpenAI и Google DeepMind сохраняют лидерство. Anthropic получила наивысшие оценки, она лидирует в пяти из шести доменов. Лидерство OpenAI – в области оценки рисков; компания интенсивно тестирует свои продукты. По сравнению с предыдущим замером, Meta улучшила позиции, а xAI, наоборот, сползла с четвертого на седьмое место.
Не существует «правильного национального подхода». Неудовлетворительные оценки получили, компании из разных стран с разными подходами к ИИ: США (xAI), Китая (DeepSeek) и Европы (Mistral). Ситуация с Mistral даже получила название «европейский диссонанс». Как пишут авторы исследования, «несмотря на то что Европейский союз является лидером в области регулирования безопасности ИИ, ведущая европейская ИИ-компания Mistral заняла последнее место по показателям безопасности».
ИИ становится оружием в буквальном смысле. Эксперты отмечают, что с 2024 по 2026 гг. компании вроде Anthropic, OpenAI, Google DeepMind и Meta отошли от антивоенной риторики и начали активно искать партнерства в оборонной сфере. Упоминаются «сомнительные военные контракты» Anthropic, чьи продукты использовались армией США во время операции в Иране.
xAI стремится внедрять ИИ-системы в военной сфере «без идеологических ограничений». Тем временем Mistral создаёт оборонные ИИ-приложения, опираясь на идею европейского суверенитета, при этом снимая с себя корпоративную ответственность за их конечное применение. DeepSeek, Z.ai и Alibaba Cloud сталкиваются с обвинениями США в поддержке Народно-освободительной армии Китая (НОАК) — обвинениями, которые Z.ai и Alibaba публично отрицают.
Конкуренция подталкивает корпорации к «ослаблению хватки» в вопросах безопасности. В докладе сказано, что Anthropic, OpenAI, Google DeepMind и Meta ослабили или аннулировали обещания о приостановке разработки ИИ при «приближении к красным линиям».
По оценке комиссии, эта динамика подорвала системы безопасности по всей отрасли и стимулирует коллективную «гонку на дно», а не стремление к совершенству (a collective race to the bottom, rather than to the top).
Хуже всего у компаний обстоят дела с экзистенциальной безопасностью. Большинство получают оценку «D» (двойка). Экспертов беспокоит, что в погоне за создание лучшего продукта разработчики рискуют допустить «необратимую потерю контроля» над ИИ. Сами методы контроля вызывают критику, так как направлены на обнаружения ошибок, а не на их предотвращения. По мнению авторов, многие риски возникают не внутри машины (на чем фокусируются инженеры), а в контексте ее эксплуатации. Например, «поддакивание ИИ» (sycophancy), подталкивающее порой к фатальным ошибкам и самоубиствам.
В отношении таких компаний, как Z.ai, Alibaba Cloud, xAI, DeepSeek и Mistral, эксперты отметили «недостаток свидетельств того, что они вообще занимаются проблемами экзистенциальной безопасности» или «отсутствие убедительной стратегии».
Риторика о безопасности часто расходится с реальным поведением корпораций. У Google DeepMind, OpenAI и xAI обнадеживающие публичные заявления руководства расходятся с коммерческой практикой и позицией в вопросах законодательства.
Наиболее ярко эксперты выявили это в случае Google DeepMind — речь идет о расхождении между тем, что транслирует генеральный директор Демис Хассабис в своих публичных заявлениях, и тем, как Google действует в качестве политического субъекта (компания «в значительной степени отказывается от сотрудничества в вопросах регулирования»)… это также касается xAI,… что отражает «разрыв между личными заявлениями Маска и официальными коммуникациями/действиями компании».
Выводы исследования вполне определенные – на «цифровых баронов» пора набросить удавку в интересах общества, так как капиталисты ставят обогащение выше безопасности:
Возможности ИИ развиваются быстрее, чем управленческие и технические подходы, призванные их регулировать, и последствия этого больше не являются гипотетическими… Ни у одного лидера отрасли нет убедительного плана по контролю над все более автономными и мощными системами, которые они создают…
…Крайне важно требовать от компаний ответа за их собственные слова: добиваться, чтобы заявленные ими пороговые значения и «красные линии» имели обязательную силу, и напоминать им о тех обязательствах, которые они уже на себя взяли — прежде всего, об обещании нажать на паузу… доверие к безопасности передового ИИ больше не может основываться на саморегулировании; оно требует внешней проверки и внедрения базовых стандартов практики, которые заставят компании соблюдать безопасность даже в условиях жесткого конкурентного давления.
Полный текст исследования доступен по ссылке.