Ученые опирались на перечень из 24 областей рисков – тематических полей, в рамках которых они выделяли угрозы. Например, возможные утечки персональных данных; использование ИИ для разработки оружия; ослабление человека, делегирующего большую часть решений машинам и т. д. Эксперты оценивали насколько те или иные риски вероятны и насколько они серьезны по своим последствиям.
Несмотря на нейтральный тон доклада и взвешенность подхода, вывод исследования получился довольно эмоциональным: «Окно возможностей для предотвращения катастрофических последствий остается открытым, однако неуклонно сужается».
Если не предпринимать никаких мер, то в ближайшие пять лет 18 из 24 областей рисков имеют десятипроцентную вероятность катастрофических последствий
Под катастрофой понимается событие, которые может привести к более, чем миллиону жертв или финансовых потерь свыше $100 млрд.
Как видно из графика, опасения вызывают растущие возможности ИИ, особенно в оборонной сфере, а также социальные, экономические, экологические проблемы, сопутствующие новому витку цифровизации.
Эксперты выделили пять областей рисков с наибольшей ожидаемой тяжестью последствий – вне зависимости от предпринимаемых мер
- Опасные возможности ИИ: речь о том, что некоторые системы обладают архитектурой и правами, которые делают их угрозой по умолчанию – например, могут разрабатывать оружие, политические стратегии или воспроизводить сами себя. Это делает такие системы небезопасными в случае сбоя или действий злоумышленников.
- Конкурентная динамика: разработчики ИИ участвуют в постоянной гонке – победа в ней сулит прибыль и иные преимущества. Спешка повышает риск выпуска небезопасных и ненадежных систем.
- Кибератаки или применение оружия: ИИ может использоваться как для создания вредоносного ПО, так или для совершенствования существующего оружия – химического, биологического, ядерного.
- Централизация власти и ресурсов: те субъекты или группы, которые будут иметь доступ к мощным системам ИИ, сконцентрируют в своих руках значительную власть – это чревато социальным неравенством.
- Ложная информация: системы ИИ, генерирующие неверную или вводящую в заблуждение информацию, могут формировать у пользователей ошибочные убеждения, которые, в свою очередь, ведут к ошибочным решениям.
Участники исследования пришли к выводу, что прагматичные меры снизят тяжесть последствий от негативных сценариев с участием ИИ, однако вероятность катастрофического ущерба в ряде областей (опасные возможности, кибератаки, экологический вред, неравенство и безработицы, а также централизация власти) по-прежнему превысит 10%.
Наиболее уязвимые сектора экономики – медиа, финансы, национальная безопасность, здравоохранение
Экспертам предложили оценить 14 секторов экономики в контексте 24 областей ИИ-рисков. Самые серьезные опасения вызвали несколько секторов:
- Медиа (Information): cюда включены организации, которые создают информационный или культурный продукт – издатели, производители контента, вещатели, компании, занимающиеся телекоммуникациями и обработкой данных. Сектор подвержен практически всем рискам – среди них «замещение» человеческой креативности, ИИ-галлюцинации, утечки персональных данных пользователей и т. д.;
- Национальная безопасность (National Security): правительственные учреждения, ответственные за безопасность, а также и вооруженные силы. Как отметил один из экспертов, проблема здесь двойная: эти институты служат объектами атак с применением ИИ, а также полагаются на системы принятия решений, сбой которых может привести к проблемам геополитического масштаба;
- Финансы и страхование (Finance and Insurance): организации, которые предлагают финансовые операции и защиту от рисков: банки, страховые, инвестиционные компании и т. д. Уязвимости касаются различных мошеннических схем с применением ИИ;
- Здравоохранение (Health Care): экспертов беспокоит защита персональных данных, возможная дискриминация пациентов со стороны ИИ-систем, чрезмерное доверие к ним врачей.
В то же время большинство участников исследования были солидарны, что в таких секторах, как сельское хозяйство, добывающая промышленность, производство, строительство, сфера услуг (кафе, парикмахерские, отели и т. д.) угроза со стороны ИИ минимальна. Тем не менее авторы отмечают, что, во-первых, степень внедрения ИИ в этих областях пока невысока, а, во-вторых, на них может сказаться проблемы, актуальные для всей экономики – например, вызванное ИИ сокращение рабочих мест.
«Эксперты пришли к выводу, что прагматичные меры вмешательства и разумное регулирование способны снизить наихудшие сценарии рисков, пусть и не устраняя их полностью. Совокупное суждение сотен экспертов по ИИ, представленное в данной работе, предлагает четкий набор приоритетов для исследователей, политиков и руководителей отрасли: укреплять защиту в критически важных секторах, обеспечивать привлечение субъектов к ответственности за риски, которые им принадлежат, и устранять структурные противоречия, сохраняющиеся даже при наличии прагматичных мер по снижению рисков».