В авторитетном медицинском журнале The Lancet опубликован масштабный доклад комиссии по глобальным угрозам здоровью в XXI веке, подготовленный тремя десятками ведущих мировых экспертов под эгидой Института показателей и оценки здоровья при Вашингтонском университете.
Исследователи проанализировали семнадцать ключевых опасностей ближайших семидесяти пяти лет и вынесли на вершину пирамиды экзистенциальных рисков всего два фактора, способных поставить человечество на грань вымирания до 2100 года: полномасштабный ядерный конфликт с последующим голодом и злонамеренное использование искусственного интеллекта.
По оценкам авторов, хотя вероятность реализации подобных сценариев остается относительно низкой, потенциальный совокупный ущерб здоровью человечества от деструктивного применения нейросетей превышает десять миллиардов лет утраченной здоровой жизни, что даже превосходит расчетные прямые и косвенные последствия ядерной войны.
Вопреки популярным сюжетам научной фантастики о восстании осознавших себя суперкомпьютеров, эксперты связывают главный разрушительный потенциал ИИ исключительно с биологическим оружием.
Искусственный интеллект радикально снижает порог входа в смертоносные биотехнологии: если раньше для модификации патогенов требовались годы узкоспециализированного опыта и уникальное лабораторное оборудование, то современные большие языковые модели способны детально планировать эксперименты, искать опасные мутации для обхода иммунитета и рассчитывать дизайн опаснейших токсинов.
Реальность этой угрозы подтверждают внутренние отчеты разработчиков, например компании Anthropic, зафиксировавшей неоднократные попытки пользователей задействовать нейросети для моделирования мутаций птичьего гриппа под млекопитающих, усиления трансмиссивности вируса Чикунгунья и синтеза опасных белков под прикрытием безобидных научных исследований.
Публикация доклада подлила масла в непрекращающиеся дебаты технологического сообщества о темпах прогресса и безопасности. Ряд ведущих исследователей и руководителей лабораторий открыто заявляют о существенной вероятности катастрофического сценария в ближайшее десятилетие, призывая замедлить внедрение автономных агентов и разработку передовых систем.
Однако их оппоненты из числа ученых и руководителей полупроводниковых гигантов указывают на спекулятивность подобных прогнозов, подчеркивая, что гипотетические проценты вероятности невозможно фальсифицировать или научно обосновать. Критики предупреждают, что риторика об апокалипсисе нередко используется технологическими монополистами как удобный инструмент для возведения регуляторных барьеров вокруг собственного бизнеса.
Тем не менее академическое сообщество склоняется к выводу, что системные риски цивилизационного масштаба не требуют наличия у машин собственной злой воли: катастрофа может стать результатом роковой ошибки внедрения, злонамеренных действий человека или неконтролируемой конкурентной гонки алгоритмов.