Кремниевая долина и Ватикан впервые заговорили почти в унисон: тема безопасности искусственного интеллекта окончательно вышла из лабораторий и превратилась в глобальную политическую и экзистенциальную проблему.

Билл Гейтс, всю жизнь веривший в спасительную силу технологий, в интервью NBC заявил, что искусственный интеллект уже достаточно силён, чтобы злоумышленники могли с его помощью вызвать катастрофу с гибелью миллиарда человек.

По его словам, в истории не существовало оружия более мощного, чем сочетание недобрых намерений и новейших ИИ-инструментов: генеративные модели способны подсказать биологу-любителю, как сконструировать смертоносный патоген, обходящий существующие вакцины, находить уязвимости в критической инфраструктуре и создавать неотличимые от реальности дипфейки, разрушающие саму способность общества к совместной жизни.

Гейтс безжалостно раскритиковал саморегулирование отрасли, заявив, что никто не считает его достаточным, и потребовал обязательного вмешательства государства в создание защитных механизмов.

Его позиция при этом парадоксальна: в конце августа он предупреждал о высокой вероятности «чисто негативного результата» от ИИ, перечисляя массовую безработицу, крах кибербезопасности, биотерроризм и потерю контроля над самими системами, а уже в сентябре его фонд объявил о вложении миллиарда долларов в применение ИИ в образовании и медицине.

В этой двойственности — точный портрет момента, когда человечество держит в руках и прометеев огонь, и факел, способный сжечь мир.

В тот же день, 25 сентября, Папа Римский Лев XIV в первый день визита во Францию обрушился на «машинный рай» — мир, в котором алгоритм думает, решает и чувствует за человека, лишая его свободы воли и этического суждения.

Понтифик призвал учить не программированию, а этике, а в штаб-квартире ЮНЕСКО указал на парадокс: вычислительные системы гордо именуют «интеллектом», тогда как живых людей оценивают по эффективности и выбрасывают, как мусор, когда они перестают быть полезными.

На этом фоне президент США 22 сентября с трибуны Генеральной Ассамблеи ООН распорядился навсегда заменить в официальных документах термин «искусственный интеллект» на «суперинтеллект», объяснив, что слово «искусственный» звучит слишком «ненастояще», тогда как технология на самом деле поразительна.

Госдепартамент уже разослал дипломатам директиву о переименовании, а главный технический директор страны провозгласил США лидером в области SI.

В ответ на предупреждения учёных о том, что ИИ может в течение десятилетия стать угрозой существованию человечества, президент назвал эти опасения «обманом», а сенатор Берни Сандерс и конгрессмен Грег Касар внесли радикальный законопроект о запрете разработки неконтролируемого ИИ и паузе в развитии передовых систем до введения строгих проверок.

Человечество стоит на перекрёстке: в одну сторону — медицинские прорывы и изобилие энергии, в другую — генетическое оружие и гибель цивилизации.

Когда машины называют «интеллектом», напоминает Папа, не стоит забывать о человеческом достоинстве, а когда вычисления давят всё на своём пути — тем более важно сохранить то, что делает нас людьми. Времени на исправление ошибок, как предупреждают и Гейтс, и понтифик, остаётся всё меньше.