В новой глубокой беседе Юваль Ной Харари предлагает смотреть на искусственный интеллект не как на очередной инструмент, а как на самостоятельного агента, способного принимать решения и порождать результаты, которых человек заранее не предвидит.
По его мысли, главная опасность ИИ не в фантазиях о «восстании машин», а в более тихом и уже начавшемся процессе — постепенной потере человеком контроля над системами, на которых держится современное общество.
Харари особенно подчеркивает, что ИИ может глубже всего проникнуть не в сферу физического труда, а в бюрократические и институциональные механизмы: финансы, право, управление, государственные и корпоративные процессы.
Именно там он способен стать «родной средой», в которой человеку будет все труднее понимать, как именно принимаются решения. Отсюда, по его мнению, вырастает риск коллективного ослабления способности общества разбираться в собственных системах и управлять ими.
Не менее тревожной Харари считает и проблему истины. В эпоху генеративного ИИ ложные видео, тексты и образы становятся дешевыми и массовыми, а алгоритмы социальных сетей, как он отмечает, поощряют не правду, а эмоции — страх, гнев и возмущение. В результате общество получает не столько поток знаний, сколько поток манипуляций, который усиливает поляризацию и разрушает доверие.
Отдельно он говорит о вопросах ответственности. Если ИИ совершает вредоносные действия, ответственность не должна растворяться в абстрактной логике «это сделала модель, а не человек». По Харари, опасно даже допустить мысль о том, что ИИ может получить юридическую самостоятельность, потому что тогда человек рискует утратить рычаги контроля. ИИ, по его словам, не должен становиться удобным щитом для тех, кто его создает и внедряет.
Еще один важный пласт — влияние ИИ на человеческие отношения и воспитание. Харари предупреждает, что искусственные компаньоны, которые всегда подстраиваются под пользователя, могут исказить представление о реальной близости, где неизбежны компромиссы, несовпадения и чужая воля.
Для детей и подростков это особенно чувствительно: если первый опыт эмоциональной связи будет строиться с ИИ, у них может сформироваться искаженный шаблон общения с живыми людьми.
В итоге Харари сводит разговор к главному: ИИ — это не судьба и не неотвратимый сценарий, а вызов, на который человечество еще может ответить. Но для этого нужны регулирование, защита истины, сохранение демократических механизмов и готовность не отдавать технологии право решать за людей.