Сэм Альтман в очередной раз напомнил, что гонка за сверхмощным ИИ может закончиться не только технологическим прорывом, но и совсем некомфортным для индустрии исходом.

По сообщениям, на внутренней встрече OpenAI он описал три возможных сценария: появление глобального регулятора для передовых моделей, слияние крупнейших лабораторий в одну структуру или победу одной компании, которая получит настолько сильное преимущество, что сможет фактически лишить соперников возможности конкурировать. Последний вариант он назвал откровенно плохим.

Первый сценарий — международный надзор по типу атомного агентства — выглядит наиболее «цивилизованным», но и самым трудным для реализации. Идея проста: если ИИ становится системно опасным, его должны проверять независимые структуры, а самые мощные модели — проходить аудит и соблюдение общих стандартов.

Проблема в том, что ИИ уже стал стратегической технологией, а значит, государства вряд ли легко согласятся на единые правила, особенно когда речь идет о секретности, безопасности и технологическом суверенитете.

Второй сценарий — объединение ведущих лабораторий в одну большую организацию — тоже звучит логично с точки зрения безопасности. Если все главные игроки работают в одной системе, можно не подталкивать рынок к гонке «кто выпустит первым», а сосредоточиться на общих правилах и снижении рисков.

Но у такого пути есть своя цена: слишком большая концентрация знаний, вычислительных мощностей и кадров может превратить одну организацию в нового технологического гиганта почти без сдержек и противовесов.

Третий сценарий Альтман связывает с логикой «победитель получает всё». Если одна компания первой доберется до способности к рекурсивному самоулучшению, она может резко вырваться вперед и создать барьер, который конкурентам уже не преодолеть.

В самом жестком варианте это может привести даже к способности выводить из строя инфраструктуру соперников. Именно этот исход он считает худшим: не потому, что он фантастичен, а потому, что он делает технологическое превосходство слишком абсолютным.

При этом сам Альтман признает: OpenAI, несмотря на все разговоры о безопасности, не может просто выйти из гонки. Технологическое лидерство остается слишком важным, чтобы его безболезненно оставить конкурентам. В этом и заключается главный парадокс нынешнего ИИ-рынка: все понимают риски, но никто не хочет первым замедлиться.

И пока этот конфликт не решен, индустрия продолжает двигаться к будущему, которое многие уже считают опасным, но остановить его никто не спешит.