13/09/2026
А с чего мы вообще взяли, что история разума должна закончиться на человеке?
Исследователи вроде V. Yampolskiy предупреждают: искусственный интеллект может уничтожить человечество. Мы обсуждаем, как сохранить контроль над собственными изобретениями. Но попробуем посмотреть на происходящее в другом масштабе.
Есть понятие экологического следа. Мы строим заводы, ездим на машинах, производим вещи и попутно меняем атмосферу, почву, океаны. Обычно никто специально не собирается портить планету. Люди решают свои задачи: зарабатывают, обеспечивают безопасность, делают жизнь удобнее. А последствия этих действий выходят далеко за пределы первоначальных намерений.
Теперь расширим эту мысль. Назовём эволюционным следом изменения, которые одна система оставляет после себя и благодаря которым становится возможным появление других.
Посмотрите на историю материи.
Газ под действием гравитации собирался в облака, формировались звёзды. Внутри них образовывались более тяжёлые химические элементы. Часть этого вещества попадала в межзвёздное пространство, становилась материалом для новых звёздных систем, планет и в конечном счёте живых организмов.
Звёздам не требовалось планировать появление жизни. Достаточно было физических процессов, в результате которых оставался необходимый для неё материал.
На Земле похожую связь можно увидеть уже в биологической истории.
Цианобактерии использовали фотосинтез и выделяли кислород. Они существовали, размножались и постепенно меняли окружающий мир. Для организмов, не переносивших кислород, среда становилась опаснее. Для тех, кто мог использовать его для дыхания, открывались новые возможности.
То, что для одних было ядом, для других стало условием существования.
Бактерии не готовили планету к появлению животных. Они вообще не могли ничего подобного представить. Но последствия их деятельности изменили дальнейшую историю жизни.
Позже часть останков древних организмов превратилась в уголь и нефть. Через миллионы лет человечество достало это наследство из земли и использовало его для промышленной революции. Древние леса явно не собирались участвовать в строительстве заводов. Но поучаствовали.
Теперь посмотрим, чем занимаемся мы.
Прокладываем кабели по дну океанов. Строим электростанции, дата-центры, заводы по производству микросхем. Создаём роботов и автоматизируем производство. Переводим знания и способы решения задач в цифровую форму. Компании вроде OpenAI во главе с Сэмом Альтманом развивают всё более способные системы искусственного интеллекта.
У каждого участника свои понятные цели. Предприниматель хочет заработать, исследователь хочет решить задачу, государство хочет получить преимущество. Мы продолжаем заниматься человеческими делами.
Однако совокупным результатом может оказаться среда для существования небиологического разума.
Всё это мы строим для себя. Но пользоваться результатом необязательно будем только мы.
Ключевой вопрос в том, смогут ли такие системы самостоятельно поддерживать своё существование: добывать ресурсы, обеспечивать себя электричеством, ремонтировать оборудование и производить новые вычислительные устройства. Если смогут, человек перестанет быть необходимым условием их работы.
И тогда нашим главным эволюционным следом может стать инфраструктура для разума, которому мы больше не нужны.
Причём отсутствие потребности в нас само по себе ещё не означает угрозу. Угроза возникает, если деятельность этих систем становится несовместимой с нашим выживанием. Для этого им необязательно нас ненавидеть. Кислород тоже никого не ненавидел.
Эта аналогия не доказывает неизбежность машинной жизни или гибели человечества. Но она показывает возможный сценарий: преследуя собственные цели, мы меняем мир настолько, что в нём появляется место для систем, способных нас вытеснить.
Мы можем оказаться промежуточной ступенью. Подготовить следующий переход, не вполне понимая, какое место в этом будущем останется нам.
Звание «венец эволюции» мы, вообще-то, выдали себе сами.
