Искусственный интеллект может лишить человечество контроля над собственной жизнью не в результате восстания машин, а постепенно — просто выполняя все больше задач за людей. Исследователи называют этот сценарий «постепенным лишением самостоятельности» и считают его одной из серьезнейших угроз будущему цивилизации.

Новые ИИ-помощники от Meta, Google и OpenAI уже обещают управлять рабочими процессами, планировать дела и избавлять пользователей от рутины. Однако эксперты предупреждают: по мере развития технологий люди рискуют превратиться в пассивных наблюдателей, которые лишь одобряют решения машин.

Речь не только о потере рабочих мест. Если ИИ будет выполнять практически все интеллектуальные и физические задачи лучше человека, люди начнут утрачивать навыки, знания и способность критически мыслить.

«Это проблема масштаба всей цивилизации», — заявил Джей Чуй, основатель компании Robocurve, отслеживающей развитие робототехники на базе ИИ.

Как люди могут потерять контроль

Термин «постепенное лишение самостоятельности» появился в научной работе, опубликованной в начале 2025 года. Ее авторы описывают мир, в котором ИИ превосходит людей практически во всем — от науки, программирования и творчества до производства и физического труда.

Представим компанию, выпускающую молотки. Сначала роботы начинают производить их быстрее и дешевле, а ИИ берет на себя управление бизнесом. Конкуренты внедряют новые технологии, и компания, которая продолжает нанимать людей, теряет клиентов. В итоге руководство вынуждено заменить сотрудников машинами, чтобы сохранить бизнес.

Если такой сценарий повторится во всех отраслях, люди постепенно утратят экономическую роль, а вместе с ней — практические навыки и возможность самостоятельно принимать решения. Когда система даст сбой, может оказаться, что людей, способных исправить ситуацию, больше нет.

«Если люди не практикуют навыки, которые за них выполняют ИИ-агенты, они теряют способность делать это самостоятельно и становятся зависимыми», — объяснила исследовательница ИИ Маргарет Митчелл из Hugging Face.

Угроза демократии

Последствия могут затронуть не только экономику, но и государственное управление. По мере развития ИИ военные и политические решения могут все чаще передаваться автоматизированным системам.

Страны, полагающиеся на людей, рискуют уступить тем, кто активнее использует ИИ: машины не нуждаются в отдыхе и способны анализировать огромные массивы данных. Это создаст давление в пользу дальнейшей автоматизации.

Соавтор исследования Ян Кулвейт предупреждает: если государствам больше не понадобятся граждане как работники, налогоплательщики и военнослужащие, у власти может оказаться меньше стимулов учитывать их интересы.

Он сравнивает такой сценарий с некоторыми нефтедобывающими государствами, которые могут меньше зависеть от налогов населения и, соответственно, слабее нуждаться в его политической поддержке.

«Многие говорят о том, что вышедший из-под контроля ИИ взломает дата-центры и захватит мир. Но гораздо реже обсуждается возможность того, что ИИ буквально возьмет мир под контроль, просто продолжая делать то, для чего его создали, — автоматизировать все», — отметил Чуй.

Как избежать зависимости от ИИ

По мнению исследователей, предотвратить этот сценарий будет непросто: компании испытывают сильное экономическое давление, заставляющее их заменять сотрудников технологиями. Поэтому одного наблюдения за развитием ИИ недостаточно — необходимо сохранять участие людей в ключевых процессах.

Митчелл предлагает не стремиться к полной автоматизации любой ценой, а намеренно оставлять этапы, на которых человек должен проверять результаты и принимать решения. Такой подход поможет сохранить навыки и не позволит людям утратить способность контролировать работу систем.

Кулвейт считает, что ИИ следует разрабатывать не только как замену человеку, но и как инструмент сотрудничества: система должна объяснять свои решения и помогать людям учиться, а не просто выдавать готовые ответы.

«Нужно определить сферы, в которых мы согласимся не позволять конкурентному давлению полностью исключать человека из процесса», — подчеркнул он.

Эксперты признают, что постепенная утрата человеческой самостоятельности может казаться менее пугающей, чем сценарии с биологическим оружием или восстанием машин. Но именно ее постепенность делает угрозу незаметной: люди могут добровольно передавать ИИ все больше функций, пока не обнаружат, что больше не способны обходиться без него.