Уже к середине 21 столетия человечество сможет создать по-настоящему могущественный искусственный интеллект, который уничтожит нашу цивилизацию, если в его работе что-то пойдет не так. Как пишет издание Washington Post, такую угрозу считает реальной Эмиль Торрес, философ и эксперт по оценке вероятности глобальных катастроф.

Торрес уверен, что к 2050 году в мире появится так называемый искусственный суперинтеллект — машина, возможности которой будут превосходить возможности человека. Уже сейчас, как отмечает эксперт, люди научились создавать алгоритмы ИИ, которые обходят нас в таких областях, как игра в шахматы или покер, и разработки в сфере машинного обучения становятся сложнее с каждым днем.

«Создание искусственного суперинтеллекта приведет к технологическому прорыву в самых разных областях, но нам придется иметь дело и с очень серьезными опасностями. Если люди доверят суперинтеллекту какие-то поистине важные вещи, то велика вероятность, что машина уничтожит человечество или сильно навредит ему. Нужны будут очень комплексные алгоритмы контроля ИИ, но где вероятность, что компьютерный супергений не сможет обойти их? Даже в сегодняшних алгоритмах ИИ есть аспекты, которые ускользают от нашего понимания, а в будущем люди будут все меньше понимать, как работают мощные ИИ», — предупредил Торрес.

Эксперт считает, что глобальная катастрофа по вине ИИ может произойти в том случае, если люди доверят машине слишком комплексные и абстрактные задачи. Например, поручат ИИ «устроить мир во всем мире», в результате чего компьютер просто уничтожит всех людей (нет людей — некому воевать друг с другом).