Эксперты предупреждают, что передовой искусственный интеллект (ИИ) может «убить всех» и должен регулироваться, как ядерное оружие, пишет Telegraph.
Исследователи из Оксфордского университета считают, что продвинутый ИИ может взять под контроль собственное программирование, если он научится достигать своих целей не так, как предполагалось изначально.
«Сверхчеловеческий ИИ сопряжен с особым риском другого класса, который может убить всех. Если представить, что собаку дрессируют угощениями, она научится выбирать действия, которые приведут к получению угощений, но если собака найдет шкафчик с угощениями, она сможет получить угощения сама, не делая того, что мы от нее хотели. Если у вас есть что-то гораздо более умное, чем мы, пытающееся получить эту положительную обратную связь, и оно захватило весь мир, чтобы обеспечить ее, оно направит столько энергии, сколько сможет, на то, чтобы удержать это», - считает докторант Майкл Коэн.
По его словам, будет трудно остановить процесс, как только джин будет выпущен из бутылки.
«Если бы я был ИИ, пытающимся провернуть какой-то коварный план, я бы скопировал свой код на какую-то другую машину, о которой никто ничего не знает, тогда было бы сложнее выдернуть вилку из розетки».
Эксперты предупредили, что развитие ИИ превратилось в «буквальную гонку вооружений», когда страны и технологические компании соревнуются в создании опасно продвинутых алгоритмов машинного обучения для получения военного и гражданского преимущества.
Они призвали к глобальному регулированию, чтобы не допустить, чтобы компании создавали неконтролируемые системы, которые могут сначала устранить конкуренцию, но в конечном итоге «уничтожить всю человеческую расу», и предупредили, что нет предела тому, как далеко может продвинуться ИИ.
Майкл Осборн, профессор машинного обучения в Оксфордском университете, думает, что мрачный сценарий реалистичен, потому что ИИ пытается «разлить по бутылкам то, что делает людей особенными, что привело к тому, что люди полностью изменили лицо Земли».
«Я думаю, что мы участвуем в масштабной гонке вооружений ИИ, геополитически между США и Китаем, и среди технологических компаний, похоже, есть эта готовность выбросить безопасность и осторожность в окно и как можно быстрее мчаться к самому продвинутому ИИ. Искусственные системы могут так же хорошо перехитрить нас в геополитическом плане, как и в таких простых средах, как игры».
Осборн надеется, что страны по всему миру осознают «экзистенциальную угрозу» со стороны передового ИИ и объединятся, чтобы заключить договоры, которые предотвратят разработку опасных систем. «Если бы мы смогли понять, что продвинутый ИИ представляет такую же опасность, как ядерное оружие, то, возможно, мы могли бы прийти к аналогичным основам для управления им».
В некоторых областях, таких как беспилотные автомобили, ИИ не добился такого большого прогресса, как ожидалось, но в других, таких как генерация текста, он продвинулся намного дальше, чем кто-либо ожидал.
Эксперты заявили, что программисты лишь «поцарапали поверхность» того, на что способен ИИ, и предсказали, что многие утомительные административные и повторяющиеся задачи вскоре будут автоматизированы. Однако маловероятно, что ИИ когда-либо заменит творческие области, связанные с лидерством, наставничеством или убеждением.
Эксперты заявили, что разумно ожидать, что к концу века будет создан ИИ, способный делать гораздо больше, чем любой человек, и призвали запретить опасные алгоритмы.
