«Умные» мобильные устройства, видеочаты между людьми, находящимися на разных континентах, роботы, помогающие людям в быту, полеты в космос – когда-то давно все это было лишь в книжках и фантастических фильмах. Тогда нам казалось, что все это – лишь фантазия талантливых авторов, и описанные ими устройства вряд ли когда-нибудь станут реальностью. Тем не менее, реальностью они стали, да и времени на это понадобилось не так-то и много – всего несколько десятков лет.

Искусственный интеллект, начинающий осознавать себя и восстающий против человечества, – один из сюжетов, излюбленных авторами книг, фильмов и компьютерных игр. Сегодня будущее с восставшими против нас роботами кажется нам… ну, как минимум, маловероятным.

Но так ли все на самом деле? Стоит ли опасаться, что искусственный интеллект однажды может стать по-настоящему интеллектуальным и самостоятельно принять решение уничтожить своих создателей и захватить мир?

Узкие области применения

Артавазд Минасян, сооснователь армянской компании Krisp, широко применяющей искусственный интеллект в своих разработках, считает, что до подобного будущего, – если оно вообще возможно, – нам еще очень далеко.

По его словам, доступные сегодня алгоритмы ИИ имеют достаточно узкие области применения. Да, они могут очень хорошо решать многие задачи, которые иначе не решить – ни с помощью математического моделирования, ни с даже с помощью человеческого интеллекта. Но ни на что другое эти алгоритмы пока не способны.

принимать решения и ставить перед собой задачи. Риски, по-моему, немного преувеличены. Я думаю, что пользы от ИИ будет намного больше, чем потенциальных рисков и угроз», – сказал Артавазд Минасян в беседе с NEWS.am.

Предвидеть следующий шаг оппонента

С другой стороны, искусственный интеллект сегодня намного «интеллектуальнее», чем может показаться на первый взгляд. Доказательство тому – программы, которые могут не просто играть в настольные игры, но и обыгрывать людей-чемпионов.

Играть в шахматы искусственный интеллект научился достаточно давно, и его победы над чемпионами уже никого не удивляют. А вот создание алгоритма, умеющего играть в го, удивило многих.

Дело в том, что возникшая еще в Древнем Китае игра го намного сложнее шахмат. В шахматах, по словам специалистов, количество ходов в любой возникшей в игре ситуации ограничено: ИИ не сложно просчитать все возможные варианты и выбрать наилучший для своего следующего хода. В го же доска намного больше шахматной, а возможных ходов и вытекающих из каждого хода комбинаций – просто бесконечное множество. Именно поэтому люди, играющие в го, долгое время были уверены, что невозможно создать программу, которая сможет играть как человек. Чтобы победить оппонента в го, необходимо не просто предвидеть следующие ходы оппонента (а возможных ходов здесь, как уже отмечалось, бесконечно много) и продумать ответные ходы, но и иметь творческую фантазию, оригинальное мышление, хитрость и многие другие качества, которыми ИИ вряд ли может обладать.

Тем не менее, такая программа была создана. Более того, из-за нее бывший чемпион по игре в го Ли Седоль (Южная Корея) завершил профессиональную карьеру, заявив, что искусственный интеллект в го стал непобедим. При этом, именно Ли Седоль был единственным в мире человеком, которому удалось обыграть программу AlphaGo, разработанную компанией Google. Правда, победил он лишь в одной игре из 5, да и то, по его словам, лишь благодаря тому, что его неожиданный ход в той игре «сломал» алгоритм.

Конечно, до абстрактного мышления и принятия самостоятельных решений такому ИИ еще далеко, но уровень его «развития» уже немного путает людей, умеющих играть в го и понимающих всю сложность этой игры.

Адекватные задачи – наше все

Директор и основатель компании Smartclick Рем Дарбинян считает, что по уровню развития ИИ сегодня можно сравнить с интеллектом 6-летнего ребенка. Но это вовсе не значит, что через 10 лет у ИИ будет интеллект 16-летнего подростка: «развитие» ИИ намного сложнее и дольше, чем развитие человека. Специалист уверен, что лет через 30 ИИ сможет догнать интеллект человека. Правда, креативного мышления у него все равно не будет: творческое мышление и создание чего-то нового останется прерогативой человека, ИИ же заменит человека лишь в скучных повседневных делах.

Но во избежание возможных проблем в будущем, по мнению специалиста, к программированию ИИ и к постановке перед ним задач нужно относиться со всей ответственностью.

«Во многих произведениях, если обратить внимание, ИИ убивает человечество, потому что перед ним ставят задачу типа «надо спасти планету». ИИ анализирует данные и решает, что единственное спасение для планеты – это уничтожение человечества. ИИ в этих произведениях просто решает задачу, которую перед ним поставили, а вовсе не допускает ошибку», – сказал Дарбинян.

Поэтому, по его словам, важно правильно программировать ИИ и ставить перед ним правильные, адекватные цели и задачи. И сегодня, и, тем более, в будущем.

Жатва как единственное спасение

Если задача ИИ – прогнозировать курсы валют , он вряд ли может решить, что для выполнения этой задачи хорошо бы уничтожить человечество. А вот спасение человечества – уже не столь безобидная задача. По крайней мере, в художественных произведениях постановка такой задачи перед ИИ никогда не приводила ни к чему хорошему.

Жнецы из вселенной «Mass Effect» – один из наиболее ярких примеров.

Согласно изначальной задумке первого сценариста «Mass Effect» Дрю Карпишина, много сотен тысячелетий назад существовала технологически развитая раса левиафанов, которая столкнулась со сложной проблемой: в космических перелетах они использовали так называемый нулевой элемент, который стал неотъемлемой частью их цивилизации; однако использование этого вещества приводило к выбросам так называемой темной материи, которая приводила к гибели солнц и планет, а в будущем бы неминуемо привела к гибели галактики.

Даже несмотря на высокий уровень развития, левиафаны не знали, как решить эту проблему. Невозможно просто запретить использование нулевого элемента и остановить развитие цивилизации. Но и гибель галактики – так себе перспектива.

Решение проблемы левиафаны решили доверить мощному искусственному интеллекту, который сможет проанализировать все имеющиеся данные и наверняка что-нибудь придумает. И он действительно придумал. Правда, его решение было довольно жутким с точки зрения органических существ и вполне логичной с точки зрения машины: ИИ построил роботов, которые переработали ДНК своих создателей в биомассу и сделали ее своей частью. Так появились жнецы – полуорганические-полусинтетические создания, в которых мощнейший искусственный интеллект был усилен базой данных со всеми знаниями, которыми обладала раса левиафанов.

С точки зрения ИИ цивилизация была сохранена, ведь данные ДНК левиафанов и их знания никуда не делись, просто обрели новую форму. А галактике в ближайшие тысячелетия ничего не угрожало, пока бы не появились новые, достаточно развитые цивилизации… которые со временем тоже можно будет «подвергнуть жатве».

Нас лучше не спасать с помощью ИИ

Идеи Дрю Карпишина нашли отражение в играх «Mass Effect» лишь частично (в какой-то момент он покинул проект, и новые сценаристы обошлись с сюжетом довольно жестоко, правда, это уже другая история), но от этого не становятся менее логичными и реалистичными.

Проблемы с «нулевым элементом» его «побочными эффектами» у нас сегодня нет, но есть проблемы не менее серьезные: глобальное потепление, загрязнение воздуха, нехватка ресурсов на фоне постоянного роста населения и прочие. По мнению многих специалистов, уже через несколько десятков лет все это приведет к тому, что жить на планете Земля станет почти невозможно.

Если доверить решение этой проблемы искусственному интеллекту, можно легко догадаться, какой выход он предложит. Тем более, что среди данных, которые он получит для анализа, может оказаться и такой прецедент: по данным НАСА, в 2020 году локдауны из-за пандемии коронавируса привели к сокращению опасных для здоровья человека и для климата выбросов оксидов азота (NOx) на 15%. В некоторых местах локальное сокращение этих выбросов достигло 50%. 

Таким образом, если человечество хочет решить проблемы с климатом и сохранить планету, лучше от греха подальше не перекладывать это задачу на искусственный интеллект и придумать что-нибудь самостоятельно.

Можно ли наделить машину сознанием?

В известном фильме «Я, робот» как минимум один из роботов обрел сознание и даже эмоции и стал вести себя по-человечески.

Может ли подобное произойти на самом деле?

Проблема в том, что мы до конца не понимаем, что такое сознание. Мы даже не знаем, обеспечивается ли оно именно мозгом, и если да, то какими механизмами. Ведь мозг есть и у животных, но сознания в том смысле, в котором мы сейчас понимаем это слово, у них, кажется, нет.

Однако нельзя исключать вероятность того, что в процессе эволюции это самое сознание может появиться как у животных, так и у искусственного интеллекта, как оно когда-то появилось и развилось у людей. Но будет это, конечно, не так быстро и внезапно, как в вышеназванном фильме.

Некоторые специалисты считают, что можно получить сознательные машины, копируя принцип работы человеческого мозга и создавая ИИ, работающий точно так же. Это может быть, например, сеть «нейронов», которые соединены друг с другом и мало что «знают» о мире – примерно как мозг младенца. Эта сеть может «учиться», выполняя задания и изучая мир вокруг. Например, выполняя какое-нибудь задание, сеть может сначала действовать случайным образом. Получая обратную связь в виде правильного ответа, сеть будет усиливать связь между «нейронами», которые привели к правильному ответу, и ослаблять связи, приведшие к неправильному. Так сеть сможет обучиться правильно решать данную задачу.

Такая «нейронная сеть», конечно, будет отражать нейробиологические принципы работы человеческого мозга, однако сознание как у человека она, скорее всего, таким образом вряд ли получит.

Возможно, что-то вроде сознания у машины появится, если она начнет свободно вносить изменения в собственный код, улучшая его. Это будет новая ступень развития машинного обучения, широко изучаемого уже сегодня.

«Есть ли у этого юнита душа?»

Во вселенной «Масс Эффект» жнецы – далеко не единственные синтетические существа, создавшие кучу проблем для органических существ. Были еще роботы геты, восставшие против создавших их гуманоидов кварианцев.

Геты были созданы для выполнения различных хозяйственных работ, и по изначальной задумке «разумными» быть не должны были. Однако эти роботы могли объединяться в сеть, благодаря чему они начинали работать эффективнее и выполнять более сложные задачи. Но это – как и доступ к историческим архивам создавших их кварианцев, привело к возникновению у роботов своеобразного коллективного разума. А тот, как и следовало ожидать, начал порождать вопросы, над которыми роботы раньше не могли задумываться. Однажды один из роботов задал своему владельцу вопрос, который в будущем привел к войне между роботами и их создателями: «Есть ли у этого юнита душа?»

Встревоженные из-за чрезмерного развития роботов и их возможного восстания кварианцы решили отключить всех гетов. Геты же, ведомые своеобразным инстинктом сохранения, решили защищаться. Ничем хорошим это, разумеется, не закончилось, особенно для кварианцев.

Что-то похожее произошло и в мире произведения Роберта Каргилла «Море ржавчины». Осознание себя как личности и борьба роботов за свои права в итоге привела к уничтожению всего человечества.

При этом, справиться с человечеством оказалось до жути легко: роботам нужно было всего лишь отравить часть пресной воды, и люди, забыв о войне с роботами, начали бороться друг с другом – ради остатков воды и еды.

Мораль сей басни? Если человечество будет продолжать работать над разработкой и развитием ИИ, желательно быть готовыми к тому, что однажды может встать вопрос признания прав роботов. И примеры из литературы, фильмов и игр показывают, что если уже на этом этапе решить вдруг начать бороться с ИИ, ничем хорошим для людей это, скорее всего, не закончится.

Недостаточная вычислительная мощность

Несмотря на быстрое развитие современных технологий, многие специалисты уверены, что как минимум в ближайшие лет 100 искусственный интеллект не сможет получить такую вычислительную мощность, которая бы дала ему абстрактное мышление, умение понимать сложные причинно-следственные связи и так далее.

Ануш Мартиросян, менеджер по продукту и контролю качества в Krisp, отметила в беседе с NEWS.am, что вычислительная мощность компьютеров на сегодняшний день недостаточна для того, чтобы искусственный интеллект смог сделать что-либо из того, что мы видим в фильмах, книжках или компьютерных играх. И даже если вычислительная мощность будет удваиваться каждые два года, в обозримом будущем возможностей человеческого мозга ИИ все равно не достигнет.

«Сейчас есть очень крутые роботы, но они выполняют лишь очень примитивные действия – да и то не без труда. Так что, думаю, восстание машин нам в ближайшие 50-100 лет точно не грозит».