21-րդ դարի կեսերին մարդկությունը կկարողանա ստեղծել իսկապես հզոր արհեստական բանականություն, որը կկործանի մեր քաղաքակրթությունը, եթե նրա աշխատանքում ինչ-որ բան սխալ լինի: Ինչպես գրում է Washington Post-ը, նման սպառնալիքն իրական է համարում փիլիսոփա, համաշխարհային աղետների հավանականությունը գնահատող Էմիլ Տորեսը։
Տորեսը վստահ է, որ 2050 թվականին աշխարհում կհայտնվի, այսպես կոչված, արհեստական սուպերբանականություն՝ մեքենա, որի հնարավորությունները կգերազանցեն մարդու հնարավորությունները։ Արդեն, ինչպես նշում է փորձագետը, մարդիկ սովորել են ստեղծել AI ալգորիթմներ, որոնք շրջանցում են մեզ այնպիսի ոլորտներում, ինչպիսիք են շախմատի կամ պոկերի խաղը, եւ մեքենայական ուսուցման զարգացումները օրեցօր ավելի բարդ են դառնում:
«Արհեստական սուպերբանականության ստեղծումը կբերի տեխնոլոգիական առաջընթացի տարբեր ոլորտներում, բայց մենք ստիպված կլինենք նաեւ գործ ունենալ շատ լուրջ վտանգների հետ: Եթե մարդիկ վստահեն սուպերբանականությանը որոշ իսկապես կարեւոր բաներում, ապա մեծ հավանականություն կա, որ մեքենան կկործանի մարդկությանը կամ մեծապես կվնասի նրան: Կպահանջվեն շատ բարդ ԱԲ կառավարման ալգորիթմներ, բայց որտե՞ղ է հավանականությունը, որ համակարգչային գերհանճարը չի կարողանա շրջանցել դրանք»,- զգուշացրել է Տորեսը:
Փորձագետը կարծում է, որ արհեստական բանականության պատճառով առաջացած գլոբալ աղետ կարող է տեղի ունենալ, եթե մարդիկ վստահեն մեքենային չափազանց բարդ եւ վերացական առաջադրանքներ։ Օրինակ, նրանք կհանձնարարեն արհեստական բանականությանը «խաղաղություն կազմակերպել ամբողջ աշխարհում», ինչի արդյունքում համակարգիչը պարզապես կոչնչացնի բոլոր մարդկանց (չկան մարդիկ, որ պատերազմեն միմյանց դեմ):
