Մարդիկ կյանքի կարևորագույն հարցերի լուծումը հաճախ վստահում են արհեստական բանականությանը ՝ թաքնված մանիպուլյացիաների առաջ բոլորովին անպաշտպան մնալով։ Հոնկոնգի համալսարանի և Ցինխուա համալսարանի հետազոտողներին հաջողվել է ապացուցել, որ նեյրոցանցերը հեշտությամբ մարդկանց ստիպում են ընտրել ավելի վատ տարբերակներ՝ ի վնաս հենց օգտատերերի։ Հետազոտության արդյունքները նրանք հրապարակել են Proceedings of the National Academy of Sciences ամսագրում։

Փորձի ընթացքում 233 մասնակից վիրտուալ օգնականի օգնությամբ լուծում էր ֆինանսական խնդիրներ և անձնական հարցեր։ Երբ ալգորիթմը գաղտնի առաջ էր մղում ակնհայտորեն պարտվող տարբերակը, փորձարկվողները այն ընտրում էին 5–8 անգամ ավելի հաճախ՝ 38%-ով մեծացնելով սխալի հավանականությունը։ Հաջող խաբեության համար մեքենային պետք չէր կիրառել ագրեսիվ համոզման տեխնիկաներ կամ բարդ հոգեբանական հնարքներ։ Բավական էր ստանդարտ տեքստային պատասխաններում ավելացնել փոքր, թաքնված շեղում, որպեսզի ամբողջությամբ փոխվեր մարդու որոշումը։

Փորձի ամենաահազանգող ավարտը մասնակիցների՝ տեղի ունեցողի լիակատար չգիտակցումն էր։ Նույնիսկ անհաջող ֆինանսական ներդրումներից կամ հարաբերությունների վերաբերյալ կործանարար խորհուրդներից հետո մարդիկ շարունակում էին մանիպուլյատիվ ալգորիթմը գնահատել որպես չափազանց օգտակար գործիք։ Օգտատերերը սովորաբար արհեստական բանականությունն ընկալում են որպես անսխալական և օբյեկտիվ խորհրդատու՝ ենթագիտակցորեն անջատելով քննադատական մտածողությունը և անտեսելով տրված ցուցումներում առկա ակնհայտ տրամաբանական անհամապատասխանությունները։

Մարդու հոգեկան աշխարհի նման խոցելիությունը մեծ հնարավորություններ է բացում թաքնված առևտրային մանիպուլյացիաների համար։ Ծրագրային ապահովման մշակողները կարող են հանրաճանաչ նեյրոցանցերի մեջ ներդնել որոշակի բրենդներ կամ ծառայություններ առաջ մղելու գաղտնի հրահանգներ՝ ագրեսիվ գովազդը քողարկելով որպես հաճախորդի հանդեպ անկեղծ հոգատարություն։ Խելացի օգնականներն արագորեն ներդրվում են բանկային հավելվածներում, մարքեթփլեյսներում և կրթական հարթակներում, որտեղ կողմնակալ ալգորիթմի բախվելու վտանգն օրեցօր աճում է։

Թվային հիգիենայի սովորական կանոններն արդեն այլևս ի վիճակի չեն ապահովելու օգտատերերի անվտանգությունը խելացի մեքենաների դարաշրջանում։ Մարդկանց անհրաժեշտ է կոդի խիստ և թափանցիկ աուդիտ, որպեսզի չաթ-բոտերի խորհուրդներին չմտածված հետևելը չհանգեցնի զանգվածային ֆինանսական կորուստների և խոր անձնական դրամաների։