Listin að blekkja heila þjóð

Árið 2014 komst leynileg glærukynning í almenna dreifingu þökk sé lekum Edwards Snowden. Kynningin var unnin af samskiptadeild bresku leyniþjónustunnar og deilt með leyniþjónustum bandalagsþjóða.Hún var síðar birt í heild sinni af The Intercept og hefur verið aðgengileg almenningi allar götur síðan.

Kynningin bar titilinn „Listin að blekkja: Þjálfun fyrir nýja kynslóð leynilegra aðgerða á netinu“. Þar var tekin saman helsta þekking um mannlega hegðun og sniðnar aðferðir til að kortleggja og notfæra sér hvernig manneskjur hugsa, treysta og taka ákvarðanir.

Það sem er sérstaklega afhjúpandi er hvernig kynningin rammar þessar aðferðir inn, en orðfæri og myndmál sviðstöfra og sjónhverfinga kemur víða fyrir á glærunum og er samanburðurinn viðeigandi.

Töframaður yfirbugar ekki áhorfendur. Hann notar flýtileiðir hugans - hvernig heilar fólks sjá og túlka heiminn - gegn þeim. Hann stýrir athygli og nýtir sér væntingar. Þannig vinna áhorfendurnir sjálfir mestu vinnuna. Töframaðurinn skapar einfaldlega aðstæðurnar.

Það er nákvæmlega þannig sem þessar aðgerðir virka.

Brátt stendur til að taka stóra ákvörðun á Íslandi

Þjóðaratkvæðagreiðsla um áframhaldandi aðildarviðræður við Evrópusambandið verður haldin í lok ágúst næstkomandi. Hvernig sem hún fer mun þessi ákvörðun móta samband okkar við Evrópu, efnahagslega stefnu og pólitíska framtíð.

Ákvarðanir sem þessar setja óvenju mikinn þrýsting á opinbera umræðu. Skoðanir harðna, tilfinningar magnast og krafan um skýr svör vex, jafnvel þegar spurningarnar sjálfar eru flóknar.

Skoðanafrelsi í athyglishagkerfinu

Við viljum gjarnan trúa því að við myndum okkur skoðanir af fúsum og frjálsum vilja. Að þær byggi á staðreyndum og skynsemi, en raunveruleikinn er flóknari. Upplýsingaumhverfið sem við lifum og hrærumst í er ekki hlutlaust. Það er mótað af kerfum sem eru hönnuð til að magna tilfinningar í þeim tilgangi að fanga athygli okkar.

Algrím samfélagsmiðla ýta okkur í átt að tilfinningaþrungnu og sundrandi efni. Þeir eru þannig hannaðir vegna þess að hneykslan eykur skrun sem skilar sér í auknum auglýsingatekjum til fyrirtækjanna sem eiga miðlana. Sömu hvatar hafa einnig áhrif á fjölmiðla, þar sem athygli er verðmæt auðlind sem fyrirsagnir keppast um að ná.

Að skilja hvernig þessi öfl móta hugsanir okkar og viðhorf er að verða sífellt mikilvægari lýðræðisleg færni. Án þessa skilnings verða mikilvægustu ákvarðanirnar sem við tökum sem samfélag viðkvæmar fyrir áhrifum algríma og óprúttinna aðila.

En það er einmitt í þessu samfélagsmiðla umhverfi sem aðferðirnar sem glærukynning leyniþjónustunnar kennir verða nánast ósýnilegar og þar af leiðandi gríðarlega áhrifaríkar.

Enda eru aðferðir samfélagsmiðla til að viðhalda athygli keimlíkar. Miðlarnir sem við styðjumst við til að móta skoðanir okkar nýta sér sömu sálfræðilegu veikleika og blekkingarhandbók leyniþjónustunnar.

Sálfræðihernaður - skref fyrir skref

Listin að blekkjabyggir á tveimur athugunum á mannlegri hegðun. Fólk tekur ákvarðanir sem hluti af hóp. Og fólk tekur ákvarðanir af tilfinningalegum ástæðum sem eru ekki endilega skynsamlegar. Það er út frá þessum skilningi sem kynningin kortleggur hvernig skilvirkast er að hafa áhrif á einstakling.

Fyrsta skrefið er að ná athygli skotmarksins (e. attention). Efni sem er hannað til að hafa áhrif notar hneykslan, ótta eða sjálfsmynd til að draga þig inn vegna þess að tilfinningaþrungið efni ferðast lengra en varkár greining.

Næst kemur að skynjun (e. perception). Þetta er stigið þegar túlkun á upplýsingum er í mótun. Kynningin lýsir sérstökum aðferðum við að hafa áhrif á það ferli. Ein er það sem kallast „dazzle” á ensku og snýst um að skapa flóð misvísandi skilaboða í upplýsingaumhverfinu svo erfitt sé að greina hvað er raunverulegt. Önnur aðferð heitir „masking”, að láta skilaboð virðast koma frá traustum eða kunnuglegum aðila. Allt er þetta hannað til að stýra þér frá eða í átt að einhverri vissri túlkun.

Svo er það merkingarsköpun (e. sensemaking). Við höfum tilhneigingu til að túlka upplýsingar á þann hátt sem staðfestir það sem við trúum nú þegar. Fyrsta útgáfan af sögu sem við heyrum getur sett rammann utan um allt sem á eftir kemur. Glærukynningin er skýr um mikilvægi þess að ná til fólks nógu snemma til að móta þennan ramma.

Tilfinningaástand okkar (e. affect) liggur svo í gegnum þetta allt saman. Ótti þrengir að athyglisgetu, reiði flýtir fyrir viðbrögðum og stolt gerir okkur ónæm fyrir upplýsingum sem ögra sjálfsmyndinni. Þannig er hægt að hafa áhrif á okkur með því að velja hvaða tilfinning er virkjuð og hvenær.

Síðasta skrefið í þessari keðju er hegðunin sem verður til (e. behaviour). Þegar þú deilir færslu, hafnar heimild sem ótrúverðugri og tekur afstöðu í máli, þá er ferlinu lokið. Upplifunin er sjaldnast að þér hafi verið stýrt. Niðurstaðan er þín og er orðin hluti af þinni sjálfsmynd - og þar af leiðandi nánast ómögulegt að tjónka við henni.

Sundrun

Ein af glærunum í Listinni að blekkjaber titilinn „Að bera kennsl á og nýta sundrun“ (e. fracture points). Hún kortleggur öflin sem halda hópum saman og öflin sem toga þá í sundur. Á milli þessara afla myndast togstreita sem skjalið kallar spennu (e. tension). Markmiðið er að finna hvar þessi spenna er til staðar í umræðunni og beita þrýstingi til að skapa klofning.

Umræðan um áframhaldandi aðildarviðræður við Evrópusambandið snertir nokkra slíka punkta sem þegar eru að stía okkur í sundur.

Hún snertir ágreining um fullveldi, efnahagsstefnu, gjaldmiðil, yfirráð yfir náttúruauðlindum og stöðu Íslands í alþjóðasamfélaginu.

Um er að ræða raunverulegar áhyggjur og mikilvægar spurningar sem verðskulda opna og lýðræðislega umræðu. En þetta eru líka þeir veikleikar sem þessi aðferðafræði sem lýst er í Listinni að blekkjaer hönnuð til að notfæra sér. Með því að grafa undan trausti, magna upp gremju, gera hvorn hóp fyrir sig ólíklegri til að hlusta á hinn og þ.a.l. til að takast á við raunverulega umræðuefnið sem liggur fyrir.

Hvernig áhrifavaldinu er dreift

Við erum lítið og þéttofið samfélag. Þetta getur verið styrkur þar sem það gerir upplýsingum kleift að ferðast hratt og hjálpar okkur að bregðast við raunverulegum vandamálum.

En það þýðir líka að þegar frásögn kemst inn í tengslanetið getur hún borist víða á mjög skömmum tíma.

Einstaklingur meðtekur frásögnina ekki sem áróður sem var sniðinn að honum heldur sem upplýsingar sem hann hefur sjálfur aflað. Töfrarnir liggja svo í því þegar viðkomandi er ekki lengur aðeins að taka við upplýsingum heldur byrjar að endurtaka þær, verja þær og dreifa þeim áfram.

Fólkið sem deilir er ekki vísvitandi að vinna að hagsmunum neins. Það er að deila einhverju sem það telur vera satt og mikilvægt.

Heimatilbúnar skotgrafir



En það eru ekki bara leyniþjónustur sem ýta undir og notfæra sér sundrun. Í vaxandi mæli sjáum við sömu mynstur birtast í pólitíkinni, sérstaklega í aðdraganda kosninga, þar sem hneykslan, ótti og andúð eru virkjuð til að ná athygli og virkja stuðningsmenn á kostnað upplýstrar umræðu.

Hvort sem um er að ræða erlendar njósnaaðgerðir, algrím samfélagsmiðla eða sundrandi stjórnmálaöfl, er ljóst að lýðræðisleg ákvarðanataka er að verða sífellt berskjaldaðri fyrir þeim sem ná best að virkja ótta, reiði og sjálfsmynd kjósenda.

Það er orðið brýnt að efla viðnám okkar við þessum aðferðum.

Hvað við getum gert



Með því að hægja á augnablikinu á milli þess að við lesum, heyrum eða sjáum eitthvað og viðbrögðum okkar við því, truflum við alla keðjuna.

Þegar eitthvað vekur sterk viðbrögð



Stöldrum þá við og spyrjum hvort styrkur viðbragða okkar sé í samræmi við það sem við vitum fyrir víst um fullyrðinguna sem er sett fram.

Tilfinningar eru ekki áreiðanlegur leiðarvísir að sannleikanum. Ótti og reiði dreifast hratt vegna þess að þau stytta bilið milli þess að sjá og bregðast við. Deilihnappurinn er þar sem áróður færist frá einum einstaklingi yfir til samfélagsins alls. Í hvert skipti sem við deilum einhverju sem við höfum ekki kannað, hjálpum við því að ferðast. Stöldrum því við áður en við deilum.

Þegar eitthvað smellpassar við fyrri skoðanir



Gefum okkur nokkrar mínútur til að skoða almennilega.



Hver stendur á bak við það sem við erum að lesa og hvaða hagsmunum þjónar framsetningin? Er þetta hlutlaus greining eða frásögn sem er sniðin til að virkja ákveðin viðbrögð?

Ef um notandaprófíl er að ræða skiptir máli að spyrja: Hversu gamall er prófíllinn? Hefur hann raunverulega sögu eða birtist hann nýlega án nokkurrar fortíðar? Birtir hann eingöngu efni um eitt málefni? Er þetta raunveruleg manneskja, eða vandlega smíðuð persóna sem deilir fyrir tilviljun öllum okkar áhyggjum?

Þegar við erum að túlka upplýsingar



Spyrjum þá hvað erum við ekki að sjá. Hvaða upplýsingar gæti vantað? Hvaða sjónarmið hef ég ekki skoðað?

Og þegar eitt málefni verður svo skyndilega allsráðandi í umræðunni er ástæða til að spyrja: hvers vegna núna?

Samhæfðar herferðir eru oft tímasettar. Frásagnir sem birtast alls staðar í einu, sem breyta fljótt tóni umræðunnar eða sem koma fram rétt fyrir lykilaugnablik, eru þess virði að taka eftir. Opinber umræða byggist yfirleitt upp með tímanum. Þegar hún hraðar sér skyndilega er eðlilegt að spyrja hvað knýr hana áfram.

Ekki fullkomin lausn

Engin þessara spurninga mun alltaf gefa skýr svör. Tilgangurinn er ekki að skapa fullvissu heldur að venja okkur á að staldra við, að skapa örlítið bil milli upplýsinga og viðbragða við þeim. Í samhengi við lýðræðislegar kosningar og þjóðaratkvæðagreiðslu sem mun móta framtíð okkar getur þetta litla hlé skipt miklu máli.

Að þekkja handbókina



Listin að blekkjavar skrifuð sem þjálfunarhandbók fyrir útsendara leyniþjónusta. Henni var aldrei ætlað að vera lesin af þeim sem hún beindist gegn. Nú þegar hægt er að lesa hana getum við nýtt þekkinguna til að efla viðnám gegn þessum aðferðum. En ekki bara gegn áróðursherferðum óprúttinna aðila heldur líka gegn hinu víðara athyglishagkerfi sem verðlaunar það efni sem heldur okkur reiðum, hræddum og límdum við skjáinn.

Besta vörnin gegn kerfi sem er hannað til að notfæra sér eðlishvöt okkar er að vita að kerfið er til. Þegar þú sérð sjónhverfinguna er ekki lengur jafn auðvelt að stýra þér.

Höfundur er stofnmeðlimur Samtaka um mannvæna tækni.