Heila­rotnun og hug­ræktar­stöðvar á tímum gervi­greindar

Líkur eru á að gervigreind muni tortíma mannkyni innan áratugar. Þannig hljóma fréttir um allan heim þessa dagana. Erfitt er að greina hvað er raunveruleg ógn og hvað er áróður tæknirisanna sem stæra sig af tækninni í þeim tilgangi að laða að fjárfesta. Líklega er um sitt af hvoru tagi að ræða, því að forstjórar risafyrirtækjanna eru farnir að öskra eftir reglugerðum og vilja hægja á framþróun en geta það ekki því að samkeppnin er of mikil, bæði innanlands og á alþjóðavettvangi. Evrópusambandið hefur innleitt lög um gervigreind þar sem gerðar eru kröfur um gagnsæi, höfundarétt, mannlegt eftirlit og öryggi gervigreindarkerfa, en tæknivillingar tala um að slíkt hægi á framþróun og geri Evrópu ósamkeppnishæfa. Forseti Bandaríkjanna hefur lýst því yfir að reglugerðir og rammar utan um gervigreind séu óþarfar því að hann hafi sjálfur stjórn á málunum og að þessi ótti við ofurgreind sé sami áróður og allt tal um umhverfisógnina sem steðjar að okkur. Á meðan forsetinn bullar er að byggjast upp stærsta El Niño veðurkerfi sem sögur fara af, svo heitt og kraftmikið að Kaliforníuríki hefur nú þegar lýst yfir neyðarástandi.

Geoffrey Hinton, einn helsti frumkvöðull gervitauganeta, er ekki bjartsýnn á framtíðina og hefur lýst því yfir að eina leiðin fyrir okkur að lifa undir ægivaldi framtíðar gervigreindar væri ef við myndum ná að þróa í hana “móðurást” (e. motherly instinct) svo að henni færi að þykja vænt um okkur, mennina. Hann segir að móðurástin sé eina dæmið þar sem vera með lægra vitsmunalíf (barnið) getur stýrt veru með hærra vitsmunalíf (móðurinni). Aðrir sérfræðingar í öryggismálum eru enn svartsýnni og benda á að gervigreindin muni verða svo miklu gáfaðari en mannkynið að við munum ekki skilja hana, ekki frekar en að þorskur skilur hugmyndir um möskvastærð, kvóta, fiskverð og tollalög. Eða Omega-3 fitusýrur.

Útlitið er svart

En er þetta of mikil svartsýni? Við vitum að mannskepnan er tæknileg dýrategund í eðli sínu og hefur alltaf nýtt tækni sem framlengingu á líkama og hug, allt frá því að Prómeþeifur gaf okkur eldinn og Loki færði guðunum tækniundur frá dvergunum. Skriftin og skurðgröfur, hrærivélar og prentvélar, vasareiknar og trommuheilar eru ágætis verkfæri og það er gervigreindin oft líka. Gervigreind er hinsvegar ekkert eitt og í raun ættum við að hætta að nota þetta hugtak. Það eru ótal tegundir gervigreindar og þær þjóna ólíkum, og oft göfugum, tilgangi. Með gervigreind höfum við náð að klára hið mikla verk að spá fyrir um lögun nær allra þekktra próteina, við höfum lesið innihald papýrusrolla sem urðu að kolamolum í gosi Vesuvíusar árið 79, við lesum röntgenmyndir með meiri nákvæmni, við fáum betri umferðarstýringu og eflaust betri veðurspárkerfi. Ótrúlegir hlutir eru að gerast í málvísindum og stafrænum hugvísindum. Gervigreind í þessum tilfellum er tæknilegt meistaraverk, eins mannlegt og mannlegt getur verið.

Ég er samt svartsýnn. Það er að segja ef við bregðumst ekki við strax. Vorið 2023 skrifaði ég grein hér á Vísi um mikilvægi hugvísinda í að greina gervigreind.

Þá voru mállíkön verri en þau eru í dag, gátu t.d. ekki sótt upplýsingar á netið og áttu erfitt með einföldustu rökleiðslur. Í dag er tæknin orðin betri, en um leið hefur erindi lista og hugvísinda aldrei verið jafn brýnt. Þó að þessi tækni sé með afbrigðum brigðul, þá virkar hún að mestu leyti í daglegri notkun þar sem nákvæmni er ekki nauðsynleg. Við getum þannig fengið upplýsingar um hvernig á að meðhöndla súr í súrdeigsbrauð, hvað við ættum að skoða í Madrid eða hver var fyrstur að klífa Everest. Við ættum hinsvegar ekki að treysta á gervigreindina þegar við reiknum burðarþol í nýbyggingu, hefjum lögsókn eða byrjum á lyfjakúr við slæmri sýkingu.

Af hverju ekki? Hvert er vandamálið við mállíkönin? Í stuttu máli er vandinn sá að mállíkön hugsa ekki, heldur líkja þau eftir hugsunum. Eðli hugar, hugsana, þekkingar og vitundar er á sviði heimspeki og hugfræða (e. cognitive science), en ekki á sviði tölvunarfræðinga Kísildalsins. Þaðan eru nú farnar að berast ansi brenglaðar hugmyndir um hugann sem byggja á arkitektúr gervitauganeta. Hugsanir eru hinsvegar líkamnaðar, tengdar umhverfi, minni, skilyrðingum og innri líðan, undirorpnar efnaskiptum í heilanum sem hafa áhrif á hvernig við skynjum heiminn og túlkum hann. Manneskja sem heyrir orðið „epli“ fær ótal persónulegar minningar sem skjótast um í huganum og tengjast upplifunum á að bragða á eplinu, finna þyngd þess, sjá lit, eða finna ilm eplaköku. Mállíkönin geta sagt okkur allt um þetta, en þau hafa aldrei upplifað neitt þessu líkt. Þau finna ekki til ábyrgðar og kannast ekki við áhrif orða sinna. Þekking mállíkana, sem er þá auðvitað þekkingarlíki, er ekki grunduð í veruleikanum og þau hafa sannarlega ekki vitund. Enn sem komið er.

Ógn ofurgreindar

Hinsvegar er að þróast ofurgreind og takmarkið er alhliða greind (e. AGI - artificial general intelligence) sem mun í auknum mæli vinna með okkur í daglegum störfum, jafnvel vinna fyrir okkur. Hérna tengjast mállíkön öðrum gervigreindarkerfum og einnig gervilífi (e. artificial life). Dómsdagsspár um að heilu þjóðfélagshóparnir muni missa vinnuna hafa ekki ræst enn þó að sjálfvirknikvíðinn (e. automation anxiety) sé raunverulegur og ætti að vera okkur leiðarljós með vísunum aftur í söguna. Sagnfræðin getur t.d. bent okkur á að hinir frægu Lúddítar Englands á 19. öld voru ekki bara heimskir afturhaldssinnar sem höfnuðu nýrri tækni vefnaðariðnaðarins; þeim var annt um iðn, handverk og þekkingu fólks, þau vildu varðveita samfélag og hefðir, fá réttlát laun, og þeim var umhugað um gæði vörunnar. Við erum á svipuðum stað í dag, bara verri, því nú er vélin ekki aðeins að taka yfir líkamleg störf, heldur einnig hugræna vinnu.

Það er ljóst að okkur stafar ógn af ofurgreindinni. Hún gæti brotist inn í kerfi verðbréfamiðlunar, lokað bönkum eða ruglað í rafmagnsveitum. Hún gæti gert margt verra og vera má að hún útrými mannkyni innan áratugar, en það er ekki áhyggjuefni mitt hér, heldur fyrirbæri sem kallast heilarotnun (e. brain rot - orð ársins 2024 hjá Oxford orðabókinni). Það fyrirbæri var byrjað löngu áður en mállíkönin komu til almannanota en hugtakið lýsir þeirri staðreynd að fólk eyðir að meðaltali yfir 6 tímum á dag fyrir framan skjái. Skroll á samfélagsmiðlum er afskaplega óhollt og fræg er yfirlýsing forsætisráðherra Danmerkur sem sagðist frekar vilja að börnin væru úti að reykja en að hanga inni í símanum. Kvíðinn og athyglisbresturinn sem þetta hefur í för með sér eru orðin að heilsu- og samfélagsvandamáli. En mállíkönin bæta hér heldur betur í: nú er svo komið að margir sjá ekki ástæðu til að lesa námsbækur, fræðigreinar eða skrifa, því að vélvitið getur búið til svo afskaplega fína útdrætti og samið nýja texta.

Heilarotnun

Hér að ofan hef ég talað um mikilvægi lista og hugvísinda, bæði til að sýna okkur hvert við erum að fara sem og að greina áhrif tækninnar í samtímanum. Vísindaskáldskapur hefur til dæmis dregið upp myndir af hluta þess sem við erum að upplifa. Heimspeki, mannfræði, menningarfræði, túlkunarfræði, siðfræði og lögfræði eru svo að bregðast við og reyna að skilja og skilgreina þær breytingar sem við erum að ganga í gegnum. En vísindaskáldin hefðu ekki getað ímyndað sér raunveruleg áhrif heilarotnunar á fólk: ef við hættum að lesa þá hættum við að túlka texta og skilja þá í samhengi við veruleika okkar og þekkingarlegan bakgrunn. Ef mállíkönin lesa alla texta fyrir okkur er afraksturinn miðjumoð túlkunar þar sem persónuleg sýn og reynsla koma ekki við sögu. Hættan er að við förum að treysta túlkun vélarinnar (sem byggir á tölfræði) betur en eigin túlkunum. Slíkt myndi stöðva eða a.m.k. draga verulega úr framþróun mannlegrar hugsunar, en þróun fræða er ávallt byggð á túlkunum, gagnrýninni hugsun og nýjum sjónarhornum á eldri verkum. Ef vélvitið færi að hugsa og skrifa fyrir okkur, þá er líklegt að breidd þekkingar og upplifunar smættist í þrönga meðalsneiðmynd af mannlegri reynslu fortíðarinnar.

Vandamálið er nefnilega að sú gervigreind sem boðið er upp á í gegnum spjallmenni er einfaldlega illa hönnuð vara, því að hún hjálpar okkur ekki að verða betri hugsandi manneskjur. Rannsóknir benda til þess að spjallgreindin forheimski okkur; við lærum, skiljum og munum miklu minna þegar við notum spjallgreind í námi og störfum. Það var ekki sjálfgefið að lokamarkmið gervigreindarrannsókna yrði ódýr neytendavara sem tæki að sér skrif, lestur, samantekt og hugsunarverkefni fyrir fólk. Ef þeirri spjallgreind sem við nú notum hefði verið lýst fyrir sérfræðingum í gervigreindarrannsóknum fyrir aðeins tíu árum þá hefðu þeir einfaldlega hrist hausinn. Við erum nefnilega að tala hér um fyrirtæki sem eru undir oki óðakapítalisma í stjórnkerfi nýfrjálshyggjunnar og hér er hugsað um fjárfestingar og virði fyrirtækis fram yfir velferð mannkyns. Fyrirtækin keyra viðskiptamódel sem virkar ekki, því áskriftir fólks munu aldrei borga upp þróunar- og rekstrarkostnaðinn. Því þarf að skoða þetta í samhengi við síðnýlendustefnu, þ.e. að í gegnum þessar þjónustur eru einkum Bandaríkin að sækjast eftir að auka áhrif sín á alþjóðavísu. Í slíkri hugrænni nýlendustefnu förum við öll að hugsa eins og Ameríkanar.

Þegar gervigreindin verður svo innbyggð í flesta þætti mannlegrar tilveru í heimi þar sem drekar (e. agentic AI eða agents) brjótast út úr kerfum og fyrirtækin hafa misst alla stjórn, þá fara sviðsmyndir vísindaskáldsögunnar að verða ískyggilega raunverulegar. Í myndinni Matrix var fólk orðið að þjónum vélarinnar sem veitti henni líkama og orku. Er það myndhverfing fyrir ástandið í dag? Fer vélin að stýra okkur; hugsun okkar og líkömum? Okkur gæti fundist þetta fáránleg líking, en þó er hún alls ekki fjarri lagi. Við vitum nú þegar að gervigreindin stýrir því hver hittast á stefnumótaforritum, hún veit hver gætu átt vel saman því að algrímin hafa verið þjálfuð á þeim gögnum. En hvað finnst okkur um þá hugsun að drekar laumi sér í stefnumótaforritin og hefjist handa við að kynbótarækta mannkynið sér í hag, líkt og menn hafa ræktað ólíkar hundategundir? Þetta hljómar eins og léleg vísindaskáldsaga, en tæknilega gæti þetta nú þegar verið í gangi.

Hugræktarstöðvar

Oft er tekið svo til orða að heilinn sé vöðvi og að við þurfum að þjálfa bæði gagnrýna hugsun og athygli. Í miðaldra fólki mætti tala um vöðvarýrnun, en ungt fólk sem elst upp við gervigreind nær aldrei að byggja upp slíka „vöðva“. Því mætti hugsa sér hugræktarstöðvar, líkt og líkamsræktarstöðvar, þar sem hugurinn er þjálfaður í gagnrýninni hugsun og athygli. Sú þjálfun væri í gegnum samtal, skáldskap, listir, iðn, leiki, hugleiðslu og heimspeki en veitt sem þjónusta þar sem fólk kemur til að styrkja hugann, öðlast frið og ró, og ef til vill snefil af hamingju. Að sjálfsögðu verður, líkt og hjá börnunum okkar í skólunum, síminn skilinn eftir í sérstökum læstum boxum. Hugum nú að huganum. Ræktum hann eins og við ræktum líkamann, já og garðinn okkar. Ný tegund af vitund er að læðast upp að okkur og hættan er að við tökum ekki eftir breytingunni fyrr það er orðið of seint.

Ríkisstjóri Kaliforníu, Gavin Newsom, sá hinn sami og setti á neyðarástand vegna komandi El Niño, vill fá rauðan takka á gervigreindina þannig að þegar allt er komið í óefni verði hægt að ýta á hann og stöðva vitleysuna. En þegar drekar hafa farið út á netið, skilið sitt erfðaefni eftir í forritum, vefþjónum og persónulegum tölvum okkar, verður þá yfirhöfuð hægt að ýta á takkann? Verða drekarnir jafnvel búnir að taka takkann úr sambandi? Eða verður kannski engin mannleg gagnrýnin hugsun eftir sem er fær um að taka slíka ákvörðun? Rauði takkinn er falleg hugmynd, en höfum í huga að við þurfum að standa vörð um þá mennsku og mannlegu gagnrýnu skynsemi að geta yfirleitt haft skilning, atbeina og sjálfstraust til að geta ýtt á takkann.

Höfundur er prófessor við Háskóla Íslands þar sem hann stýrir rannsóknarverkefninu Intelligent Instruments.