Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Þið dirfist að kalla mig fasista og rasista? Davíð Bergmann Skoðun Halldór 14.06.2025 Halldór Engin haldbær rök fyrir því að dánaraðstoð skaði líknarmeðferð Ingrid Kuhlman Skoðun Úthlutun Matvælasjóðs Fjóla Einarsdóttir Skoðun Brotin stjórnarandstaða í fýlu Arnar Steinn Þórarinsson Skoðun Opið bréf til Ölmu Möller, heilbrigðisráðherra Anna Margrét Hrólfsdóttir,Lilja Guðmundsdóttir Skoðun Í Kópavogi borga tekjuháir foreldrar leikskólabarna mest, er það svo ósanngjarnt? Rakel Ýr Isaksen Skoðun Ætla stjórnvöld virkilega að eyðileggja eftirlaunasjóði verkafólks endanlega? Vilhjálmur Birgisson Skoðun Ísland smíðar – köllum á hetjurnar okkar Einar Mikael Sverrisson Skoðun Auðlindin er sameign – en verðmætasköpunin er ekki sjálfgefin Kristinn Karl Brynjarsson Skoðun Skoðun Skoðun Í Kópavogi borga tekjuháir foreldrar leikskólabarna mest, er það svo ósanngjarnt? Rakel Ýr Isaksen skrifar Skoðun Auðlindin er sameign – en verðmætasköpunin er ekki sjálfgefin Kristinn Karl Brynjarsson skrifar Skoðun Brotin stjórnarandstaða í fýlu Arnar Steinn Þórarinsson skrifar Skoðun Úthlutun Matvælasjóðs Fjóla Einarsdóttir skrifar Skoðun Engin haldbær rök fyrir því að dánaraðstoð skaði líknarmeðferð Ingrid Kuhlman skrifar Skoðun Opið bréf til Ölmu Möller, heilbrigðisráðherra Anna Margrét Hrólfsdóttir,Lilja Guðmundsdóttir skrifar Skoðun Réttlæti næst ekki með ranglæti Ingibjörg Isaksen skrifar Skoðun Fagleg rök fjarverandi við opinbera styrkveitingu Bogi Ragnarsson skrifar Skoðun Ætla stjórnvöld virkilega að eyðileggja eftirlaunasjóði verkafólks endanlega? Vilhjálmur Birgisson skrifar Skoðun Heilbrigðistækni getur gjörbylt aðgengi og gæðum í heilbrigðisþjónustu Erla Tinna Stefánsdóttir skrifar Skoðun Ísland smíðar – köllum á hetjurnar okkar Einar Mikael Sverrisson skrifar Skoðun Yfir 90% ferðamanna eru ánægðir með dvöl sína á höfuðborgarsvæðinu Inga Hlín Pálsdóttir skrifar Skoðun Hvenær kemur að okkur? Hjördís María Karlsdóttir skrifar Skoðun Frjór jarðvegur fyrir glæpagengi til að festa rætur Halldóra Mogensen skrifar Skoðun Án greiningar, engin ábyrgð Gísli Már Gíslason skrifar Skoðun Rödd barna og ungmenna hunsuð í barnvænu sveitarfélagi? París Anna Bermann Elvarsdóttir,Heimir Sigurpáll Árnason,Fríða Björg Tómasdóttir,Lilja Dögun Lúðvíksdóttir,Bjarki Orrason,Sigmundur Logi Þórðarson,Aldís Ósk Arnaldsdóttir,Leyla Ósk Jónsdóttir,Rebekka Rut Birgisdóttir,Ólöf Berglind Guðnadóttir,Íris Ósk Sverrisdóttir skrifar Skoðun Verkin sem ekki tala Bryndís Haraldsdóttir skrifar Skoðun Myndir þú hætta að flokka ruslið? – Sjálfbærni er ekki tíska Helga Björg Steinþórsdóttir,Eva Magnúsdóttir skrifar Skoðun Þið dirfist að kalla mig fasista og rasista? Davíð Bergmann skrifar Skoðun Gleymdu að vanda sig Vanda Sigurgeirsdóttir skrifar Skoðun Vindhögg Viðskiptaráðs Finnbjörn A. Hermannsson skrifar Skoðun Skref aftur á bak fyrir konur með endómetríósu Sigurður Ingi Jóhannsson skrifar Skoðun Staða leikskólamála í Reykjanesbæ Guðný Birna Guðmundsdóttir skrifar Skoðun Gervigreindaraðstoð: Kennarinn endurheimtir dýrmætan tíma Björgmundur Guðmundsson skrifar Skoðun Tökum höndum saman áður en það er of seint Karólína Helga Símonardóttir skrifar Skoðun PWC – Traustsins verðir? Björn Thorsteinsson skrifar Skoðun Rasismi útskýrir stuðning við þjóðarmorð Ingólfur Gíslason skrifar Skoðun Skuldin við jörðina: Kolefnisstjórnun skiptir sköpum Nótt Thorberg skrifar Skoðun Pólitískar kreddur á kostnað skattgreiðenda Kristinn Karl Brynjarsson skrifar Skoðun Þetta eru börnin sem ég hef áhyggjur af í skólakerfinu Rakel Linda Kristjánsdóttir skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Opið bréf til Ölmu Möller, heilbrigðisráðherra Anna Margrét Hrólfsdóttir,Lilja Guðmundsdóttir Skoðun
Í Kópavogi borga tekjuháir foreldrar leikskólabarna mest, er það svo ósanngjarnt? Rakel Ýr Isaksen Skoðun
Ætla stjórnvöld virkilega að eyðileggja eftirlaunasjóði verkafólks endanlega? Vilhjálmur Birgisson Skoðun
Skoðun Í Kópavogi borga tekjuháir foreldrar leikskólabarna mest, er það svo ósanngjarnt? Rakel Ýr Isaksen skrifar
Skoðun Auðlindin er sameign – en verðmætasköpunin er ekki sjálfgefin Kristinn Karl Brynjarsson skrifar
Skoðun Opið bréf til Ölmu Möller, heilbrigðisráðherra Anna Margrét Hrólfsdóttir,Lilja Guðmundsdóttir skrifar
Skoðun Ætla stjórnvöld virkilega að eyðileggja eftirlaunasjóði verkafólks endanlega? Vilhjálmur Birgisson skrifar
Skoðun Heilbrigðistækni getur gjörbylt aðgengi og gæðum í heilbrigðisþjónustu Erla Tinna Stefánsdóttir skrifar
Skoðun Yfir 90% ferðamanna eru ánægðir með dvöl sína á höfuðborgarsvæðinu Inga Hlín Pálsdóttir skrifar
Skoðun Rödd barna og ungmenna hunsuð í barnvænu sveitarfélagi? París Anna Bermann Elvarsdóttir,Heimir Sigurpáll Árnason,Fríða Björg Tómasdóttir,Lilja Dögun Lúðvíksdóttir,Bjarki Orrason,Sigmundur Logi Þórðarson,Aldís Ósk Arnaldsdóttir,Leyla Ósk Jónsdóttir,Rebekka Rut Birgisdóttir,Ólöf Berglind Guðnadóttir,Íris Ósk Sverrisdóttir skrifar
Skoðun Myndir þú hætta að flokka ruslið? – Sjálfbærni er ekki tíska Helga Björg Steinþórsdóttir,Eva Magnúsdóttir skrifar
Opið bréf til Ölmu Möller, heilbrigðisráðherra Anna Margrét Hrólfsdóttir,Lilja Guðmundsdóttir Skoðun
Í Kópavogi borga tekjuháir foreldrar leikskólabarna mest, er það svo ósanngjarnt? Rakel Ýr Isaksen Skoðun
Ætla stjórnvöld virkilega að eyðileggja eftirlaunasjóði verkafólks endanlega? Vilhjálmur Birgisson Skoðun