Musk fellst á að hætta að framleiða kynferðislegar myndir en bara sums staðar

Kjartan Kjartansson skrifar 15. janúar 2026 08:48

Grok er gervigreindarspjallmenni samfélagsmiðilsins X. Notendur hafa undanfarið notað það til þess að framleiða kynferðislegar myndir af börnum og konum í stórum stíl. Vísir/EPA

Samfélagsmiðillinn X, sem er í eigu Elon Musk, segist ætla að loka á að gervigreindarspjallmennið Grok búi til kynferðislegar myndir af raunverulegu fólki í sumum löndum í kjölfar harðrar gagnrýni og opinberra rannsókna. Aðeins verður tekin fyrir slíkar myndir þar sem slíkt er ólöglegt.

Bresk yfirvöld eru á meðal þeirra sem rannsaka nú hvort X hafi framið lögbrot þegar miðillinn leyfði spjallmenninu að framleiða kynferðislegar myndir af börnum og konum gegn vilja þeirra og birta þær á X að ósk notenda.

X-notendur hafa meðal annars notað Grok til þess að „afklæða“ börn og konur á raunverulegum ljósmyndum og setja þær í kynferðislegar stellingar. Jafnvel raunverulegar myndir af líkum kvenna hafa sætt slíkri meðferð, þar á meðal konu sem bandaríska innflytjendaeftirlitið skaut til bana í Minneapolis í síðustu viku og bresk táningsstúlka sem lést í miklum eldsvoða á svissneskri krá.

Til að bregðast við gagnrýninni og rannsóknunum tilkynnti X í gær að ekki yrði lengur hægt að biðja Grok um að eiga við myndir af raunverulegu fólki þannig að það sæist fáklætt, en þó ekki alls staðar í heiminum, að því er segir í frétt breska ríkisútvarpsins.

„Við bönnum nú notendum eftir staðsetningu þeirra að framleiða myndir af raunverulegu fólki í bikíníi, nærfötum og sambærulegum klæðnaði í gegnum Grok-aðganginn og á Grok á X í þeim lögsagnarumdæmum sem það er ólöglegt,“ sagði í tilkynningu fyirtækisins.

Myndirnar notaðar til þess að áreita fólk

X tilkynnti um ákvörðunin rétt eftir að dómsmálaráðherra Kaliforníuríkis í Bandaríkjunum sagðist rannsaka útbreiðslu kynferðislegra gervigreindarfalsana af börnum.

„Þetta efni, sem sýnir konur og börn nakin og á kynferðislegan hátt, hefur verið notað til þess að áreita fólk á netinu,“ sagði Rob Bonta, dómsmálaráðherrann, þegar hann greindi frá rannsókn sinni.

Breska ríkisstjórnin fagnaði ákvörðun X og sagði hana staðfesta að rétt hefði verið að þrýsta á fyrirtækið að koma í veg fyrir myndbirtingarnar.

Musk sjálfur sagði í gær að Grok myndi áfram framleiða myndir af fullorðnu fólki, þó ekki raunverulegum manneskjum, beru að ofan. Það væri í reynd viðmið í Bandaríkjunum, til dæmis í kvikmyndum sem sættu aldurstakmörkunum.

„Þetta verður breytilegt á öðrum svæðum í samræmi við lög í hverju landi fyrir sig,“ skrifaði Musk.

X (Twitter) Samfélagsmiðlar Gervigreind Elon Musk Kynferðisofbeldi Bretland Bandaríkin