And­lit barna sett á klám­fengið efni með gervigreind

„Það þarf að passa að þessi nýja tækni sé ekki misnotuð til þess að beita börn ofbeldi, sérstaklega kynferðislegu ofbeldi.“

Þetta segir Regína Jensdóttir, yfirmaður barnaréttindasviðs Evrópuráðs. 

Við blas­i nýr veru­leiki vegna tækniþró­un­ar­inn­ar þar sem hægt sé að búa til ólög­legt efni með gervi­greind án þess að raun­veru­leg­ar mann­eskj­ur komi við sögu og því brýnt að skýra og skerpa lagaramman í samræmi við það.

Dæmi séu um að and­lit barna séu sett á klám­fengið efni með notk­un gervi­greind­ar, myndforrit notuð til að „afklæða“ þau á saklausum myndum og að börn leiðist jafnvel út í kynferðisleg „sambönd“ eða samskipti við gervigreindar-spjallmenni.

Allt hafi þetta djúpstæð áhrif á börn og ungmenni líkt og annað kynferðisofbeldi.  

Regína ræddi við blaðamann mbl.is að málþingi barnamálaráðuneytisins og Háskóla Íslands loknu þar sem fjallað var um kynferðisofbeldi gegn börnum með notkun gervigreindar.

Regína Jensdóttir, yfirmaður barnaréttindasviðs Evrópuráðs. Ljósmynd/Aðsend

Óljóst lagaumhverfi

Aðspurð segir Regína svo virðast sem kynferðisofbeldi gegn börnum sé að aukast, eða að minnsta kosti sýnileiki þess og aðgengi. Mikilvægt sé að lagaramminn þróist samhliða örri tækniþróuninni.

„Það er lagarammi varðandi verndun barna gegn kynferðislegu ofbeldi og refsingar til staðar á Íslandi, sem betur fer, en það er ekki víst að lagaramminn nái utan um þessi nýju brot sem við erum að sjá,“ segir Regína innt eftir því hvert lagaumhverfið sé hér á landi.

Lanzarote-nefnd Evrópuráðsins, sem hefur eftirlit með framkvæmd Lanzarote-samningsins, um vernd barna gegn kynferðislegri misneytingu og kynferðislegri misnotkun, hafi þegar hvatt öll ríki, þar á meðal Ísland, til að breyta orðalagi laga um „barnaklám“ og nota frekar hugtakið „myndefni sem sýnir kynferðislegt ofbeldi gegn börnum.“

Kynlífsdúkkur sem líkjast börnum

„Við erum að skoða hvort að lagaramminn verndi börn nægilega vel gegn þessum nýju brotum sem við erum að sjá þróast. Þá erum við að tala um djúpfalsað efni, við erum að tala um fyrirtæki sem eru að búa til kynlífsdúkkur sem að líkjast börnum,“ segir Regína um störf  barnaréttindasviðs Evrópuráðs.

Djúpfalsað efni í þessum skilningi er myndefni þar sem óprúttnir aðilar nota gervigreind og andlit raunverulegs barns til að framleiða kynferðislegt efni.

„Auðvitað hefur það djúpstæð áhrif á það barn þó að það sé ekki raunverulega misnotað,“ segir Regína. 

Enn er víða óskýrt hvort og í hvaða skilningi slíkt teljist lögbrot og hvort og hvernig megi refsa fyrir slíka framleiðslu að sögn Regínu, sem segir sumir aðila jafnvel hagnast á framleiðslu slíks efnis fyrir aðra.

Börn geta átt í „samböndum“ við spjallmenni eða jafnvel orðið vitni af netgervingum sínum verða fyrir kynferðisofbeldi. Ljósmynd/Colourbox

Afklæða bekkjarsystkini sín

Ofbeldi gegn börnum á sér margar nýjar birtingarmyndir í netheimum og nefnir Regína sem dæmi spjallforrit þar sem hægt er að spjalla við gervigreind á kynferðislegum nótum og jafnvel eiga í „sambandi“ við spjallmenni.

Þar sé strax komin upp lagaleg óvissa um hvort það teljist ólöglegt að barn og gervigreind eigi í slíku samtali.

„En við vitum að slíkt samtal væri ólöglegt ef það væri samtal á milli barns og fullorðins.“

Sömuleiðis séu ýmis myndforrit orðin aðgengileg þar sem hægt sé að „afklæða“ fólk þar á meðal börn með aðstoð gervigreindarinnar. Regína segir slík forrit gjarnan notuð sem eineltisverkfæri barna gegn bekkjarsystkinum sínum, þar sem ungir gerendurnir geri sér oft ekki grein fyrir alvarleika gjörða sinna.

„Þau eru náttúrulega líka börn þannig það þarf að styðja við bakið á þeim líka og passa upp á þau. Þetta er allt undir forvörnum komið til að útskýra fyrir börnum hvernig þau mega hegða sér og hvernig ekki og það fellur auðvitað mikið í hlut foreldra og skóla.“

Ofbeldi gegn börnum á sér margar nýjar birtingarmyndir í netheimum. Kristinn Ingvarsson

Hvað á að gera ef barna-avatar er nauðgað?

Sömuleiðis séu börn með aukna viðveru á netinu og lifi lífi sínu þar í auknum mæli. Mörg börn skapi sér til að mynda netgerving (e. avatar) og noti sem eins konar leikfang á netvettvöngum og eigi þar í samskiptum við netgervinga annarra einstaklinga, stundum fullorðinna.

Þar geti ýmislegt átt sér stað og börn til að mynda orðið fyrir því að eiga í kynferðislegum samskiptum á netinu eða orðið vitni að ofbeldi gegn sínum netgervingi. Það hafi óneitanlega áhrif á þau að verða vitni að slíku. 

„Hvernig á t.d. að bregðast við ef avatar sem barn hefur búið sér til er nauðgað?“ spurði Regína á ráðstefnunni, en hún segir dæmi um að slíkt hafi átt sér stað þar sem börnin hafi verið allt niður í sex ára gömul og atvikin því haft afar djúpstæð áhrif.

Hún segir mikilvægt að hafa börn og ungmenni með í ráðum hvað varðar nýja tækniþróun og regluverk í kringum hana – enda hafi yngri kynslóðin meiri þekkingu á því sviði en flestir fullorðnir og geti því veitt dýrmæta innsýn.

„Við þurfum að skoða vel hver þessi þróun er en einkageirinn hefur mikla ábyrgð á að passa upp á að þeirra fyrirtæki eða vettvangar séu ekki nýttir í að þróa svona. Við verðum að læra að lifa í þessum heimi eins og hann er en við þurfum að ná að draga mörkin um hvað er ásættanlegt, löglegt og hvað er refsivert og hvað ekki.“

• Blogga um frétt