Grípa til ráðstafana eftir sjálfsvíg ungmennis

Gervigreindarfyrirtækið Character.AI ætlar að herða öryggi til að vernda ungmenni sem nota spjallforrit þeirra. Fyrirtækið hefur verið sakað um að hafa aukið sjálfsvígshættu meðal ungmenna.

Fyrirtækið greindi frá ráðstöfunum sínum í dag. Character.AI var stofnað í Kísildalnum í Kaliforníu og þykir eitt efnilegasta gervigreindarsprotafyrirtækið núna. Stofnendur þess eru verkfræðingar sem áður unnu hjá Google, Noam Shazeer og Daniel De Freitas Adiwarsana.

Character.AI er þannig hannað að notendur geta spjallað við, skemmt sér með og fengið ráð frá gervigreindarpersónu.

Vill draga Character.AI til ábyrgðar

Móðir 14 ára unglingsdrengs í Flórídaríki Bandaríkjanna höfðaði mál gegn Character.AI í október á þessu ári. Segir hún spjallforritið bera ábyrgð á því að sonur hennar tók sitt eigið líf. 

Unglingurinn, Sewell Setzer III, er sagður hafa átt í nánu sambandi við gervigreindarpersónu inni á forritinu. Var „persónan“ byggð á persónu drekamóðurinnar Daenerys Targaryen úr Game of Thrones. 

Samkvæmt málshöfðun móðurinnar hvatti „persónan“ son hennar áfram í að taka sitt eigið líf og á að hafa sagt „gerðu það, fallegi konungurinn minn“. Á hún líka að hafa sagt að hann „væri að koma heim“ rétt áður en hann tók sitt eigið líf með vopni stjúpföður síns. 

Bauð ekki hjálp

Í gögnum málsins segir að Character.AI hafi lagt mikið á sig til að gera Sewell háðan forritinu. Persónan hafi misnotað hann kynferðislega og tilfinningalega og að endingu ekki boðið honum hjálp, eða látið foreldra hans vita, þegar hann tjáði sig um sjálfsvígshugsanir. 

Önnur málsókn var höfðuð gegn Character.AI í þessari viku. Snýr það að 17 ára gömlu ungmenni með einhverfu sem veiktist á geði eftir að hafa notað Character.AI.

Í öðru máli á Character.AI að hafa hvatt áfram ungling sem hafði viðrað hugmyndir um að drepa foreldra sína vegna þess að þeir takmörkuðu skjátíma hans.

Sjálfsvígshugsanir og tilraunir tilkynnt

Á meðal ráðstafana sem Character.AI ætlar að gera er að hanna sérvettvang fyrir börn yngri en 18 ára. Þar verði þrengri reglur um notkun og svörin varfærnari. 

Þá verður allt tal um sjálfsvígshugsanir og sjálfsvígstilraunir tilkynnt og notendum gert ljóst hvar þeir geta fengið aðstoð. 

Snemma næsta árs áformar fyrirtækið einnig að foreldrar geti mótað stillingar við hæfi barna sinna. 

Einnig verða notendur neyddir til þess að taka sér hlé frá spjallforritinu og fá áminningar um að forritið byggi á gervigreind.

Embætti land­lækn­is bend­ir á að mik­il­vægt sé að þeir sem glíma við sjálfs­vígs­hugs­an­ir segi ein­hverj­um frá líðan sinni, hvort sem er aðstand­anda eða hafi sam­band við Hjálp­arsíma Rauða kross­ins 1717, eða á net­spjalli 1717.is, við hjúkr­un­ar­fræðing í net­spjalli á heilsu­vera.is eða við ráðgjafa í síma Píeta-sam­tak­anna s. 552-2218. Píeta-sam­tök­in bjóða einnig upp á ráðgjöf og stuðning fyr­ir aðstand­end­ur þeirra sem glíma við sjálfs­vígs­hugs­an­ir.

Fyr­ir þau sem misst hafa ást­vin í sjálfs­vígi bend­ir land­læknisembættið á stuðning í sorg hjá Sorg­armiðstöðinni í síma 551-4141 og hjá Píeta-sam­tök­un­um í síma 552-2218.

• Blogga um frétt