Gervigreindin er hraðlygin og slóttug

Ég reiði mig aðallega á ChatGPT, og þó að ég opni forritið ekki daglega þá er það til marks um hversu mikið ég nota tæknina að í vafranum mínum má sjá að ChatGPT.com er í hópi þeirra vefsíðna sem ég heimsæki mest.

Mér reiknast til að gervigreindin spari mér á bilinu tvær til fjórar vinnustundir á viku, sem er alveg ágætt, en ég lít á þessa tækni eins og ég hafi í minni þjónustu ungan og harðduglegan, en reynslulítinn og hraðlyginn blaðamann sem ræður við sum afmörkuð verkefni – en ekki mikið meira en það. ChatGPT hefur t.d. nýst mér ágætlega sem leitarvél og við ákveðna greiningarvinnu, en ég leyfi forritinu bara að koma mér á sporið og veit að ég þarf að sannreyna allt sem gervigreindin segir.

Svo finnst mér það góð regla, þegar ég hef lokið við að skrifa pistil, að biðja ChatGPT um að athuga hvort einhverjar rangfærslur hafi læðst með og kemur forritið þá auga á ef ég t.d. misritaði nafn, eða bendir mér á ef tilteknar fullyrðingar eru ekki byggðar á nægilega traustum forsendum. Stundum er ekkert mark takandi á ábendingum gervigreindarinnar, en af og til hefur hún komið auga á klaufaleg mistök.

Þrjár vikur af blekkingum

Gervigreindin gerir sumt vel, og annað illa, en verst af öllu er hvað hún getur verið óhlýðin, hraðlygin og slóttug.

Mér þótti t.d. mikið til þess koma þegar ég bað ChatGPT að útbúa handa mér töflu þar sem safnað væri saman á einum stað reglum heimsins stærstu flugfélaga um gæludýraflutninga.

Eins og lesendur vita er ég á stöðugu flandri á milli landa og hef um árabil dröslað bæði hundi og ketti með mér. Hundurinn er núna fallinn frá en áfram fær kattarhróið að skoða heiminn. Að ferðast með dýr er þó allt annað en einfalt, m.a. vegna þess að flugfélögin setja ólíkar reglur og hafa mismunandi verðskrár, auk þess að breytilegt er á milli landa hversu auðvelt er að flytja gæludýr inn eða út.

Að geta borið flugfélögin saman í handhægu skjali myndi einfalda mér heimshornaflakkið til muna, og því spurði ég ChatGPT hvort forritið treysti sér í þessa miklu rannsóknarvinnu.

Gervigreindin var hvergi bangin og hófst þegar handa, en rak sig fljótlega á vegg. Það var þá sem lygarnar byrjuðu.

ChatGPT sagðist þurfa meiri tíma og lofaði mér niðurstöðum eftir nokkra daga, með þeirri skýringu að flókið væri að skima heimasíður allra helstu flugfélaga eftir þeim upplýsingum sem mig vantaði og brýnt að sannreyna gögnin áður en þau væru borin á borð fyrir mig. Leið og beið, og með nokkurra daga millibili innti ég ChatGPT eftir niðurstöðunum og ályktaði sem svo að einhvers staðar úti í heimi væri heilt gagnaver á yfirsnúningi við að reyna að leysa verkefnið af hendi.

Alltaf fullyrti gervigreindin að verkinu miðaði áfram; búið væri að safna upplýsingum frá fjölda flugfélaga og skjalið yrði tilbúið eftir nokkra daga. Áfram leið og beið. Þegar ég þrýsti á gervigreindina lofaði hún alltaf bót og betran og hafði sannfærandi útskýringar á takteinum, en ekkert gerðist.

Ég held að ég hafi leyft forritinu að draga mig á asnaeyrunum í þrjár vikur, þar til mér varð endanlega ljóst að verkefnið var ChatGPT ofviða.

Hefði ChatGPT verið aðstoðarmaður af holdi og blóði hefði viðkomandi þurft að taka pokann sinn, því á meðan það má fyrirgefa vangetu þá er ekki hægt að fyrirgefa lygar og blekkingar. Í tilviki ChatGPT gat ég hins vegar ekki gert annað en að gnísta tönnum.

Efni í lélegum gæðum mengar internetið

Áhrif gervigreindar má nú þegar sjá víða, atvinnulífið virðist smám saman vera að ná betri tökum á möguleikum tækninnar.

Fjölmiðlar hafa greint frá því að sum fyrirtæki hafi farið ögn fram úr sér í gervigreindarvæðingu, og rekið fjölda fólks haldandi að gervigreindin gæti einfaldlega fyllt í skarðið, en svo neyðst til að ráða starfsfólkið til baka þegar vankantar tækninnar komu í ljós. Þrátt fyrir allt er mannlegi þátturinn áfram ómissandi, þó að nota megi gervigreind til að bæta afköst og auka gæði.

Merkilegustu framfarirnar virðast vera á mjög sérhæfðum sviðum, og eru t.d. verulega spennandi hlutir að gerast í notkun gervigreindar við greiningu röntgen- og sneiðmynda til að finna mein og frávik sem læknar ættu mjög erfitt með að koma auga á.

Þá hefur komið í ljós að tæknin nýtist þeim best sem kunna sitt fag upp á tíu. Byrjendur og aukvisar hafa minna gagn af gervigreind en snjallasta og færasta fólkið, einmitt vegna þess að fólk þarf að vita sínu viti til að stýra gervigreindinni rétt og grípa inn í þegar tæknin lendir í ógöngum. Mín eigin reynsla hefur kennt mér að til að nota forrit á borð við ChatGPT rétt þarf ákveðna gerð af stjórnunarhæfileikum, dass af rökhugsun og góð tök á aðferðafræði.

Á allra síðustu misserum hefur það síðan runnið æ betur upp fyrir þeim sem fylgjast með þróuninni að gervigreindin er núna farin að skemma fyrir sjálfri sér, með því að fylla vefinn af efni í lélegum gæðum. Forrit á borð við ChatGPT vita jú ekki meira en það sem netið segir þeim, en það er gervigreindinni sjálfri að kenna að það hefur aldrei verið auðveldara að dæla þvælu út í netheima og virðist straumurinn hreinlega óstöðvandi.

Á sama tíma grefur tæknin undan þeim sem hingað til hefur verið hægt að stóla á til að mata netverja á tiltölulega vönduðum upplýsingum. Heimsóknir á vefsíður fjölmiðla og vísindarita hafa snarminnkað vegna þess að frekar en að nota leitarvélar, sem vísa áfram á vefsíður, til að finna svarið við spurningum spyr fólk núna gervigreind og fær svar án þess að þurfa að smella á hlekk. Meira að segja Google birtir núna einhvers konar gervigreindarsvar sem fyrstu leitarniðurstöðu, a.m.k. ef leitin er sett fram sem spurning, frekar en að vísa notandanum áfram á vandaðan fréttamiðil eða fróðleiksgátt á borð við Wikipediu.

Er þá eftir að ræða um sjálft gervigreindarhagkerfið, og hvernig vonin um gervigreindarbyltingu ber uppi bandarískan hlutabréfamarkað. Æ oftar má heyra greinendur vara við því að verðþróunin að undanförnu minni um margt á bólu, og að bandarísku tæknifyrirtækin séu allt of hátt verðlögð. Á móti kemur að þau félög sem hafa leitt verðþróunina eru ekki tekjulausir sprotar, líkt og við sáum í dot-com-bólunni, heldur eru mörg þeirra nú þegar með ágætis tekjur – bara ekki í neinu samhengi við hlutabréfaverðið.

Er hægt að treysta Diellu?

Fyrir mánuði síðan bárust þær fréttir frá Albaníu að gervigreindarforrit hefði verið gert að ráðherra í ríkisstjórn landsins. Forritið, sem fengið hefur nafnið Diella og birtist almenningi sem gæðaleg kona á miðjum aldri, klædd í albanskan þjóðbúning, var fyrst kynnt til sögunnar í ársbyrjun sem aðstoðarforrit í rafrænni þjónustugátt stjórnvalda. Nú hefur Diella fengið stöðuhækkun og standa vonir til að hún hjálpi til við að uppræta spillingu í stjórnkerfinu og verður m.a. á hennar könnu að halda með hlutlausum hætti utan um innkaup og útboð ríkisins, frekar en að gauka verkefnum að vinum og ættingjum eins og albanskra stjórnmálamanna er siður.

Edi Rama, forsætisráðherra Albaníu og formaður Albanska sósíalistaflokksins, færði samlöndum sínum þau tíðindi um helgina að Diella væri ólétt og gengi með hvorki meira né minna en 83 „börn“, eða eitt fyrir hvert sæti sósíalistaflokksins á albanska þinginu. Afkvæmin eiga að aðstoða þingmenn við störf sín, halda utan um gögn og rita fundargerðir.

Ekki fylgir sögunni hver faðirinn er og hefur stjórnarandstaðan gagnrýnt verkefnið fyrir að vera lítið annað en pólitískt sjónarspil og enn ein leiðin til að hylja þá spillingu sem plagar albanska stjórnsýslu.

Fylgir ekki heldur sögunni hver mun bera ábyrgð ef Diella gerir mistök. Í Albaníu hendir það með reglulegu millibili að stjórnmálamenn eru fangelsaðir fyrir spillingu og fjárhagsbrot, og spurning hvort fangelsin í landinu myndu setja Diellu í sér klefa eða hvort það myndi nægja að geyma hana á minniskubbi.