Vafasöm sögutúlkun Google-forrits

Sundar Pichai, stjórnarformanni tæknirisans Google, er verulega misboðið yfir vinnubrögðum gervigreindarsmáforritsins Gemini sem fyrirtækið hleypti nýlega af stokkunum og teflt er gegn ChatGPT-forritinu í harðri samkeppni Google við OpenAI og bakhjarlinn Microsoft.

Blöskraði Pichai framsetning Gemini á ýmsum „staðreyndum“ mannkynssögunnar, svo sem samsettum myndum sem sýndu fólk af ýmsum kynþáttum í einkennisbúningum nasista og konur meðal bandarískra öldungadeildarþingmanna á 19. öld svo eitthvað sé nefnt.

„Ég vil tæpa hér á nýlegum uppákomum er varða hæpna texta og myndir í Gemini-forritinu,“ skrifaði Pichai í bréfi til starfsfólks Google sem vefritið Semafor birti og AFP-fréttastofan hefur fengið staðfest að er ósvikið.

Algjörlega óviðunandi

„Mér er kunnugt um að sum svör [Gemini] hafa komið illa við notendur okkar og verið villandi [...] sem er algjörlega óviðunandi svo því sé komið á framfæri og við erum þarna á rangri braut,“ skrifaði stjórnarformaðurinn.

Að hans sögn leggja teymi Google nú nótt við nýtan dag til að sníða af vankantana en engar spár hafði hann uppi um hvenær myndgerðarmöguleiki Gemini yrði virkur á ný.

„Engin gervigreind er fullkomin, sérstaklega ekki nú í árdaga þróunar hennar, en við vitum að mikið er í húfi og við vinnum að málinu eins lengi og þurfa þykir,“ segir í bréfinu.

Forritun Gemini byggir á því að sýna fólk af ólíkum uppruna en eitthvað skolaðist til við skipanir forritsins um að forðast villandi framsetningu. Eins stígur það óþarflega varlega til jarðar þar sem ýkt varfærni á alls ekki við.

Margt hefur verið ritað og rætt um gervigreind síðan OpenAI hleypti ChatGPT-forriti sínu af stokkunum og sýnist sitt hverjum. Sérfræðingar og ríkisstjórnir hafa varað við því að gervigreind fylgi einnig hættur á efnahagslegum áföllum, svo sem fækkun starfa, og umfangsmiklum falsupplýsingum sem ráðið geti úrslitum kosninga og orðið undirrót átaka.

• Blogga um frétt