„Guðfaðir“ gervigreindarinnar hræddur við framþróunina

Gervigreind | 31. maí 2023

„Guðfaðir“ gervigreindarinnar hræddur við framþróunina

Einn hinna svokölluðu „guðfeðra“ gervigreindar hefur greint frá því að hefði hann vitað hraðann á framþróun gervigreindar hefði hann forgangsraðað öryggi fram yfir gagnsemi hennar. Umræða hefur nýverið skapast um þá hættu sem geti fylgt framþróun gervigreindar.  

„Guðfaðir“ gervigreindarinnar hræddur við framþróunina

Gervigreind | 31. maí 2023

Þróun gervigreindar gæti haft skaðleg áhrif á mannkynið
Þróun gervigreindar gæti haft skaðleg áhrif á mannkynið AFP

Einn hinna svokölluðu „guðfeðra“ gervigreindar hefur greint frá því að hefði hann vitað hraðann á framþróun gervigreindar hefði hann forgangsraðað öryggi fram yfir gagnsemi hennar. Umræða hefur nýverið skapast um þá hættu sem geti fylgt framþróun gervigreindar.  

Einn hinna svokölluðu „guðfeðra“ gervigreindar hefur greint frá því að hefði hann vitað hraðann á framþróun gervigreindar hefði hann forgangsraðað öryggi fram yfir gagnsemi hennar. Umræða hefur nýverið skapast um þá hættu sem geti fylgt framþróun gervigreindar.  

Yoshua Bengio, prófessor í tölvunarfræði, lét ummæli sín falla í viðtali við BBC eftir að sérfræðingar í gervigreind greindu frá því í gær hún gæti leitt til útrýmingar mannskyns. Hann hefur tekið undir ákallum frekari reglur á þessu sviði og lýsir áhyggjum sínum á stefnunni og hraðanum sem gervigreindin þróast í átt að. Sjálfur hefur hann skrifað undir tvær yfirlýsingar þar sem hann hvetur til aðgátar vegna framtíðar gervigreindarinnar.  

Með gervigreind er tölvum nú kleift að klára verkefni sem menn hafa áður þurft mannlega greind og hæfileika. Nýlegt dæmi um slíkt er forritið ChatGPT, sem hefur tök á að semja manneskjuleg svör við miklum fjölda spurninga.  

Gæti skapast mikil hætta

Margir hafa aftur á móti áhyggjur af því að framþróun þessi á sviði gervigreindar geti nýst í skaðlegum tilgangi, líkt og við þróun nýrra efnavopna.  

Bengio segist hafa áhyggjur af því hvað gæti gerst ef gervigreind félli í hendur rangra einstaklinga, sérstaklega þegar hún verður öflugri. „Það er auðvelt að forrita gervigreindina til að framkvæma eitthvað mjög slæmt, þetta gæti orðið mjög hættulegt.“ Mikilvægt sé að eftirlit sé haft með gervigreindinni. 

Hann hefur orð á því að áhyggjur sérfræðinga á sviði gervigreindar taki mikinn toll á hann enda sé þetta ævistarf hans. „Þetta er krefjandi, tilfinningalega séð, fyrir fólk innan gervigreindargeirans.“

Fleiri brautryðjenda innan gervigreindarheimsins hafa einnig skrifað undir yfirlýsingarnar auk þess sem Elon Musk hefur tjáð sig um framgang hennar. „Ég held ekki að gervigreind muni reyna að tortíma mannkyninu, en við gætum sætt ströngu eftirliti hennar,“ sagði hann nýverið.  

Áhyggjurnar plaga ekki alla

Hins vegar eru ekki allir á sömu skoðun. Aðrir halda því fram að það séu önnur vandamál sem þurfi að takast á við. Sasha Luccioni, fræðimaður hjá gervigreindarfyrirtækinu Huggingface, sagði að leggja ætti frekari áherslu á málefni líkt og hlutdrægni gervigreindar en að einblína á hina „ímynduðu hættu“ að gervigreind gæti tortímt mannkyninu. Nú þegar séu mörg dæmi þessgervigreindin þjóni samfélaginu á jákvæðan hátt.  

mbl.is