Geir Ágústsson skrifar:

Þeir sem forrita eða hafa prófað slíkt kannast kannski við hugtakið „skítur inn, skítur út“. Það gæti lýst forriti sem lítur vel út en reiknar allt vitlaust og setur í flott línurit sem hafa ekkert notagildi. Það gæti þýtt tölvukerfi sem þiggur mikið af gögnum, hrærir í þeim og skilar kolröngum niðurstöðum.

Er gervigreindin slíkt tölvukerfi?

Nei, það er hún ekki. Gervigreindin er þvert á móti mjög góð til að gera nákvæmlega það sem henni er ætlað: Að taka þær upplýsingar sem hún hefur verið fóðruð af og nýta, sameina á ýmsa vegu og loks lýsa.

Þannig er til dæmis hægt að spyrja gervigreindina að því af hverju er mikilvægt að takmarka rang- og meinupplýsingar (mis- and malinformation), og hún svarar að lokum:

„Átak til að takmarka rang- og meinupplýsingar miðar að því að skapa upplýstara, öruggara og samheldnara samfélag með því að tryggja að réttar og sannar upplýsingar séu aðgengilegri og algengari en rangar eða villandi upplýsingar.“

Hana má líka spyrja af hverju er mikilvægt fyrir málfrelsið að leyfa rang- og meinupplýsingar. Þá sprettur upp löng upptalning af góðum rökum, svo sem að þekking sé í sífellu að breytast og það sé mikilvægt að hugmyndir fái að takast á, en með einni viðbót umfram fyrra svar: Langan fyrirvara.

„Þó að þessi atriði undirstriki mikilvægi þess að leyfa rang- og meinupplýsingar samkvæmt meginreglum um tjáningarfrelsi, er einnig brýnt að vega þau á móti viðleitni til að vernda almannaöryggi, traust og lýðræði. Þetta jafnvægi krefst vandlegrar íhugunar og stöðugrar samræðu í samfélaginu.“

Það eru einmitt svona niðurstöður gervigreindar sem undirstrika „gervið“ í gervigreindinni. Gervigreindin er þjálfuð á gögnum sem menn velja fyrir hana. Þetta er gervigreind því þetta er greind manna í gervi tölvuforrits. Sleppir þú gervigreindinni lausri á samfélagsmiðla þá fær hún ranga mynd af raunverulegum samtölum fólks, svo dæmi sé tekið. Hið sama gildir um fjölmiðla og ræður stjórnmálamanna í atkvæða- og peningaleit.

En gervigreindin sem slík er auðvitað hið besta mál að mörgu leyti. Ég hef notað gervigreind til að búa til útdrætti úr löngum skýrslum, þar á meðal mínum eigin, og verið mjög ánægður með niðurstöðuna. Ég hef notað hana til að framleiða stubba af tölvukóða sem leysa ákveðin verk. Ég hef spurt hana að flóknum spurningum um viðfangsefni sem ég veit mikið um og er í mikilli framþróun og séð einhverja þvælu streyma yfir skjáinn og fundið starfsöryggi mitt aukast í kjölfarið.

Gervigreindin er ekki skítur inn, skítur út. Út úr henni kemur nákvæmlega það sem fór inn í hana: Hugsanir, skoðanir og þekking manna sem mötuðu hana. Og út kemur greind í gervibúningi.