Páll Vilhjálmsson skrifar:
Gervigreind gerði tæplega 800 alsaklausa Breta að sakamönnum, um 240 enduðu í fangelsi. Aðrir misstu æru og tiltrú samborgaranna, einhverjir tóku eigið líf og fjölskyldur splundruðust.
Gervigreindin sem ósköpin orsakaði er forrit sem breski pósturinn, Post Office,keypti um aldamótin til að fylgjast með fjárreiðum pósthúsa vítt og breitt um Bretaveldi. Sjálfstæðir verktakar sjá um rekstur pósthúsanna, kallaðir póstmeistarar, samkvæmt samningi. Auk póstþjónustu fara lífeyrisgreiðslur í gegnum pósthúsin.
Gervigreindin, forritið, heitir Horizon og er frá japanska fyrirtækinu Fujitsu. Fljótlega eftir innleiðingu ,,uppgötvaði" gervigreindin að ekki væri allt með felldu í fjölmörgum pósthúsum. Engum datt í hug að kannski væri forritið gallað. Breski pósturinn kærði fjölmarga póstmeistara og réttarkerfið tók upplýsingar gervigreindarinnar góðar og gildar. Saklausir fengu dóm. Skilningslaus gervigreind réð ferðinni. Útkoman var réttarmorð.
Hörmungarsagan er rakin í sjónvarpsseríu með hetjunni sem afhjúpaði hneykslið. Skapari gervigreindarinnar biðst afsökunar.
Málið dautt?
Ekki alveg. Gervigreind á pari við Horizon-forritið ræður ferðinni víðar en hjá breska póstinum. Allar hamfaraspár um hlýnun jarðar af mannavöldum byggja á gervigreind. Forrit, yfirleitt kölluð tölvulíkön, mæla fyrir um að jörðin verði óbyggileg eftir 10, 20 eða 50 ár. Forritin byggja á á forsendum forritara. Allur þorri þeirra er á launum við að búa til heimsendaspár. Ef spárnar eru ekki nógu dramatískar er forsendum breytt.
Þetta er allur galdurinn við gervigreindina. Rusl inn og rusl út.
Nei, bíðum við. Er ekki komin gervigreind sem skilur mælt mál, getur brugðist við upplýsingum og breytt forsendum, t.d. í samræmi við nýjustu vísindarannsóknir?
Í raun ekki. Gervigreind er, og verður aldrei, neitt meira en forsendurnar sem henni eru gefnar. Gervigreindin getur prjónað sér nýjar forsendur úr öllum heimsins gagnabönkum, en hún verður aldrei ríkari af skilningi þótt magn upplýsinga aukist og úrvinnslan batni.
Upplýsingar, hráar staðreyndir, eru eitt. Skilningur er allt annað. Til að skilja þarf upplýsingar en upplýsingar eru ekki skilningur.
Sumir trúa að gervigreind umbreyti heiminum. Hér er eitt dæmi:
Gervigreind sem getur greint hvern og einn nemanda, þekkir sögu þeirra, þarfir og sérsniðið námsefni og námseftirlit.
Nei, gervigreind getur ekki ,,þekkt" nokkurn nemanda, enn síður ,,þarfir" viðkomandi. Til að þekkja einhvern þarf meira en upplýsingar.
Eitt einkenni skilnings er hann er háður aðstæðum sem eru meira en safn upplýsinga. En það eina sem fer inn í gervigreind eru upplýsingar. Afurð gervigreindar er aðrar upplýsingar. Upplýsingarnar sem fara inn meðhöndlar gervigreindin með forriti, fyrirskipanir sem kallast forsendur. Upplýsingarnar sem koma út eru nefndar niðurstöður. Þær geta verið réttar, rangar eða út í bláinn.
Jafnvel þó að allar heimsins upplýsingar fái meðhöndlun samkvæmt allra bestu forsendum er óvíst með útkomuna, hvort hún haldi máli.
Í mannheimi er ýmislegt annað en upplýsingar. Fegurð til dæmis og ást. Réttlæti líka, eins og póstmenn í Bretlandi fundu á eigin skinni er þeir fóru á mis við það.