Páll Vilhjálmsson skrifar:

Geof­frey Hint­on, sagður guðfaðir gervi­greind­ar, hætti hjá Google um síðustu mánaðarmót með yfirlýsingu um ógn gervigreindar fyrir mannkyn. Viðtengd frétt gefur til kynna að margir sérfræðingar taki undir með Hinton.

Lítum á þær áhyggjur sem sérfræðingar hafa af ógninni. Í euronews er samantekt af fjórum megináhyggjum Hinton. Þær eru:

1. 1. Gervigreind er orðin greindari en maðurinn og getur átt samskipti sín á milli, þ.e. lært og öðlast ofurgreind.
   2. Gervigreind getur stuðlað að og aukið upplýsingaóreiðu.
   3. Gervigreind gerir vinnuafl óþarft, veldur atvinnuleysi.
   4. Við vitum ekki hvernig eigi að stöðva gervigreind.

Liðir 2 og 3 valda ekki útrýmingu mannkyns. Atvinnuleysi er ekki gott og upplýsingaóreiða er vond. En engin ragnarök vofa yfir af þeim sökum.

Liðir 1 og 4 hanga saman. Fyrri liðurinn gerir ráð fyrir veldisvexti gervigreindar og sá seinni að gervigreindin geri manninn óþarfan og yfirtaki heimsbyggðina með húð og hári.

Fyrir það fyrsta stjórnar greind ekki heiminum og hefur aldrei gert. Að því marki sem maðurinn stjórnar heiminum eru það ekki þeir greindustu sem ráðið hafa ferðinni frá ómunatíð. Ekki heldur þeir heimskustu. Hæfileikar til að afla fylgis við málstað eru aftur áberandi. Alexander mikli, Jesú Kristur, Júlíus Sesar, Karlamagnús, Marteinn Lúter, Napoleón, Abraham Lincoln, Lenín og Dolli frá Braunau voru engir meðalskussar, sá síðasttaldi þó líklega. Engin ein ,,greind" þeirra gerði útslagið að þeir breyttu heiminum.

Greind er sem sagt flókið fyrirbæri. Greind plús vald er óendanlega margslungið.

Ímyndum okkur að vélmenni búið gervigreind kalli í félaga sína í leshring að stúdera Nietzsche. Svo mælti Zaraþústra yrði fyrst fyrir valinu, hún ber undirtitilinn ,,Bók fyrir alla og engan." Gáfuðu vélmennin kæmust í kaflann um stríð og stríðsmenn, bls. 71 í þýðingu Jóns Árna Jónssonar, og læsu:

„Og ef þið getið ekki verið dýrlingar þekkingarinnar, verið þá að minnsta kosti stríðsmenn hennar. Þið eruð félagar og undanfarar slíkrar helgi.“

Ég sé marga dáta: gjarnan vildi ég sjá marga stríðsmenn! Búningar þeirra nefnast úniform eða ,,sama mót": óskandi að það sem þeir hylja undir þeim sé ekki steypt í sama mót!

Gervigreind á æðsta hugsanlega rökstigi brynni yfir að lesa hugsanir Nietzsche, líkt og rafmagnsöryggi undir of miklu álagi. Mótsögnin, að dýrlingar þekkingar séu ekki steyptir í sama mót, en þjóna aungvu að síður sama markmiði, klæddir í úniform, er einfaldlega ofviða röklegri hugsun. Mennsk hugsun skilur þverstæðuna enda er hún hluti af mannlegu eðli sem er þrautþjálfað að lífa í mótsögn.

Nietzsche-þröskuldur gervigreindar er að hún verður að öðlast hæfileika mannsins til mótsagna ef hún ætlar sér heimsyfirráð. Sjálfstortíming er innifalin í mótsögninni.

Í stuttu máli: gervigreind vélmenni verða aldrei greindari eða gáfaðri en höfundar forritanna sem vélbúnaðurinn notar. Þótt vélmennin læri að tala sín á milli verður það litlu merkilegra en að tengja tvær tölvur til að bæta reiknigetuna. Býflugur skiptast á upplýsingum. Engum dettur í hug að þær leggi undir sig heiminn.

Hvort gervigreind verður meira notuð af manninum til góðs en ills er önnur saga. Það hefur allt með mannlegt eðli að gera; verkfærið er aukaatriði.

Óttinn við gervigreind stafar af þeim misskilningi samtímamenningar að heimurinn sé röklegur og efnislegur. Töluvert meira er í henni veröld en það sem hönd á festir. Snillingar eins og Nietzsche færa okkur heim sanninn um það. Þeirra greind er ekta.