Eftir Pál Vilhjálmsson:
Gervigreind verður aldrei mennsk af einni ástæðu. Maðurinn hefur vilja en gervigreind ekki. Gervigreind er forrit sem getur haft markmið, t.d. að tefla skák til vinnings. Mennskur vilji getur staðið til þess að tefla en horfið frá þeim ásetningi og farið að ræða pólitík eða ljóðlist við andstæðing sinn. Eða gefið skákina í fimmta leik til að komast fyrr á barinn.
Gervigreind getur skrifað ritgerð um ástæður Úkraínustríðsins en ekki fengið áhuga á alþjóðastjórnmálum í framhaldinu og gert mannúðarstörf að ævistarfi.
Sjálfkeyrandi bíll velur ekki akstursleiðina frá einum stað til annars. Forrit segir bílnum hvaða leið hann á að aka að gefnum forsendum. Mennskur bílstjóri velur akstursleið út frá ógrynni upplýsinga og hughrifa, til dæmis að sjá sólsetur á leiðinni eða seinka för til að sleppa við uppvaskið sem bíður heima.
Mennsk meðvitund býr yfir vilja og ásetningi sem engin gervigreind getur leikið eftir. Maður fer niðrí fjöru og finnur stein til að nota sem bókastoð. Á leiðinni heim sér hann nagla sem stendur út úr timburborði á sandkassa. Maðurinn notar steininn fyrir hamar og rekur naglann í fjölina. Gervigreind getur ekki búið til bókastoð og hamar úr fjörugrjóti. Mennskur forritari gæti sagt vélmenni að nota grjót á þennan eða hinn veginn, en þar ræður mennsk meðvitund framvindunni.
Ástæðan fyrir ótta margra við gervigreind er að hún getur líkt eftir mennskri meðvitund. En að eitt sé eins og eitthvað annað þýðir ekki að eitthvað tvennt ólíkt sé sami hluturinn. Karl getur verið eins og kona en er samt sem áður karl. (Nema hjá fólki sem ekki greinir á milli veruleika og ímyndunar).
Meðvitundin beitir sér á hlutlægan veruleika sem stendur utan hennar. Meðvitundin býr til merkingu, gefur veruleikanum umsögn og breytir ef því er að skipta. Þar sem áður var blóm í haga er ekki lengur eftir að einhver sleit það upp að gera blómvönd. Gervigreindin er hlutlægur veruleiki, viljalaust verkfæri, sem hægt er nota til margra verka. En gervigreind fær aldrei mennska meðvitund, býr ekki til merkingu. Það er ómöguleiki.