Fulltrúar ESB-þingsins og ráðherraráðs ESB náðu aðfaranótt laugardagsins 9. desember pólitísku samkomulagi um meginefni lagafrumvarps um gervigreind. Fulltrúar atvinnulífsins telja sum ákvæði samkomulagsins of ströng og þau geti hindrað þróun og nýsköpun á þessu sviði.

Á ensku nefnist frumvarpið Artificial Intelligence Act (AIA), lög um gervigreind. AIA er fyrsta heildarfrumvarpið um gervigreind í heiminum. Tilgangurinn er að ýta undir nýsköpun án brota á grundvallarréttindum.

Í frumvarpinu eru skilgreindir fjórir flokkar með hliðsjón af áhættu:

Óviðunandi: Þar er um að ræða gervigreind sem skapar alvarlega ógn gegn grundvallarréttindum eða almannaöryggi, þar er meðal annars um að ræða kerfi sem stuðla að mannvirðingaflokkun einstaklinga eða eru reist á andlitsgreiningu.

Mikil áhætta: Þar er um að ræða gervigreind sem hefur í för með sér umtalsverða ógn við grundvallarréttindi, öryggi og umhverfi. Þeir sem standa að slíkum kerfum verða að sanna fyrir yfirvöldum viðkomandi ríkis að þau fullnægi kröfum samkvæmt AIA áður en kerfin eru sett á markað eða tekin í notkun. Þá verður framleiðandi slíkra kerfa einnig að leggja fram ítarleg gögn um bakgrunn þeirra, gagnavinnslu, algóritma og aðgerðir til að minnka áhættu vegna kerfanna. Í gervigreindarkerfum sem skapa mikla áhættu verður að gera ráð fyrir að hafa megi mannlega umsjón með þeim til að tryggja að þau séu notuð á ábyrgan hátt og í samræmi við siðferðilegar grunnreglur.

Takmörkuð áhætta: Hér er um að ræða kerfi sem krefjast minni umsjónar vegna takmarkaðrar hættu á að þau ógni grundvallarréttindum, öryggi eða umhverfinu. Þótt umsjónarkrafan vegna kerfanna sé minni en þar sem mikil áhætta er tekin verða kerfi í þessum flokki að fullnægja ýmsum kröfum eins og um gagnsæi og að þau séu skýranleg.

Lágmarksáhætta: Hér er um að ræða kerfi sem skapa enga umtalsverða hættu fyrir grundvallarréttindi, öryggi eða umhverfið. Í AIA er ekki gert ráð fyrir að kerfi í þessum flokki sæti neinum sérstökum skilyrðum.

Næsta skref er að ESB-þingið og ráðherraráð ESB samþykki frumvarpið formlega. Þess er vænst að það gerist fyrri hluta árs 2024. Frumvarpið verður að lögum 20 dögum eftir það birtist í stjórnartíðindum ESB.

Að lokinni þeirri afgreiðslu verða löggjafarþing einstakra ríkja, þar á meðal alþingi, að taka afstöðu til ESB-laganna. AIA nær til allra sem standa að gervigreindargerð án tillits til þess hvar þeir hafa aðsetur vilji þeir að búnað þeirra eigi að nota á ESB/EES-svæðinu.

Alþjóðasamtökin CCIA sem koma fram fyrir hönd fyrirtækja eins og Facebook, Instagram og Apple segja að hraðinn virðist hafa vegið þyngra en gæðin við gerð þessa samkomulags á vettvangi ESB. Samkomulagið geti haft „hörmulegar afleiðingar fyrir evrópskan efnahag“.

Litið er til þessa frumkvæðis á vettvangi ESB um heim allan. Á sínum tíma mörkuðu persónuverndarreglur ESB þáttaskil til verndar einstaklingum í netheimum og urðu fyrirmynd t. d. í Bandaríkjunum. Hvort sama gerist vegna gervigreindar skýrist á árinu 2024.