Aðgerðaáætlun um gervigreind 2024-2026

ÖBÍ réttindasamtök fagna framtaki ráðherra og þeirri vinnu sem lögð hefur verið í þessa aðgerðaráætlun. Við erum sammála ráðherra um nauðsyn þess að ríkið stígi af krafti inn í þá þróun sem nú á sér stað á sviði gervigreindar. Við fögnum því enn fremur að notast hafi verið við heimsmarkmið Sameinuðu þjóðanna í þróun áætlar innar, en þessi umsögn er unnin út frá samningi Sameinuðu þjóðanna um réttindi fatlaðs fólks (SRFF) sem við teljum vera mjög mikilvægt verkfæri inn í þessa vinnu.

Stafrænt aðgengi

Þegar rætt er um gervigreind í samhengi við SRFF er 9. gr. um aðgengi, líklega ein sú mikilvægasta. Greinin leggur áherslu á að fatlað fólk eigi jafnan rétt til aðgengis að umhverfi sínu, samgöngum, upplýsingatækni og öðrum þjónustum. Gervigreind býður upp á gífurleg tækifæri til að valdefla og auka aðgengi en getur líka verið hindrun. Allt eftir því hvernig haldið er á málum. Það er því grundvallaratriði að Ísland innleiði sem fyrst þá aðgengislöggjöf sem almennt er í gildi á evrópska efnahagssvæðinu og tryggir aðgengi fólks með fötlun að stafrænu umhverfi (EU) 2016/2102 og (EU) 2019/882.

Gervigreind er í auknum mæli hluti af upplýsingatækni, sem er lykilatriði fyrir samskipti, atvinnu, menntun og fleira. Að tryggja að gervigreindartól séu aðgengileg hjálpar til við að brúa bilið fyrir fatlað fólk, til dæmis þá sem eru sjón- eða heyrnarskertir. Samræmi við 9. gr. SRFF þýðir að hönnun þessara kerfa með aðgengi fyrir öll að leiðarljósi er grundvallaratriði. Þá má benda á 21. gr. SRFF um tjáningarfrelsi og aðgengi að upplýsingum, sem tengist hlutverki gervigreindar í að skapa aðgengilegar samskiptaleiðir og miðlun upplýsinga.

Um sjálfstætt líf er að finna í 19. gr. SRFF, en vel hönnuð gervigreind getur eflt sjálfstæði með því að styðja við dagleg verk, hreyfanleika og sjálfstæða tilveru – sem er meginregla SRFF. Til dæmis geta gervigreindarknúin hjálpartæki aðstoðað fólk með skerta hreyfigetu við að framkvæma dagleg verk sjálfstætt eða tryggja þeim öryggi á ferð og flugi. Þá má benda á 24. gr. um menntun, þar sem gervigreind getur stuðlað að aðgengilegum námsvettvangi og gert skólaumhverfi án aðgreiningar að veruleika.

Siðferði og mannréttindi

Áherslan á aðgengi í SRFF má tengja víð almennar áhyggjur af siðferði í þróun gervigreindar. Margir siðferðilegir þættir, eins og sanngirni, gagnsæi og ábyrgð, skipta sérstaklega miklu máli fyrir fatlað fólk, sem getur orðið fyrir hlutfallslega meiri áhrifum af hlutdrægum eða ógegnsæjum viðmiðum. Þá má benda á 12. gr. um jafna viðurkenningu fyrir lögum, sem á við um gervigreind í ákvarðanatökukerfum og tryggir sjálfræði fólks með fötlun í lagalegum og persónulegum málum.

Rétt eins og flestir alþjóða sérfræðingar í gervigreind, leggur ÖBÍ áherslu á að eitt helsta sóknarfæri hennar sé að jafna kjör fólks með skerðingu. Það eru því gríðarlegir hagsmunir í húfi fyrir fatlað fólk og þann hóp fólks sem tilheyrir aðildarfélögum ÖBÍ. ÖBÍ telur það borðliggjandi að aðildarfélög ÖBÍ og tæknifólk þeirra komi að þessu starfi innan flestra ráðuneyta og stofnana og sem dæmi má nefna eftirfarandi aðgerðir:

A.1. Vettvangur fyrir gervigreind:

Það er algjört lykilatriði að ÖBÍ sé hluti af þróun þessa vettvangs til að tryggja að tækifærin sem í honum felast verði nýtt til fullnustu.

B.1. Skýrsla um efnahagsleg áhrif gervigreindar:

Það er einnig nauðsynlegt að ÖBÍ taki þátt í þessari vinnu og að sjónarmið okkar hóps verði miðlæg í áherslum skýrslunnar. Við þurfum áreiðanleg gögn sem geta stutt við áherslur líkt og menntun og virkni á vinnumarkaði og hlutverk gervigreindar í slíkri þróun.

B.2 Aukin almenn þekking og færni í gervigreind og gagnalæsi:

Fatlað fólk er, samkvæmt rannsóknum, viðkvæmari fyrir ofbeldi og misnotkun, en slíkar ógnir hafa margfaldast með tilkomu gervigreindar. Það þarf því að huga vel að fötluðu fólki í þessari aðgerð.

C.1. Innleiðing gervigreindarlausna í íslenskt menntakerfi:

Hér er mikilvægt að hagsmunasamtök og aðilar á borð við TMF Tölvumiðstöð séu með í ráðum, svo sóknarfæri í menntamálum fatlaðs fólks séu fullnýtt og komi raunverulega að gagni.

C.3. Gervigreind og stafræn borgaravitund í kennslu og námi:

Líkt og í aðgerðum B.2 og C.1 eru hagsmunir fatlaðs fólks mjög miklir þegar kemur að þessum áherslum og því eðlilegt að samtök þeirra sitji með við borðið.

D: Nýjar leiðir í opinberum rekstri:

Hér þarf að slá almennan varnagla og tryggja aðkomu hagsmunasamtaka fatlaðs fólks. Það eru mikil tækifæri hér, en líka margar áskoranir, hvað varðar skekkju í gögnum, stafrænt aðgengi og færni einstaklinga. Oft hefur innleiðing nýrra opinbera stafrænna lausna orðið til að útiloka fatlað fólk – vegna hönnunargalla, það má ekki endurtaka sig. Auk þess eru mjög erfið dæmi erlendis frá um innleiðingu gervigreindar í opinberum kerfum sem orðið hefur til þess að magna upp fordóma gegn fötluðu fólki, vegna skorts á góðum gögnum. Það er lykilatriði að hagsmunasamtök fatlað s fólks verði með á öllum stigum í þessari þróun.

E.2. Tækifæri og hindranir við innleiðingu gervigreindar í heilbrigðiskerfinu:

Sama á við um þessa aðgerð. Hér eru mikil tækifæri til þess að auka skilvirkni og þjónustu í heilbrigðiskerfinu. En samtök fatlaðs fólks þurfa að vera með frá upphafi til þess að tryggja að réttar áherslur skili sér inn í starfið.

Að lokum vill ÖBÍ ítreka ánægju með þessa aðgerðaráætlun og áherslu hennar á mannréttindi og þarfir ólíkra hópa og hvetja ráðherra til þess að tryggja að þær áherslur skili sér alla leið.

Ekkert um okkur án okkar. 

Með vinsemd og virðingu,

Alma Ýr Ingólfsdóttir
formaður ÖBÍ

Rósa María Hjörvar
stafrænn verkefnastjóri ÖBÍ

Aðgerðaáætlun um gervigreind 2024-2026
Mál nr. S-223/2024. Háskóla-, iðnaðar- og nýsköpunarráðuneytið
Umsögn ÖBÍ, 21. nóvember 2024

Umsögn ÖBÍ réttindasamtaka (ÖBÍ) um aðgerðaáætlun um gervigreind