V uplynulom období prebehla v Európskom parlamente diskusia o nariadení, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (Akt o umelej inteligencii).
Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže priniesť široké spektrum hospodárskych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach. Rovnako však so sebou môže priniesť aj nové riziká alebo negatívne dôsledky pre jednotlivcov či spoločnosť.
Návrhom tohto nariadenia sa plní politický záväzok predsedníčky Ursuly von der Leyenovej, ktorá vo svojich politických usmerneniach pre Komisiu na roky 2019 – 2024 s názvom Ambicióznejšia Únia oznámila, že Komisia predloží právne predpisy o koordinovanom európskom prístupe k ľudským a etickým dôsledkom umelej inteligencie. Návrh je reakciou aj na výslovné žiadosti Európskeho parlamentu a Európskej rady, ktoré opakovane vyzývali na legislatívne opatrenia na zabezpečenie dobre fungujúceho vnútorného trhu so systémami umelej inteligencie, kde sa výhody aj riziká umelej inteligencie primerane riešia na úrovni Únie.
Systémy umelej inteligencie môžu vytvárať značné prekážky z dôvodu ich neprístupnosti, čím budú diskriminovať osoby so zdravotným postihnutím. Nielen Európske fórum osôb so zdravotným postihnutím (EDF) je v tejto súvislosti znepokojené. Spravodajca OSN pre zdravotné postihnutie Gerard Quinn vo svojej správe uvádza, že osoby so zdravotným postihnutím nebudú mať šancu dobehnúť vývoj, ak sa prístupnosť v tejto oblasti nebude uplatňovať od začiatku.
EDF v roku 2023 prijalo rezolúciu k Aktu EÚ o umelej inteligencii (s cieľom podporiť začlenenie osôb so zdravotným postihnutím), v ktorej okrem svojich obáv súvisiacich s prístupnosťou podrobne formuluje aj požiadavky týkajúce sa zákona o umelej inteligencii. Zdôrazňuje, že umelá inteligencia je rozvíjajúca sa technológia, ktorá sa dostala do rôznych oblastí nášho života ako sú personalizované odporúčania online, virtuálni osobní asistenti, chatboti, technológie prevodu reči na text a aplikácie počítačového videnia, a že aplikácie založené na nej sa využívajú aj vo verejných a súkromných službách vrátane oblastí sociálnej politiky, zdravotnej starostlivosti, poisťovníctva, bankovníctva, vzdelávania a zamestnanosti.
Pripomína, že umelá inteligencia môže podporovať sociálne začlenenie osôb so zdravotným postihnutím, ak sa bude vyvíjať s prístupom „dizajn pre všetkých“ a používať spôsobom, ktorý rešpektuje právo na nediskrimináciu, rovnosť a súkromie.
Vyjadruje znepokojenie nad faktom, že osoby so zdravotným postihnutím sú vystavené zvýšenému riziku, že sa stanú obeťami podvodu alebo dezinformácií v dôsledku nesprávneho používania umelej inteligencie, a obmedzovania ich sebaurčenia.
Zdôrazňuje, že riešenia umelej inteligencie, ktoré nie sú navrhnuté s ohľadom na ľudskú rozmanitosť, môžu ďalej zvyšovať vylúčenie a diskrimináciu už znevýhodnených skupín ako sú osoby so zdravotným postihnutím, ale aj ženy, rasové a etnické menšiny a staršie osoby.
Konštatuje, že v Stratégii EÚ pre práva osôb so zdravotným postihnutím na roky 2021 – 2030 sa uznáva, že zrýchlená digitálna transformácia a ekologický prechod ponúkajú príležitosti, pričom sa využívajú informačné a komunikačné technológie (IKT), umelá inteligencia a robotika na navrhovanie služieb na mieste a na diaľku prispôsobených potrebám osôb so zdravotným postihnutím. Účinné využívanie týchto technológií si však vyžaduje odstránenie prekážok prístupnosti pre osoby so zdravotným postihnutím a investície do ich digitálnych zručností.
Víta rozhodnutie Európskej komisie navrhnúť právny predpis EÚ – Akt o umelej inteligencii – na reguláciu používania umelej inteligencie v rizikových kategóriách a zároveň sa obáva, že návrh dostatočne nezahŕňa a nechráni práva osôb so zdravotným postihnutím.
Preto predsedníctvo EDF vyzýva inštitúcie Európskej únie k nasledujúcim krokom.
- Plniť svoje záväzky vyplývajúce z Dohovoru o právach osôb so zdravotným postihnutím a zabezpečiť, aby osoby so zdravotným postihnutím mohli využívať prístupné a cenovo dostupné technológie umelej inteligencie, ktoré podporujú ich spoločenské a ekonomické začlenenie a nezávislý život, a aby systémy umelej inteligencie zavedené v EÚ a na celom svete rešpektovali práva osôb so zdravotným postihnutím na nediskrimináciu, rovnosť, sebaurčenie a súkromie.
- Prijať navrhované nariadenie EÚ o umelej inteligencii, ktorým sa zabezpečí, aby systémy umelej inteligencie bez ohľadu na úroveň rizika podliehali povinným požiadavkám na prístupnosť.
- Uznať nadmerné riziko pre práva osôb so zdravotným postihnutím v oblastiach, ktoré sú v navrhovanom zákone o umelej inteligencii označené ako vysoko rizikové, ako je biometrická identifikácia, prístup k vzdelávaniu, zamestnaniu, súkromným a verejným službám, presadzovanie práva, migrácia a hraničná kontrola a výkon spravodlivosti.
- Rozšíriť zoznam zakázaných spôsobov použitia systémov umelej inteligencie, aby zahŕňal najmä:
- Biometrická identifikácia a kategorizácia fyzických osôb.
- Systémy umelej inteligencie, ktoré určujú možnosti jednotlivcov získať prístup k vzdelaniu a zamestnaniu.
- Prístup k základným službám a výhodám, vrátane poskytovania zdravotnej starostlivosti a pohotovostných služieb, a ich využívanie.
- Používanie umelej inteligencie orgánmi činnými v trestnom konaní.
- Využitie pri riadení migrácie, azylu a hraničnej kontroly.
- Zabezpečiť, aby nariadenie chránilo súkromie a údaje všetkých osôb so zdravotným postihnutím vrátane osôb s mentálnym a psychosociálnym postihnutím a osôb, na ktoré sa vzťahuje náhradné rozhodovanie ako napríklad opatrovníctvo, keď sa ich údaje spracúvajú v systémoch umelej inteligencie.
- Zaviesť účinné opatrenia, aby boli fyzické osoby vrátane osôb so zdravotným postihnutím informované o zhromažďovaní ich údajov a aby mali možnosť informovať sa o spracovaní takýchto údajov a vzniesť proti nemu námietku.
- Zakázať používať umelú inteligenciu na rozpoznávanie emócií s výnimkou presne vymedzených výskumných účelov, ktoré podliehajú zárukám ochrany súkromia vrátane informovaného súhlasu a možnosti subjektov výskumu vzniesť námietky. Takéto záruky by mali spĺňať aj asistenčné technológie na rozpoznávanie emócií založené na umelej inteligencii.
- Zabezpečiť ochranu základných práv jednotlivcov v súvislosti s používaním umelej inteligencie vrátane opatrení na oznamovanie problémov, podávanie sťažností a uplatňovanie prostriedkov nápravy v prípade zneužitia.
- Podporovať rozvoj umelej inteligencie, ktorý zahŕňa zmysluplnú účasť odborníkov so zdravotným postihnutím, odborníkov na prístupnosť a iných nositeľov práv prostredníctvom finančných a iných stimulov.
- Prijať opatrenia na podporu rozvoja umelej inteligencie v prospech ľudí a spoločnosti, pričom sa zohľadnia potreby rôznych komunít vrátane osôb so zdravotným postihnutím.
- V súlade s článkom 4 ods. 3 Dohovoru o právach osôb so zdravotným postihnutím úzko konzultovať a aktívne zapájať osoby so zdravotným postihnutím prostredníctvom ich reprezentatívnych organizácií do vypracúvania, vykonávania a monitorovania európskych a vnútroštátnych politík v oblasti umelej inteligencie.
Takéto ustanovenia, ktoré sa v návrhu Európskej komisie nenachádzajú, sú nevyhnutné na zabezpečenie toho, aby osoby so zdravotným postihnutím nezostali nenapraviteľne pozadu počas procesu digitálnej transformácie.
Pred kľúčovým hlasovaním v Európskom parlamente vyzvalo EDF poslancov parlamentných výborov pre občianske slobody a vnútorný trh, aby presadili, že pozícia parlamentu bude obsahovať požiadavky na prístupnosť systémov a produktov umelej inteligencie pre osoby so zdravotným postihnutím a v takom znení bude návrh nariadenia predložený na finálne rozhodovanie.
Red.