Toolkit k implementácii EÚ zákona o umelej inteligencii a zohľadnenie práv osôb so zdravotným postihnutím

Zákon EÚ o umelej inteligencii nadobudol platnosť a členské štáty začínajú vypracúvať svoje vnútroštátne legislatívne rámce. Európske fórum osôb so zdravotným postihnutím (EDF) vydalo v októbri 2025 druhú aktualizovanú verziu toolkitu (na tomto odkaze nájdete strojový preklad do slovenčiny), ktorý je zameraný na podporu organizácií osôb so zdravotným postihnutím pri zavádzaní zákona EÚ o umelej inteligencii do praxe v ich krajine. Je určený predovšetkým členom EDF, no vyzýva všetky organizácie osôb so zdravotným postihnutím, aby presadzovali takú formu umelej inteligencie, ktorá zohľadňuje potreby osôb so zdravotným postihnutím. Toolkit vysvetľuje, ako prispieť k implementácii a monitorovaniu zákona a ako presadzovať práva a záujmy osôb so zdravotným postihnutím v oblasti umelej inteligencie (AI).

Toolkit vychádza zo zákona o umelej inteligencii, ktorý nadobudol platnosť v EÚ v auguste 2024. Hoci bol zákon prijatý, niektoré podrobnosti je ešte potrebné vyjasniť. Európska komisia vydáva usmernenia, ktoré dopĺňajú a objasňujú určité ustanovenia zákona. Môžu ovplyvniť niektoré oblasti dôležité pre osoby so zdravotným postihnutím. V takom prípade bude EDF toolkit ďalej aktualizovať.

Druhá verzia toolkitu bola aktualizovaná tak, aby zahŕňala najnovšie usmernenia a ďalšie dokumenty Európskej komisie týkajúce sa zákona, ktoré boli vydané od uverejnenia prvej verzie v októbri 2024. Ide o:

Čo toolkit obsahuje?

Toolkit ponúka podrobný prehľad EÚ zákona o umelej inteligencii, v ktorom sú zdôraznené dôležité časti týkajúce sa práv osôb so zdravotným postihnutím. Poskytuje praktické usmernenia na orientáciu v legislatívnom procese a navrhuje stratégie na účinnú advokáciu s cieľom zabezpečiť, aby sa zohľadnili záujmy osôb so zdravotným postihnutím pri tvorbe a vykonávaní národných politík v oblasti umelej inteligencie.

Toolkit je živým dokumentom a bude aktualizovaný o nové informácie, akonáhle budú k dispozícii. Ak budeme informovaní a budeme konať proaktívne, môžeme vytvoriť inkluzívny systém umelej inteligencie, ktorý bude slúžiť všetkým ľuďom, vrátane osôb so zdravotným postihnutím. Veríme, že spoločne zabezpečíme, aby EÚ zákon o umelej inteligencii bol implementovaný spôsobom, ktorý je priateľský k osobám so zdravotným postihnutím.

Prehľad kľúčových opatrení pre advokáciu na národnej úrovni

  1. Porozumieť legislatívnemu procesu a zapojiť sa do neho
    Členovia EDF by sa mali aktívne zapájať do legislatívneho procesu poskytovaním spätnej väzby a návrhov orgánom zodpovedným za implementáciu zákona o umelej inteligencii na národnej úrovni. To zahŕňa účasť na verejných konzultáciách, predkladanie stanovísk a spoluprácu s tvorcami politík s cieľom zabezpečiť, aby boli zohľadnené potreby a práva osôb so zdravotným postihnutím.
  2. Monitorovanie implementácie zákona o umelej inteligencii
    Členovia EDF by mali monitorovať implementáciu zákona o umelej inteligencii na národnej úrovni. To zahŕňa sledovanie toho, ako národné orgány uplatňujú ustanovenia zákona o umelej inteligencii, a zabezpečenie, aby systémy umelej inteligencie s vysokou mierou rizika spĺňali požiadavky prístupnosti. Od augusta 2026 môžu organizácie monitorovať databázu EÚ systémov umelej inteligencie s vysokým rizikom, aby identifikovali tie, ktoré sa používajú v ich členskom štáte. To môže pomôcť pri vytváraní partnerstiev s inými organizáciami chrániacimi základné práva, aby sa zhromažďovali dôkazy o systémoch, ktoré nefungujú, a poskytovali sa dozorným orgánom.
  3. Obhajovať prístupnosť a testovanie predsudkov umelej inteligencie
    Členovia EDF by mali presadzovať povinné požiadavky na prístupnosť systémov umelej inteligencie s vysokým rizikom, ako je stanovené v zákone o umelej inteligencii. To zahŕňa zabezpečenie toho, aby vývojári umelej inteligencie dodržiavali harmonizované európske normy týkajúce sa prístupnosti.
    Okrem toho by členovia EDF mali presadzovať dôkladné testovanie predsudkov vo vysoko rizikových systémoch umelej inteligencie, aby sa zabránilo diskriminácii osôb so zdravotným postihnutím. To zahŕňa zabezpečenie spoľahlivosti, bezpečnosti a objektívnosti údajov používaných na trénovanie, validáciu a testovanie týchto systémov.
  4. Zvyšovať povedomie a vzdelávať zainteresované strany
    Členovia EDF by mali prostredníctvom workshopov, seminárov a verejných kampaní zvyšovať povedomie o dôsledkoch zákona o umelej inteligencii pre osoby so zdravotným postihnutím. Je tiež dôležité poskytovať školenia a zdroje osobám so zdravotným postihnutím a ich rodinám, aby mohli hájiť svoje práva v kontexte umelej inteligencie.
  5. Využívanie práva na vysvetlenie
    Zákon o umelej inteligencii udeľuje jednotlivcom právo získať vysvetlenie od organizácií, ktoré používajú vysoko rizikové systémy umelej inteligencie, ak sa rozhodnutie týka ich práv alebo môže mať vplyv na ich zdravie, bezpečnosť alebo základné práva. Členovia EDF by mali informovať a podporovať osoby so zdravotným postihnutím pri uplatňovaní tohto práva.
  6. Spolupracujte s inými organizáciami, ktoré chránia základné práva
    Budovanie aliancií s inými organizáciami, ktoré chránia základné práva, ako sú napríklad pacientske organizácie, môže posilniť úsilie v oblasti obhajoby práv. Spoluprácou môžu členovia EDF zbierať svedectvá a poskytovať dozorným orgánom dôkazy o systémoch umelej inteligencie, ktoré nefungujú tak ako by mali.

Súvisiace odkazy

Slovník pojmov

Predsudky (v AI)

  • Význam: Keď systém umelej inteligencie nespravodlivo zvýhodňuje alebo znevýhodňuje určité skupiny ľudí na základe toho, ako bol vyškolený alebo aké údaje mu boli poskytnuté.
  • Príklad: AI je nástroj na nábor zamestnancov, ktorý často odmieta žiadosti ľudí so zdravotným postihnutím. Stáva sa to preto, že tréningové údaje stanovujú vlastnosti osôb bez zdravotného postihnutia ako ideálny štandard pre dobrého kandidáta na danú pozíciu.

Všeobecný model umelej inteligencie

  • Význam: Model umelej inteligencie, ktorý je trénovaný na veľkom množstve údajov a dokáže dobre vykonávať mnoho rôznych úloh. Model je základná technológia, ktorú je možné integrovať do rôznych aplikácií.
  • Príklad: GPT-4 je model umelej inteligencie vyvinutý spoločnosťou OpenAI, ktorý funguje ako základná technológia v iných aplikáciách, ako sú Be my AI a Microsoft Co-pilot.
  • Právna definícia (článok 3.63 Zákona o umelej inteligencii):
    „Všeobecný model umelej inteligencie znamená model umelej inteligencie, vrátane prípadov, keď je takýto model umelej inteligencie trénovaný na veľkom množstve údajov s využitím rozsiahlej samokontroly, ktorý vykazuje významnú všeobecnosť a je schopný kompetentne vykonávať širokú škálu rôznych úloh bez ohľadu na spôsob, akým je model umiestnený na trh, a ktorý možno integrovať do rôznych nadväzujúcich systémov alebo aplikácií, s výnimkou modelov umelej inteligencie, ktoré sa používajú na výskumné, vývojové alebo prototypové činnosti pred ich umiestnením na trh.“

Všeobecný systém umelej inteligencie

  • Význam: Systém umelej inteligencie, ktorý používa všeobecný model umelej inteligencie a môže sa používať na mnoho rôznych účelov, buď samostatne, alebo ako súčasť iných systémov umelej inteligencie.
  • Príklad: Aplikácia Be my AI je systém umelej inteligencie, ktorý používa všeobecný model umelej inteligencie s názvom GPT-4 na popis obrázkov pre nevidiacich ľudí.
  • Právna definícia (Zákon o umelej inteligencii, článok 3.66):
    „Všeobecný systém umelej inteligencie znamená systém umelej inteligencie, ktorý je založený na všeobecnom modeli umelej inteligencie a ktorý má schopnosť slúžiť na rôzne účely, a to ako na priame použitie, tak aj na integráciu do iných systémov umelej inteligencie.“

Vysoko riziková umelá inteligencia

  • Význam: Systémy umelej inteligencie, ktoré môžu mať významný vplyv na životy ľudí, napríklad systémy používané pri prijímaní zamestnancov, v zdravotníctve alebo pri presadzovaní práva.
  • Príklad: Umelá inteligencia, ktorá rozhoduje o tom, či niekto dostane úver.

Nízko riziková umelá inteligencia

  • Význam: Systémy umelej inteligencie s minimálnym vplyvom na životy ľudí, ako napríklad tie, ktoré sa používajú vo videohrách alebo pri filtrovaní spamu.

Zdroj: EDF

Preklad a úprava: Stanislav Sokol