Redakcja
Problem jest złożony. Osoby z niepełnosprawnościami napotykają bariery nie tylko jako użytkownicy końcowi systemów AI, ale także jako potencjalni twórcy i osoby zaangażowane w ich rozwój. Standardy proponowane przez kanadyjską instytucję wskazują, że ważne jest podejście całościowe, począwszy od etapu projektowania, przez wdrożenie, aż po ewaluację.
Weźmy prosty przykład, którym jest system rozpoznawania mowy. Dla większości użytkowników działa on sprawnie, ale może zawodzić w przypadku osób z zaburzeniami mowy. Nowe wytyczne sugerują, że zamiast akceptować takie ograniczenia, powinniśmy projektować systemy z myślą o różnorodności sposobów komunikacji. Innym interesującym aspektem dokumentu jest zwrócenie uwagi na tzw. dyskryminację statystyczną. Systemy AI są trenowane na danych reprezentujących "przeciętnego" użytkownika, a w rezultacie osoby odstające od tej średniej (w tym osoby z niepełnosprawnościami) mogą doświadczać systematycznego wykluczenia. Przykładowo, algorytmy rekrutacyjne mogą nieświadomie dyskryminować kandydatów z niepełnosprawnościami, których ścieżki kariery często odbiegają od typowych wzorców.
Dokument proponuje konkretne rozwiązania. Jednym z nich jest wymóg, by organizacje oferowały alternatywne ścieżki dostępu do usług nie jako gorszy substytut, ale jako równoważną opcję. To oznacza, że jeśli bank wdraża system AI do obsługi klienta, musi zapewnić równie skuteczną i szybką obsługę dla osób, które z różnych powodów nie mogą efektywnie korzystać z rozwiązań automatycznych. Ważne są też zalecenia dotyczące monitorowania i ewaluacji systemów AI. Kanadyjskie standardy podkreślają, że nawet pozornie niewielkie problemy mogą kumulować się, tworząc poważne bariery dla osób z niepełnosprawnościami, dlatego organizacje powinny regularnie badać wpływ swoich systemów AI nie tylko pod kątem oczywistych defektów, ale także subtelniejszych form wykluczenia.
Dużą rolę odgrywają edukacja i szkolenia. Nie wystarczy stworzyć dostępny system, trzeba również zadbać o to, by osoby z niepełnosprawnościami miały możliwość uczestniczenia w jego rozwoju i doskonaleniu, a to oznacza dostępne materiały szkoleniowe, inkluzywne środowiska programistyczne i otwarte ścieżki kariery w sektorze AI.
Standardy kanadyjskie mogą służyć jako model dla innych krajów. Choć dokument ma charakter przewodnika, a nie prawa, ma on predyspozycje do tego, by wpłynąć na rozwój systemów AI. Firmy technologiczne coraz częściej dostrzegają bowiem, że wykluczanie jakiejkolwiek grupy użytkowników po prostu się nie opłaca.
