AI pomoże w norweskiej służbie zdrowia, ale może… dyskryminować kobiety

Według raportu sporządzonego przez CARE Norge i PA Consulting przez IA w norweskiej służbie zdrowia kobiety mogą otrzymywać słabsze usługi z powodu dyskryminacji płci.

W norweskim sektorze opieki zdrowotnej istnieje wiele możliwości wykorzystania sztucznej inteligencji w celu poprawy usług i zwiększenia efektywności zasobów. Obecnie istnieje gros projektów badających, jak wykorzystać nową technologię w przypadku pacjentów, na przykład w profilaktyce i diagnostyce chorób.

Według Sintef i NTNU dzięki sztucznej inteligencji roboty mają potencjał wykonywania na przykład dokładnych badań ultrasonograficznych, co może przynieść znaczne korzyści przeciążonemu systemowi opieki zdrowotnej. Zrobotyzowane USG może zapewnić dodatkową pomoc w gromadzeniu danych, zwiększając w ten sposób zdolność szpitala do obsługi większej liczby pacjentów. Ponadto przyda się w standaryzacji badań i ułatwi porównywanie pomiarów, co może usprawnić obserwację i przebieg leczenia pacjenta.

Robot ultradźwiękowy może teoretycznie automatycznie interpretować obrazy i inne dane z czujników oraz poruszać się w oparciu o tę interpretację. Umożliwia to uzyskanie stabilnych i wyśrodkowanych obrazów ultrasonograficznych organów w ruchu, co może być bardzo przydatne.

Jak więc będą wyglądać te roboty i co będą robić? Zrobotyzowany system składa się z ramienia wyposażonego w sondę ultradźwiękową oraz algorytmów sztucznej inteligencji, które są wyszkolone w rozpoznawaniu narządów na obrazie ultrasonograficznym i śledzeniu go, poruszając sondą w czasie rzeczywistym. To jednak póki co tylko wizja, bo realizacja projektu trwa, a roboty trzeba wiele nauczyć.

To jednak tylko przykład problemów, jakie niesie za sobą “współpraca” z AI w norweskiej służbie zdrowia. We wspomnianym raporcie CARE i PA analiza językowa i analiza obrazu są wyszczególnione jako przykłady obszarów, w których sztuczna inteligencja jest obecnie wykorzystywana. Diabeł tkwi jednak w danych.

Jednym z największych wyzwań, na które wskazuje badanie, jest to, że bazy danych i algorytmy mogą zawierać szereg niedopracowań prowadzących do… dyskryminacji poszczególnych grup pacjentów. 
— W kilku krajach wykryto przypadki zastosowań sztucznej inteligencji, które doprowadziły do ​​niepożądanej dyskryminacji ze względu na płeć, i istnieją powody, by sądzić, że może się to również zdarzyć w norweskiej służbie zdrowia, jeśli kwestie te nie zostaną odpowiednio rozwiązane — mówi kierowniczka PA Consulting, Grete Kvernland-Berg.

Sześć zaleceń zawartych w raporcie dotyczy przejrzystości i podnoszenia świadomości na temat uprzedzeń ze względu na płeć zarówno podczas opracowywania, jak i użytkowania AI w medycynie. Według Georgsen sztuczna inteligencja, która nie utrwala schematów dyskryminacji, może stać się potężnym narzędziem w kwestii walki o równość płci.

Główne ustalenia raportu zakładają, że brakuje świadomości i zrozumienia uprzedzeń ze względu na płeć wśród dostawców rozwiązań AI dla norweskiego sektora opieki zdrowotnej, bo niewiele firm stosuje ramy etyczne przy opracowywaniu nowych technologii. Nabywcy zaś pewnego stopnia przyjmują za pewnik, że oznakowanie CE świadczy o dobrej jakości danego rozwiązania.

Zgodnie z raportem algorytmom AI brakuje przejrzystości, przez co wykrycie uprzedzeń ze względu na płeć może być utrudnione. Nie podaje on jednak konkretnych przykładów.

CARE, forskersonen.no, europa.eu