“Kandydat woli, gdy decyzja o jego zatrudnieniu podejmowana jest przez człowieka, a nie przez sztuczną inteligencję” przeczytałem niedawno w jednym z komentarzy.

Czy na pewno?

Ostatni odcinek World Science Festival, o znamiennym tytule Outsourcing Humanity, omawiał postępy w rozwoju sztucznej inteligencji. Przedstawiono sukcesy i porażki, które pojawiają się w toku rozwoju tej technologii. Wśród sukcesów znalazły się m.in. obiecujące wyniki z zakresu wykrywalności raka piersi. Wśród porażek, spektakularne fiasco sztucznej inteligencji, testowanej w procesach rekrutacyjnych Amazon. Porażka Amazon wynikała z faktu zastosowania nieprawidłowo przygotowanych danych do nauki procesu podejmowania decyzji. Dane te pochodziły z historycznych procesów rekrutacyjnych, w których preferowanymi kandydatami byli kandydaci płci męskiej. Algorytm, ucząc się na takich danych, również preferował mężczyzn, co szybko wyszło na jaw i przerodziło się w głośną porażkę.

Moją szczególną uwagę zwrócił jednak przypadek zupełnie innej porażki, niezwiązanej bezpośrednio ze sztuczną inteligencją. Przypadek, którego analiza może wstrząsnąć wiarą w ludzki osąd, pochodzi z obszaru, który powinien być ostoją najbardziej trafnych decyzji, tj. z wymiaru sprawiedliwości.

W 2011 r. ukazało się badanie Amerykańskiej Akademii Nauk, w której ujawniono dość szokujące wyniki analizy orzeczeń sądowych w sprawach zwolnień warunkowych. Przebadano ponad 1000 orzeczeń wydanych w ciągu 10 miesięcy przez 8 doświadczonych sędziów. Z przeprowadzonych badań wynika, że najwyższe prawdopodobieństwo (65%) na uzyskanie pozytywnego rozstrzygnięcia sądu istniało tuż po… śniadaniu (nie, to nie jest dowcip). Prawdopodobieństwo to następnie stale malało i przed kolejnym posiłkiem było niemal równe zeru. Wynik badań prezentuje poniższy wykres: