Let a man recruit me

Maciej Michalewski

A candidate prefers to be recruited by a man rather than artificial intelligence.” I recently read in a Facebook comment.

Are you sure?

The last episode of the World Science Festival, with a meaningful title Outsourcing Humanity, discussed progress in the development of artificial intelligence. The episode presents the successes and failures that arise during the development of this technology. Among the successes were promising results in the detection of breast cancer. Among the failures, the spectacular fiasco of artificial intelligence tested in Amazon recruitment processes. The reasons for Amazon’s failure resulted from the fact that incorrectly prepared data was used to learn AI algorithms. These data concerned historical recruitment processes in which male candidates were the preferred candidates. The algorithm, learning from such data, also preferred men, which quickly came to light and a spectacular failure became a fact.

However, my special attention was drawn to the case of a completely different failure, not directly related to artificial intelligence.

A case, whose analysis can shake the faith in human judgment, comes from an area that should be the backbone of the most accurate and just decisions – the justice system.

In 2011, a study by the American Academy of Sciences was published, which revealed quite shocking results of the analysis of court decisions in parole cases. More than 1,000 judgments issued within ten months by eight experienced judges were examined. The research shows that the highest probability (65%) of obtaining a positive court decision was immediately after breakfast (its not a joke). This probability was then constantly decreasing, and before the next meal, it was almost zero. The result of the research is presented in the chart below:

Korzystne decyzje

As you can see, before the break for „second breakfast” and lunch, there is little chance for a positive court decision. Right after the meal, the chance reaches its maximum. I wouldn’t have believed this research if I hadn’t seen it in a credible scientific program, and then I wouldn’t have reached the sources at the American Academy of Sciences (https://www.pnas.org/content/108/17/6889.full). The conclusion of the study was the following:

Indeed, the caricature that justice is what the judge ate for breakfast might be an appropriate caricature for human decisionmaking in general.

Analyzing the above, I remembered a comment about a candidate who prefers to be hired by a man rather than artificial intelligence. However, since court decisions may be so susceptible to factors unrelated to the subject matter of the case and to the exercise of the profession of judge in general, can we expect guarantees of objective, fair decisions from a modest recruiter?

This question is a good introduction to further reflection on the use of artificial intelligence in recruitment. This, as well as the development of Artificial Intelligence algorithms in the Element recruitment system, will be discussed in subsequent posts on our ATS blog.

Related posts:

Hashtags# artificial intelligence AI recruitment ATS applicant tracking system Element

Maciej Michalewski

Maciej Michalewski

CEO @ Element. Recruitment Automation Software

Recent posts:

We’ve made a video about our new app!

The Element team has recently participated in making a video – realized by Rewi Studio – which will promote our new application! This video will be used as part of the #AplikacjeJutraPFR competition organized by the Polish Development Fund.

READ MORE »

Hiring during the COVID-19 crisis

For the needs of the Rzeczpospolita newspaper, we provided datas from our Element recruitment system. They were obtained through constant monitoring of job offers, which are published on over fifty of the most popular portals in Poland.

READ MORE »

Niech rekrutuje mnie człowiek

Maciej Michalewski
23 lutego 2020

Kandydat woli, gdy decyzja o jego zatrudnieniu podejmowana jest przez człowieka, a nie przez sztuczną inteligencję” przeczytałem niedawno w jednym z komentarzy.

Czy na pewno?

Ostatni odcinek World Science Festival, o znamiennym tytule Outsourcing Humanity, omawiał postępy w rozwoju sztucznej inteligencji. Przedstawiono sukcesy i porażki, które pojawiają się w toku rozwoju tej technologii. Wśród sukcesów znalazły się m.in. obiecujące wyniki z zakresu wykrywalności raka piersi. Wśród porażek, spektakularne fiasco sztucznej inteligencji, testowanej w procesach rekrutacyjnych Amazon. Porażka Amazon wynikała z faktu zastosowania nieprawidłowo przygotowanych danych do nauki procesu podejmowania decyzji. Dane te pochodziły z historycznych procesów rekrutacyjnych, w których preferowanymi kandydatami byli kandydaci płci męskiej. Algorytm, ucząc się na takich danych, również preferował mężczyzn, co szybko wyszło na jaw i przerodziło się w głośną porażkę.

Moją szczególną uwagę zwrócił jednak przypadek zupełnie innej porażki, niezwiązanej bezpośrednio ze sztuczną inteligencją. Przypadek, którego analiza może wstrząsnąć wiarą w ludzki osąd, pochodzi z obszaru, który powinien być ostoją najbardziej trafnych decyzji, tj. z wymiaru sprawiedliwości.

W 2011 r. ukazało się badanie Amerykańskiej Akademii Nauk, w której ujawniono dość szokujące wyniki analizy orzeczeń sądowych w sprawach zwolnień warunkowych. Przebadano ponad 1000 orzeczeń wydanych w ciągu 10 miesięcy przez 8 doświadczonych sędziów. Z przeprowadzonych badań wynika, że najwyższe prawdopodobieństwo (65%) na uzyskanie pozytywnego rozstrzygnięcia sądu istniało tuż po… śniadaniu (nie, to nie jest dowcip). Prawdopodobieństwo to następnie stale malało i przed kolejnym posiłkiem było niemal równe zeru. Wynik badań prezentuje poniższy wykres:

Korzystne decyzje

Jak widać, przed przerwą na “drugie śniadanie” oraz lunch, szansa na pozytywne rozstrzygnięcie sądu jest nikła. Tuż po posiłku szansa osiąga swój maksymalny poziom. Nie dałbym wiary tym badaniom, gdybym nie zobaczył ich w wiarygodnym programie naukowym, a następnie nie dotarłbym do źródeł w Amerykańskiej Akademii Nauk (https://www.pnas.org/content/108/17/6889.full). W konkluzji badania pojawiło się następujące stwierdzenie:

Indeed, the caricature that justice is what the judge ate for breakfast might be an appropriate caricature for human decisionmaking in general.”

Analizując powyższe przypomniałem sobie komentarz o kandydacie, który preferuje, by decyzję o jego zatrudnieniu podejmował człowiek, a nie sztuczna inteligencja. Skoro jednak orzeczenia sądu mogą być tak bardzo podatne na czynniki niezwiązane z przedmiotem sprawy i w ogóle z wykonywaniem zawodu sędziego, to czy możemy oczekiwać gwarancji obiektywnych, sprawiedliwych decyzji od skromnego rekrutera?

To pytanie jest dobrym wstępem do dalszych przemyśleń na temat wykorzystania algorytmów w rekrutacji. O tym właśnie, a także o rozwoju sztucznej inteligencji w ATS Element, będziemy pisać w kolejnych postach na naszym blogu.

Posty powiązanie:

#hashtags# AI sztuczna inteligencja rekrutacja ATS system rekrutacyjny Element

Maciej Michalewski

Maciej Michalewski

CEO @ Element. Recruitment Automation Software

Ostatnie wpisy:

Sztuczna Inteligencja - ciekawostki z Estonii

Sztuczna inteligencja w Estonii? Gdy przeczytałem na portalu Wired tytuł artykułu „Can AI Be a Fair Judge in Court? Estonia Thinks So” to pomyślałem sobie „Aha!”. Przecież raptem kilka tygodni temu rozmawiałem z prawnikiem mojej kancelarii o pomyśle opracowania sztucznej inteligencji dla biznesu prawniczego!

Estonia jest krajem bardzo mocno rozwiniętym technologicznie. Ciekawostki opisane w omawianym artykule są tego świetnym przykładem.

Sędzia, który jest sztuczną inteligencją

Pierwszą z nich jest tytułowy sędzia, którym ma być sztuczna inteligencja.  Ministerstwo Sprawiedliwości Estonii oficjalnie zainicjowało pracę nad stworzeniem sztucznej inteligencji, której zadaniem będzie rozstrzyganie spraw o wartości przedmiotu sporu nie przekraczającej 7000 Euro. Inicjatywa Ministerstwa pojawiła się na skutek niemożności uporania się przez sądy z narastającą ilością spraw. Strony takich sporów będą wgrywać dokumenty do systemu. Z kolei od rozstrzygnięć, wydawanych przez sztuczną inteligencję, będzie można odwoływać się do sędziego, takiego z krwi i kości.

Sztuczna inteligencja kontroluje rolników

Rolnicy w Estonii otrzymują dotacje na sianokosy. Skoro są dotacje to i są kontrole. Kontrole rolników nie przeprowadza jednak człowiek, tylko sztuczna inteligencja. Satelita fotografuje pola a fotografię analizuje specjalny algorytm, który piksel po pikselu sprawdza obraz i stwierdza, czy koszenie miało miejsce czy też nie. Ludzka kontrola odbywa się tylko w przypadkach wątpliwych, gdy np. wypas bydła spowodował, że zdjęcie jest dla algorytmu w jakimś fragmencie nieczytelne. Dodatkowo dwa tygodnie przed ostatecznym terminem koszenia system automatycznie wysyła do rolników objętych dotacją informacje tekstową lub e-mailową ze zdjęciami satelitarnymi ich pól i przypomnieniem o obowiązku koszenia.

System do rekrutacji ATS

Kolejny przykład wykorzystania sztucznej inteligencji jest już ściśle związany z branża HR, a także z funkcjonalnością, nad którą pracujemy w ATS Element. Estonia wdrożyła system analizy CV osób, które straciły pracę. Analiza CV ma na celu przyporządkowanie poszczególnych profili do poszczególnych ofert pracy (to jest dokładnie ten proces, nad którym pracujemy w naszym systemie rekrutacyjnym Element ATS). 

Estońskie rozwiązanie i wykorzystanie sztucznej inteligencji przyniosło już wymierne rezultaty – osoby, które uzyskały nową prace dzięki systemowi, utrzymują tę pracę przez 6 pierwszych miesięcy częściej (72%), niż osoby, które uzyskały pracę w sposób tradycyjny (58%). Czy to jest zatem przyszłość również polskich urzędów pracy? Czy to jest przyszłość branży HR w ogóle? 

Pisałem na ten temat więcej w artykule „O automatyzacji i dehumanizacji procesów rekrutacyjnych„. W mojej ocenie – tak, jest to z pewnością przyszłość, nie mam co do tego jakichkolwiek wątpliwości. Nie sądzę jednak, aby była to przyszłość najbliższych lat. Owszem, będą powstawać takie systemy jak nasz ATS, w których śmiało sięga się po innowacyjne rozwiązania i sztuczną inteligencję, niemniej jednak do algorytmów samodzielnie prowadzących procesy rekrutacyjne jeszcze daleko. Warto jednak być świadomy kierunku, w jakim te zmiany idą, oraz faktu, że są to zmiany nieuniknione, na co wskazują choćby ciekawostki z Estonii.

#hashtags# sztuczna inteligencja AI rekrutacja system rekrutacyjny ATS Element

Maciej Michalewski

Maciej Michalewski

CEO @ Element. Recruitment Automation Software

Ostatnie wpisy: