Tajemnicze wypowiedzi robotów i niedawna rezygnacja Amazona z rekrutacji wspartej przez sztuczną inteligencję pokazują coś dziwnego. Albo AI faktycznie tworzy własną świadomość o nieco „nieludzkiej” charakterystyce, albo też za wszystko odpowiedzialne są ludzkie wady i przywary nieświadomie przenikające do algorytmów…
Oto Sophia – sztuczny mózg prowadzący swobodne rozmowy, który wygłosił swego czasu przestrogę, że roboty zniszczą całą ludzkość. Na władzach Arabii Saudyjskiej zrobiło to tak wielkie wrażenie, że urodziwa androidka dostała obywatelstwo tego kraju, czyli status obywatela. W sieci znaleźć można sporo osobliwych oświadczeń różnej maści sztucznych inteligencji, które brzmią dość niepokojąco. A tymczasem całkiem niedawno ogłoszono, że Amazon wycofuje się z projektu stworzenia narzędzia sztucznej inteligencji, aby pomóc w zatrudnianiu. Podobno plany spaliły na panewce, gdyż firma odkryła, że system dyskryminuje kobiety. Przedsięwzięcie Amazona rozpoczęto jeszcze w 2014 roku w szkockim. Firma stworzyła aż 500 modeli komputerowych, które przeszukiwały życiorysy poprzednich kandydatów w poszukiwaniu 50 tys. słów kluczowych. Zapewne chodziło o to, by komputer sam rekrutował najlepszych kandydatów. Jednak już rok później inżynierowie zauważyli coś, co ich mocno zaniepokoiło. System nie lubił kobiet. Wynikało to najwyraźniej z faktu, że AI opierała się na historycznych CV, a wśród nich zdecydowanie dominowali mężczyźni. W związku z tym AI prawdopodobnie stwierdził, że płeć męska powinna być bardziej preferowana. System wprawdzie ulepszono, aby zaradzić tym szczególnym formom uprzedzeń, ale to nie był jedyny problem. Źródła Reutersa podały, że programy komputerowe wybierały kandydatów, którym brakowało kwalifikacji do wykonania określonych prac.
Usuwanie błędów algorytmicznych jest drażliwym problemem, ponieważ algorytmy mogą wykrywać podświadome ludzkie uprzedzenia. W 2016 r. ProPublica stwierdziła, że oprogramowanie do oceny ryzyka recydywy przestępców wykazywało uprzedzenia rasowe wobec ciemnoskórych. Nadmierna zależność od sztucznej inteligencji w takich dziedzinach, jak rekrutacja, punktacja kredytowa i wyroki na zwolnienie warunkowe również stworzyła problemy w przeszłości.
Tajemnicze wypowiedzi robotów i niedawna rezygnacja Amazona z rekrutacji wspartej przez sztuczną inteligencję pokazują coś dziwnego. Albo AI faktycznie tworzy własną świadomość o nieco „nieludzkiej” charakterystyce, albo też za wszystko odpowiedzialne są ludzkie wady i przywary nieświadomie przenikające do algorytmów… A może po prostu roboty opanowały sarkazm, którego nie rozumiemy?
Krzysztof Maciejewski – Redaktor prowadzący Creditreform News