Wczoraj (23 stycznia 2019) wydarzyła się rzecz niezwykła. Algorytm uczenia maszynowego AlphaStar stanął do meczu przeciwko człowiekowi. Grzegorz „MaNa” Komincz poddał próbie swoje umiejętności gry w mojego ulubionego RTSa czyli StarCraft II.
Pan Grzegorz należy do grupy Team Liquid i jest wysokiej klasy, uznanym w świecie graczem (https://liquipedia.net/starcraft2/MaNa). Obecnie zajmuje wysoką 22 pozycję w rankingu światowej ligi StarCraft II. Gra Protosami.
Algorytm AlphaStar został stworzony przez firmę DeepMind, która od kilku lat jest własność Google. Gry odbywały się w trybie 1vs1, Protos vs Protos, do pięciu wygranych. W celu wyrównania szans człowieka w tej rozgrywce, algorytm miał sztucznie wprowadzone ograniczenie ilości możliwych do wykonania akcji na minutę (APM – action per minute) do poziomu osiąganego przez ludzi. Wykluczono w ten sposób przewagę wynikającą z szybkości działania komputerów, a o wyniku starcia miała decydować jedynie jakość „myślenia” algorytmu.
Starcie zakończyło się zdecydowaną i zdumiewającą (5-0) wygraną maszyny.
Przy okazji transmisji z rozgrywki dowiedziałem się, że David Silver obecnie pracuje w DeepMind i współtworzył ten projekt. Pan David jest mi znany jako autor serii najlepszych dostępnych na YT wkładów o uczeniu wzmocnionym. Algorytm AlphaStar współtworzył z nim Wojciech Marian Czarnecki (http://wojciechczarnecki.com/), więc jest to drugi polski akcent tej rozgrywki.
Mecz oglądałem wczoraj na żywo ale dopiero dziś rodzą mi się powoli w głowie refleksje na temat tego wydarzenia. Algorytm nauczył się grać w dość skomplikowaną grę i bez problemu pokonał człowieka. Daje mi to powód by po raz pierwszy na poważnie i z obawą pomyśleć o wizji świata zdominowanego przez maszyny. A nie jest to jedyne co może nas w wyniku refleksji nad tym wydarzeniem zmartwić.
Z premedytacją unikam powszechnie używanego w kontekście tego wydarzenia terminu „sztuczna inteligencja”. Potoczne nadużywanie tego terminu w mediach sugeruje, że mamy do czynienia z czymś co ma ludzką naturę. Człowiek od lat próbuje stworzyć maszyny na swój obraz i podobieństwo. Inteligencja nie jest jednak cechą, która determinuje człowieczeństwo.
Umiejętność abstrakcyjnego zrozumienia problemów, prowadzenia w myślach symulacji rzeczywistości i stawianie samego siebie wobec wyobrażonych, „wirtualnych” trudności oraz późniejsza ekstrapolacja uzyskanych rozwiązań na nowe sytuacje w przyszłości. Upraszczając, świadome wyobrażanie samego siebie w hipotetycznej przyszłości. Tym co determinuje specyfikę złożonych biologicznych bytów, jest do dziś wymykająca się naukowym definicjom świadomość.
Tak, stworzyliśmy sprawne i sztucznie inteligentne maszyny ale w odniesieniu do tego procesu bardziej odpowiednim terminem jest „uczenie maszynowe”. W wyniku projektowania i działania algorytmów ucznia maszynowego uzyskujemy programy wykonujące coraz bardziej złożone zadania, w sposób nieosiągalny dla ludzi. Możemy nawet nauczyć algorytm doskonałego rozwiązywania testów na inteligencję, z wynikami znacząco przewyższającymi ludzi, co nie oznacza, że ten algorytm stał się bardziej ludzki od algorytmu sortowania bąbelkowego. Wczoraj zaprezentowano nam kolejny, jeszcze bardziej zdumiewający i perfekcyjnie działający „chiński pokój” z koncepcji John Rogers Searle. Tak naprawdę ani o krok nie zbliżyliśmy się do stworzenia ogólnie inteligentnej świadomości. Skąd więc moje obawy przed światem zdominowanym przez maszyny?
Takie algorytmy głębokiego uczenia maszynowego mogą doskonale wykonywać zadania postawione im przez ich twórców, zadania które nie koniecznie są zbieżne z interesem innych ludzi. W najlepszym przypadku ograją na w grę online i pozbawią nas przyjemności płynącej z tej rozrywki, w gorszym ograją nas na rynku walutowym bądź giełdzie, w jeszcze czarniejszym scenariuszu najlepsze bezzałogowe samoloty, czołgi i łodzie wygrają każdą wojnę. W przyszłości, my ludzkość, możemy stworzyć maszynę, której nie będziemy w stanie zatrzymać w dążeniu do zadanego jej przez twórców celu. Wąska grupa ludzi może dostać do ręki bardzo potężne narzędzie, którego będzie mogła używać bez możliwości kontroli przez innych. Być może sama też padnie ofiarą tegoż narzędzia.
Wyszło na to, że jednak nie obawiam się maszyn a jedynie ludzi którzy za mini mogą stanąć. Jesteśmy niczym jaskiniowcy wśród których ktoś próbuje zbudować strzelbę. Nie powinniśmy się bać strzelby jako technologii, która może nas pozabijać tak jak i wyżywić, tylko tego kto będzie trzymał palec na spuście nowej broni. Wczoraj mieliśmy demonstrację jak fajnie spala się proch strzelniczy, do strzelby jest jeszcze daleka droga.
Wygrana AlphaStar skłania mnie to do refleksji, z jeszcze jednego powodu. Refleksji na tyle istotnej, że poświęcam ten wieczór na jej spisanie zamiast pograć sobie w StarCrafta. Trapi mnie, że wszystko najważniejsze co dzieje się wokół AI i ogólnie bardziej zaawansowanej technologii, dzieję się w orbicie Doliny Krzemowej i nie zanosi się żeby w tym temacie mogła pojawić się na świecie jakaś przeciwwaga. Czasami mam wrażenie, że w Kalifornii ktoś realizuje wielki eugeniczny projekt, który wyciąga najlepszych ludzi z całego świata. Rozwój technologii przyśpiesza zbliżając świat do osobliwości Raymond Kurzweil’a. To stałe przyśpieszenie zwiększa coraz bardziej odstępy pomiędzy graczami w tym wyścigu. Kto przespał start nie dogoni już stawki.
Ja w tym czasie odkrywam już dawno odkryte w postaci takich banałów jak API Keras i dalej uczę algorytmy jak balansować kijem w środowisku OpenAI. Jaskiniowiec!
