Skip to content

Przemyślenia jaskiniowca

Kadr z filmu: Odyseja kosmiczna 2001
Kadr z filmu: Odyseja kosmiczna 2001

Wczoraj czyli 23 stycznia 2019 algorytm uczenia maszynowego o nazwie AlphaStar od firmy DeepMind (od kilku własność do Google) stanął do meczu w mojego ulubionego RTSa czyli Starcraft II. Przeciwnikiem AlphaStar był Grzegorz „MaNa” Komincz (https://liquipedia.net/starcraft2/MaNa) z teamu graczy TLO.  Żeby było bardziej polsko należy dodać, że po drugiej stronie rywalizacji również znalazł się nasz rodak, albowiem algorytm AlphaStar współtworzył Wojciech Marian Czarnecki (http://wojciechczarnecki.com/). Mecze odbywały się w trybie 1vs1, Protos vs Protos, a samo starcie zakończyło się zdecydowaną wygraną 5-0 dla AlphaStar. Przy okazji transmisji  dowiedziałem się również, że David Silver, autor serii chyba najlepszych dostępnych na YT wkładów o uczeniu wzmocnionym także obecnie pracuje w DeepMind i współtworzył ten projekt.

Oglądałem wczoraj mecz na żywo ale dopiero dziś powoli rodzą mi się w głowie refleksje na temat tego co się wydarzyło. Algorytm nauczył się grać w dość skomplikowaną grę i pokonał człowieka. W celu wyrównania szans człowieka w tej rozgrywce, algorytm miał dodatkowo sztucznie wprowadzone ograniczenie APM (action per minute) do poziomu osiąganego przez ludzi. I chyba, co zabrzmi głupio, po raz pierwszy mam dość nieokreślone obawy przed maszynami, chociaż to nie jedyne co mnie w tym wszystkim martwi. Z premedytacją nie używam powszechnego w tym kontekście określenia „sztuczna inteligencja” bo termin ten kojarzy się zbytnio z tradycyjną inteligencją ludzką, którą od lat usiłujemy obdarzyć maszyny. O wiele lepiej pasuje tu termin „uczenie maszynowe”. W wyniku projektowania i działania algorytmów ucznia maszynowego uzyskujemy oprogramowanie wykonujące coraz bardziej złożone zadania, w sposób nieosiągalny dla ludzi. Nawisem mówiąc, tak samo moglibyśmy nauczyć algorytm do doskonałego rozwiązywania testów na inteligencję z wynikami znacząco przewyższającymi ludzi, co nie znaczyło by, że ten algorytm taką inteligencję posiadł. Wczoraj zaprezentowano nam kolejny, jeszcze bardziej zdumiewający i działający chiński pokój z koncepcji John Rogers Searle ale tak naprawdę ani o krok nie zbliżyliśmy się do stworzenia ogólnej silnej czy też mocnej inteligencji. Skąd więc moje obawy? Po pierwsze takie algorytmy mogą doskonale wykonywać zadania postawione im przez ich twórców, zadania które nie koniecznie są zbieżne z tym czego by chcieli inni ludzie. W najlepszym przypadku ograją na w grę online i pozbawią nas przyjemności płynącej z tej rozrywki, w gorszym ograją nas na rynku walutowym bądź giełdzie, najgorsze pomysły pozostawię waszej czarnej części wyobraźni.

W niedalekiej przyszłości, my ludzkość, możemy stworzyć maszynę, której nie będziemy w stanie zatrzymać w dążeniu do zadanego jej przez twórców celu. Wąska grupa ludzi może dostać do ręki bardzo potężne narzędzie, którego będzie mogła używać bez możliwości kontroli przez innych… a jednak wychodzi na to, że nie obawiam się maszyn a jedynie ludzi którzy za mini mogą stanąć. Idąc dalej mało oryginalną metaforą, jesteśmy jaskiniowcami wśród których ktoś próbuje zbudować strzelbę. Nie powinniśmy się bać strzelby jako technologii, która może nas pozabijać lub jak również i wyżywić, tylko tego, kto będzie trzymał palec na spuście nowej broni. Wczoraj ktoś nam pokazał jak można zrobić i jak fajnie spala się proch, do strzelby jest jeszcze daleka droga.

A drugi powód, dlaczego wygrana AlphaStar skłania mnie to do refleksji, z której nie mam zbyt optymistycznych wniosków i poświęcam ten wieczór na jej spisanie zamiast pograć sobie w StarCrafta? Frapuje mnie to, że wszystko to co się dzieje wokół AI i ogólnie bardziej zaawansowanej technologii IT, dzieję się w orbicie Doliny Krzemowej i nie widać żeby w tym temacie mogła pojawić się na świecie jakaś przeciwwaga. Czasami mam wrażenie, że działa tam w Kalifornii wielki eugeniczny projekt, który wciąga najlepszych do jego realizacji ludzi z całego świata. Ja w tym czasie odkrywam już dawno odkryte w postaci takich banałów jak API Keras i dalej uczę algorytmy jak balansować kijem w środowisku OpenAI. Jaskiniowiec!

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *