26 10 2020

Polecamy rozmowę o sztucznej inteligencji z Profesorem Romanem Słowińskim

Rozmowa z Profesorem Romanem Słowińskim – laureatem Naukowej Nagrody Premiera 2020 - twórcą szkoły naukowej, która łączy specjalność badań operacyjnych i sztucznej inteligencji w kontekście nowych technologii informacyjnych.

Sztuczna inteligencja jest dość chwytliwym i popularnym pojęciem, kojarzona była dość długo z filmami science fiction. W tej chwili ze sfery wyobraźni przeszła już w sferę rzeczywistości. Czym tak naprawdę jest sztuczna inteligencja?

Ma Pani rację, że sztuczna inteligencja (SI) jest chwytliwym pojęciem i rodzi skojarzenia z cyborgami występującymi w filmach SF. Nie zgodziłbym się jednak, że tak wyobrażana SI przeszła już do rzeczywistości. Ludzki mózg i zachodzące w nim procesy myślowe są nadal tajemnicą.  Komputer pokonał już arcymistrza szachowego i mistrza gry w go, a chatboty potrafią wdać się z człowiekiem w konwersację na określony temat, lecz nie są to programy symulujące ogólną inteligencję człowieka.

Zresztą nie jest to ambicją zdecydowanej większości specjalistów rozwijających SI. Odpowiadając zatem na pytanie czym tak naprawdę jest SI należy wziąć pod uwagę cele jakie obrała sobie ta grupa specjalistów. Moim zdaniem, definicję SI najbardziej zbieżną z tymi celami podał przed pół wiekiem Norbert Wiener: „inteligencja jest procesem pozyskiwania i przetwarzania informacji dla osiągania wyznaczonych celów”. Tak rozumiana sztuczna inteligencja wyręcza człowieka w wykonywaniu konkretnych zadań intelektualnych i odnosi spektakularne sukcesy w przetwarzaniu i rozpoznawaniu obrazów, rozpoznawaniu i syntezie mowy oraz analizie tekstów i przetwarzaniu języka naturalnego. Zadania te realizują algorytmy, które są „ucieleśnione” w różnego rodzaju robotach wykonujących czynności fizyczne, albo są elementami komputerowych systemów wspomagania decyzji. Te ostatnie interesują mnie i moich współpracowników najbardziej.

W 1989 r. założyłem w Instytucie Informatyki Zakład Inteligentnych Systemów Wspomagania Decyzji (ISWD), w którym rozpoczęło ze mną pracę trzech moich doktorantów, wśród nich obecny dziekan WIiT prof. PP Andrzej Jaszkiewicz i prof. PP Jerzy Stefanowski, którzy są podporą zakładu do chwili obecnej. Proponowane 30 lat temu połączenie SI i matematycznej teorii decyzji było oryginalnym pomysłem, który nie spotykał się wtedy z powszechnym uznaniem w środowisku informatyków. Nasze zainteresowania nie leżały wtedy, tak jak teraz, w głównym nurcie informatyki. Inwestycja w ten kierunek badań okazała się jednak bardzo trafna – w ciągu 30 lat Zakład powiększył się do 23 pracowników naukowo-dydaktycznych, w większości będących już po habilitacji, którzy realizują badania z zakresu SI w aspekcie ISWD i, powiem nieskromnie, dostarczają per capita najwięcej wysoko-impaktowych publikacji ze wszystkich zakładów prowadzących badania w dyscyplinie „informatyka i telekomunikacja” na naszej uczelni.

Co takiego wnosi sztuczna inteligencja do komputerowego wspomagania decyzji?

Wspomaganie decyzji z użyciem komputera było najpierw domeną badań operacyjnych, które po sukcesach w zastosowaniach wojskowych w czasie II wojny światowej przeszły do zastosowań cywilnych w logistyce i zarządzaniu produkcją. Klasyczne modele problemów decyzyjnych rozważanych w badaniach operacyjnych wywodzą się z matematycznej teorii decyzji i mają postać zadań optymalizacji, w których zmienne decyzyjne są argumentami funkcji celu i innych funkcji rzeczywistych definiujących obszar dopuszczalności tych zmiennych – nazywamy je problemami programowania matematycznego. Dla uzyskania optymalnej decyzji należy rozwiązać problem programowania matematycznego, którego parametry, takie jak współczynniki kosztu w funkcji celu, czy parametry technologiczne w ograniczeniach, są danymi określonymi przez eksperta dziedzinowego.

SI wkroczyła na dobre do wspomagania decyzji w latach osiemdziesiątych XX wieku, podchodząc inaczej do modelowania problemów decyzyjnych – za pomocą wyrażeń logicznych, takich jak reguły i drzewa decyzyjne, oraz za pomocą sztucznych sieci neuronowych. SI nie buduje zatem reprezentacji problemu decyzyjnego, tak jak badania operacyjne, wychodząc od specyfikacji parametrów modelu matematycznego przez eksperta dziedzinowego, lecz na drodze analizy przykładów decyzji zaobserwowanych u tego eksperta. To dlatego mówimy, że SI specjalizuje się w analityce danych pochodzących z różnych źródeł i przekształcaniu ich w wiedzę wykorzystywaną do podejmowania lepszych decyzji. Dane o problemie decyzyjnym są zapisem zjawisk zachodzących w rozważanym problemie decyzyjnym – na przykład są to decyzje operatora podejmującego decyzje uzależnione od złożonych warunków otoczenia. Na zasadzie indukcji, algorytmy SI odkrywają z tych danych wzorce, które reprezentują zawartą w nich wiedzę o problemie decyzyjnym. Jest to paradygmat tzw. uczenia maszynowego, które wykorzystuje bogaty aparat statystyczny.

Wobec postępu technologicznego w gromadzeniu i szybkości przetwarzania danych przez współczesne komputery, wspomaganie decyzji oparte na modelach SI bierze dziś górę nad tradycyjnym podejściem badań operacyjnych. Trzeba jednak przyznać, że nie byłoby postępu w algorytmach SI, gdyby nie efektywne metody optymalizacji. SI i badania operacyjne przenikają się dzisiaj w sposób synergiczny.

Czy maszyna, która za sprawą algorytmów sztucznej inteligencji odkrywa wiedzę z danych dochodzi do tej samej prawdy co człowiek?

To jest ciekawe pytanie filozoficzne, bo człowiek szuka prawdy i Prawdy. Ta druga jest związana z pytaniem o sens, którego maszyna nie stawia, ani jej się tego pytania nie zadaje. Otóż maszyna pozna prawdę zawartą w tych danych, z których została wyindukowana. Mogą jednak pojawić się nowe dane, które starą prawdę zafałszują. To pokazuje ograniczoność pojęcia prawdy odkrytej przez indukcję charakterystyczną dla uczenia maszynowego. Zbiór danych, z których uczy się maszyna nie jest ani wyczerpujący ani stały. Prawda, którą kontempluje człowiek została dobrze scharakteryzowana przez św. Jana Pawła II w encyklice Fides et Ratio. Do zrozumienia tej Prawdy potrzeba nie tylko racjonalności ale także wiary w tajemnicę stworzenia. Gdyby cała prawda o Bogu i człowieku była osiągalna tylko „szkiełkiem i okiem”, to nie bylibyśmy osobami wolnymi i nie moglibyśmy wybierać, czy wierzę, czy nie wierzę. Akceptuję tajemnicę, niepewność istnienia Boga, aby być wolnym, ale wiarę przyjmuję racjonalnie z własnej woli. Tak dochodzę do Prawdy, której nie mogą zafałszować nowe dane.

Mówi się jednak, że w niedługim czasie staniemy się świadkami narodzin Superinteligencji, przewyższającej możliwości jej twórcy?

Faktycznie, unowocześniony paradygmat uczenia maszynowego, zwany uczeniem ze wzmocnieniem,  pozwala na uczenie się sztucznych agentów bez ukierunkowania, przez samodzielną akcję z wyciąganiem wniosków z tego co się stało. Agent uczy się nie tyle strategii właściwego postępowania, ile sposobu oceny swojego działania i własnych preferencji. Taka aktywność sprzyja nabywaniu szerokich kompetencji zamiast specjalizacji w osiąganiu narzuconego celu. Uzyskane kompetencje tworzą elementy wiedzy, z których agent może zbudować rozwiązanie nowego problemu jaki może się pojawić. Tak doświadczony agent może także zaplanować nowe działanie, co przybliża go do świadomego działania człowieka.

Czy zatem powinniśmy się bać, że stworzymy sztucznych agentów, którzy nas intelektualnie przerosną i ubezwłasnowolnią?

Stephen Hawking pod koniec życia przestrzegał przed badaniami w kierunku stworzenia samodzielnej SI. Według niego moment, w którym uzyskamy ostateczną formę SI - samodzielną i samoświadomą -  będzie najgorszy w historii ludzkości. Futuryści w rodzaju Nicka Bostroma zapowiadają zbliżanie się tzw. punktu osobliwości technologicznej, w którym algorytmy samodzielnie podejmą zadanie świadomego samorozwoju i określą jego kierunki. Ma to doprowadzić do powstania silnej, ogólnej SI.

Powyższy pogląd wspierany jest także mirażem zmapowania ludzkiego mózgu w pamięć maszyny w chmurze, czyli – mówiąc w uproszczeniu – przeniesieniem naszej świadomości do robota. Wtedy zdolność efektywnego obliczania, radzenia sobie z ogromną ilością danych, w połączeniu z ludzką inteligencją miałaby stworzyć superinteligencję. Wygląda to na obietnicę życia wiecznego. Faktycznie, uwiedzeni tą ideą prorocy sztucznej inteligencji postulują nowe niby-religie: „Bóg został uśmiercony i człowiek stanął na jego miejscu”. Na tym tle powstał ruch zwany transhumanizmem. Postuluje on 3 x super: superdługowieczność, superszczęście i superinteligencję.

Czy Pan Profesor wierzy w taką przyszłość sztucznej inteligencji?

Dla mnie te obietnice brzmią równie złowieszczo jak pokusa z Księgi Rodzaju: „będziecie jak bogowie”. Transhumaniści tak bardzo rozpędzili się w ideowych projekcjach, że przestali już pytać o możliwość zrealizowania tych wizji w sensie fizycznym. Tymczasem, specjaliści rozwijający SI uważają, że nawet po zmapowaniu mózgu w chmurę maszyny przejmą świadomość człowieka jedynie w sensie behawioralnym. Komputery nie będą myśleć po naszemu, czyli nie poznają naszych myśli, ale mogą nauczyć się naszych upodobań i reakcji.

Czy na rozwój sztucznej inteligencji należy zatem nałożyć jakieś ograniczenia, normy etyczne?

Pytanie to dotyka poważnego dylematu odpowiedzialności za decyzje algorytmów sztucznej inteligencji. Zasadne jest na przykład pytanie, kto odpowiada za decyzję pojazdu autonomicznego w sytuacji kryzysowej, gdy algorytm będzie musiał dokonać wyboru, czy wjechać w grupę przedszkolaków, które weszły na jezdnię, czy w staruszkę, która stoi gdzieś z boku? Projektant, czy właściciel? Jednak właściciel, który jednak musi wiedzieć jaki system wartości został zakodowany w algorytmie sterującym. Musimy kontrolować to, co maszyny nam zalecają. W związku z tym wszystkie deklaracje etyczne podkreślają dzisiaj istotę wyjaśnialności modeli SI. Niedawno deklaracja taka wyszła także z Watykanu. Nie potępia ona postępu w zakresie SI, ale dołącza do chóru intelektualistów i osób apelujących o moralną odpowiedzialność jej twórców, o tworzenie transparentnych systemów, dających wgląd w rekomendacje i ich motywacje.

Mimo wszystkich wyobrażalnych zagrożeń sztuczna inteligencja jest jednak fascynującą dyscypliną naukowo-technologiczną, prawda?

Zgadzam się z Pani entuzjastyczną konkluzją. Zauważają to także nasi studenci i kandydaci na studentów. Studia anglojęzyczne na kierunku Sztuczna Inteligencja na Wydziale Informatyki i Telekomunikacji weszły w drugi rok realizacji. W tegorocznym naborze mieliśmy przeszło 10 kandydatów na jedno miejsce. Zarejestrowało się także kilkudziesięciu studentów z zagranicy. Specjalność magisterska Inteligentne Systemy Wspomagania Decyzji przyciąga także każdego roku bardzo dobrych studentów polskojęzycznego kierunku Informatyka. W tym roku akademickim podejmujemy przebudowę programu tej specjalności w kierunku Sztucznej Inteligencji, w ramach projektu „Akademia Innowacyjnych Zastosowań Technologii Cyfrowych (AI Tech)”, który jest częścią Programu Operacyjnego Polska Cyfrowa na lata 2014-2020 finansowanego przez UE. Do udziału w tym projekcie, oprócz nas, zaproszono 4 inne polskie uniwersytety najbardziej zaawansowane w SI.

Serdecznie dziękuję za rozmowę.

 

Rozmawiała Jolanta Szajbe

Głos Politechniki

 

 

Zdjęcia