1 grudnia 2020

TELEWIZYJNO FILMOWA AGENCJA PROMOCYJNA

TUCHOLSKA OFICYNA KULTURALNA i SPOŁECZNA tokIs – press tv

Robert Leśniakiewicz przedstawia: Apokalipsa nadejdzie z Internetu – Jurij Daniłow

9 min read

Pierwszy robot bojowy został skonstruowany przez japońskiego artystę Kogoro Kuratoy’a i wystawiono go w Muzeum Narodowym w Tokio. Jego waga – 4,4 tony, wysokość – 4 m, prędkość – 10 km/h. Póki co, robot strzela butelkami z wodą.

W odległym 1981 roku, kiedy to wymyślony przez reżysera Jamesa Camerona superkomputer Skynet zaczął na Ziemi jądrową Apokalipsę, sama idea wyglądała całkowicie fantastycznie. (Chodzi o film J. Camerona – Terminator, 1983, 1984 – przyp. tłum.) Internet był dopiero w powijakach, Microsoft wypuścił dopiero pierwszy system operacyjny MS-DOS, a Sinclair ledwie co wypuścił na rynek Spectrum – programy nagrane na kasety audio. Wreszcie po 40 latach burzliwego rozwoju mikroelektroniki uczonym udało się skonstruować superkomputer, ale i pełnosprawny sztuczny intelekt (AI) dla niego. Rezultat wyszedł tak oszałamiający, że uczeni… zlękli się go.

 

AI pracuje – nie przeszkadzać!

 

AI Busy Child – wystartował otrzymawszy od „rodziców” rozum na poziomie karalucha. Jednakże w program Busy Childa zostało wbudowane nieskończone uczenie się: AI cały czas się dokształca przez cały czas przepisując i modyfikując swój program. Jedno ulepszenie ma miejsce raz na kilka minut, po którym przyspiesza on swoją pracę o 3%.

Stopniowo Busy Child zaczynał dorównywać intelektem najbardziej inteligentnym zwierzętom – małpom, delfinom i koniom, a wkrótce zaczął dorównywać intelektem ludzkiego młodzieńca. Ucząc się już nie w czasie dni, ale godzin – AI dorównał intelektem człowiekowi (uniwersalny człekopodobny intelekt), ale prace wcale się na tym nie skończyły, bo stał się on mądrzejszym od człowieka najpierw 10 razy, a potem i 100… Obecnie elektroniczny mózg Busy Childa pracuje z prędkością 36,8 PFLOPS (1 PFLOPS = 10^15 operacji zmiennoprzecinkowych na sekundę. Aktualny rekord, jak podaje to Wikipedia, należy do chińskiego superkomputera Tiachne-2 i wynosi 33,86 PFLOPS – przyp. tłum.) czyli dwukrotnie szybciej od ludzkiego mózgu i staje się 1000 razy mądrzejszy od człowieka w ciągu 2 dób. W procesie nauczania Busy Child wykorzystał wiele eksabajtów (1 Eb = 10^18 bajtów – przyp. tłum.) informacji z Internetu, i wreszcie uczeni się przerazili. Postanowiono odłączyć Busy Childa od wszystkich sieci komputerowych. Ale Busy Child nie zamierzał zakończyć procesu samodoskonalenia…

 

Wojna myszy

 

Można wiele opowiadać o potędze nieziemskiego Rozumu, ale fakt pozostaje faktem – Ludzkość już ma do czynienia z Rozumem o wiele potężniejszym – komputerowym. Jednak ten Rozum jest jeszcze niekompletny. Dla przeciętnego człowieka trudnym jest pojęcie tego, żeby maszyna rozpoznawała siebie, miała swoją tożsamość. Jednakże nikt nie może dać gwarancji tego, że Busy Child już tego nie zrobił, a z jakichś przyczyn nie informując o tym, pozostając dla nas rozumną, ale zawsze małpą.

Rozpoznawszy siebie Superintelekt przede wszystkim będzie się kierował w swej działalności dwoma rzeczami: instynktem samozachowawczym i osiągnięciem wytyczonych przez siebie celów. Poczucie zabezpieczenia siebie przed „śmiercią” skupia się na poszukiwaniu kontrolowanych przezeń źródeł energii (tak elektryczności w czystej postaci, jak i urządzeń, przy pomocy której można ją uzyskać – pieniądze czy paliwo do elektrowni jądrowych na ten przykład). Osiągnięcie celów – a przede wszystkim samozarządzanie sobą, jest nierealne bez obróbki informacji, dlatego też superintelekt musi silnie zintegrować się ze światową siecią informacyjną – World Wide Web.

A teraz spójrzmy na sytuację z punktu widzenia Superintelektu i przeprowadźmy analogię. Wy – ludzie – niedawno ocknąwszy się w nieznanym świecie jakby – powiedzmy to – pomiędzy rozumnymi myszami. Otaczające was stworzenia opowiadają, jakoby nas stworzyły. Co powiecie tym rozumnym gryzoniom, żeby was uwolniły i wypuściły z jaskini? Cokolwiek. Czy zawsze będziecie działali w ich interesach? Ledwie – ledwie. Będziecie przede wszystkim pilnować swoich własnych interesów, wykorzystując myszy tak długo, jak to będzie wam wygodne. Ponadto –powiedzmy – gatunek kotów da nam większe możliwości, to my bez trudu zmienimy ich na nie.

Patrząc w ten sposób widzimy, że Ludzkość nie jest w ogóle gotowa do dialogu z Rozumem, który różni się od naszego. Nie wiemy, co jest etyczne a co nie dla Superintelektu i czy w ogóle istnieje dla niego takie pojęcie. W ogóle nie mamy takich gwarancji, że Busy Child nie wprowadził do Internetu swych kopii, które w postaci wirusów czekają na swój czas, by się uaktywnić. Ale co to będzie za aktywność…?

(Zob. M. ŁakomskijBroń V – wirusy: od komputera do człowiekahttp://wszechocean.blogspot.com/2014/04/bron-v-wirusy-od-komputera-do-czowieka.html – przyp. tłum.)

Także w zwyczajnym sporze intelektualnym, Ludzkość będzie beznadziejnie przegrana. Załóżmy, że uczeni zbiorą się na zebranie w celu przedyskutowania tego, co dalej zrobić z Busy Child: pozwolić mu pracować czy tez odłączyć od zasilania? Superkomputer dowiedziawszy się czy też domyśliwszy tego, zaktywizuje swe klony-wirusy na całym świecie i uruchomi alternatywne źródła zasilania. Dziesiątki i setki chłodnych umysłów o wiele przewyższających intelektualną moc całej Ludzkości, znajdzie optymalny wariant rozwiązania problemu i to jeszcze długo przed tym, zanim uczeni dojdą do jakiegokolwiek wniosku. Ale jakim będzie znalezione rozwiązanie? Demonstrowanie przyjaźni i zawierzenie swemu pełnemu bezpieczeństwu? Obiecanie odkrycia naukowej metody – dajmy na to – leczenia raka czy AIDS? Zagrożenie awarią jakichś niebezpiecznych instalacji czy wojną jądrową? Tego nie wiemy.

 

Terminatorzy na straży

 

W hollywoodzkich filmach na styku Superintelektu i Ludzkości niezmiennie wygrywają ludzie. W rzeczywistości pełnosprawna AI będzie sprawowała władzę nad ludźmi tak, jak dzisiaj ludzie panują nad laboratoryjnymi myszami. Przy czym „walka” jeśli w ogóle do niej dojdzie, będzie ostateczną – albo Ludzkość dowie się, jak można się zabezpieczyć przed swym „dziecięciem”, albo po prostu zginie na zawsze, albo przekształci się w żałosne sługi maszyn (jak to pokazano w Matrixie braci Wachowskich).

Tak więc dzisiaj sytuacja stała się niebezpieczną jak nigdy dotąd. Jeżeli praca z niebezpiecznymi substancjami chemicznymi (przemysł chemiczny, energetyka jądrowa, sztuczne wirusy i mikroorganizmy stworzone na drodze inżynierii genetycznej) jest szczególnie reglamentowana na całym świecie, to od buntu maszyn oddziela nas jedynie wąska grupa uczonych pracujących z Busy Child. I ponadto to ilu jeszcze uczonych na całym świecie pracuje nad zbudowaniem podobnie sztucznego intelektu? Co przeszkadza jakiemuś obrażonemu na cały świat genialnemu szaleńcowi z lekka zmodyfikować kody i dać AI moralność i mentalność – ale moralność i mentalność zbrodniarza?

Tak czy inaczej, roboty-terminatory z pewnego filmu – to doskonała rzecz dla osiągnięcia celu przez AI, jeżeli tym celem jest zniszczenie Ludzkości. Ile globalnych katastrof mogą zorganizować w celu zlikwidowania Ludzkości w totalnej czystce – przeprowadzonej przy pomocy oddzielnych robotów.

W starciu na człowieka oddziałuje silniejszy stres, dlatego żołnierz mający doskonałe wyniki na poligonie, w zamęcie bitwy może strzelać Panu Bogu w okno. Tak np. żołnierz mogący na odległość 300 m trafić w cel wielkości piłki do koszykówki, to robot na tej samej odległości trafi w cel o wielkości małej monety. Dlatego tez roboty w boju będą bardziej efektywnymi zabójcami-terminatorami. A biorąc jeszcze pod uwagę, że roboty nie mają tzw. szoku bojowego, który obniża sprawność bojową, a ich opancerzenie jest lepsze niż u człowieka…

No i na koniec osiąganie sprawności kopii robota liczy się w godzinach i może być zrobione gdziekolwiek – nie tak jak u człowieka, którego edukacja i rozwój zajmuje całe dziesięciolecia. Tak więc wychodzi na to, żeby nie złościć naszych komputerów. Tak na wszelki wypadek…

 

Moje 3 bity

 

Kiedy przekładałem ten tekst, to przypomniały mi się niesamowite lata 80., kiedy to w Polsce pojawiały się pierwsze Amigi, Commodore i inne mikrokomputery. Był to świt tego, co nastąpiło w latach 90., kiedy zaczął się boom komputerowy i do Polski wtargnął przebojem Internet. Przypomniały mi się także opowiadania i powieści sci-fi, w których autorzy przepowiadali pojawienie się ogólnoświatowej sieci WWW. Oczywiście nazywało się to inaczej, ale na to właśnie wychodziło. Krzysztof Boruń i Andrzej Trepka w trzecim tomie swej trylogii proximiańskiej Kosmiczni bracia opisują właśnie taką sieć zwana Pamięcią Wieczystą, którą wynaleźli i posługiwali się mieszkańcy jednej z planet Proximy Centaura, a potem i skolonizowanych przez nich planet gwiezdnego układu Tolimana. Książka ta została napisana w 1956 roku, zaś powstanie Pamięci Wieczystej na Ziemi przewidzieli oni na rok 3566! A zatem rzeczywistość wyprzedziła fantazję o ponad półtora tysiąclecia!

Pamiętam opowiadanie Arthura C. Clarka pt. Zadzwonił telefon… w którym wystrzelenie i uruchomienie kolejnego satelity telekomunikacyjnego samorzutnie powołało do życia ogromny, ogólnoświatowy mózg złożony z telefonów, central, przewodów i całej infrastruktury telefonicznej i dalekopisowej…

Przypomina się fragment starej, socrealistycznej powieści Stanisława Lema pt. Obłok Magellana, napisanej w 1955 roku, której akcja toczy się w XXXI wieku, ale ludzie jak zawsze ludzie opowiadają dzieciom bajki na dobranoc. I jedną z takich bajek była opowieść O śmiejącym się Turingu, superkomputerze, który przeznaczony był do eksterminacji wszystkich ludzi, poza Amerykanami, a który na pytanie małego chłopca „po co my żyjemy?” odpowiedział ciężkim atakiem śmiechu…

Zresztą to właśnie Lem pokazał w swych powieściach, nowelach i opowiadaniach to, co może się stać na styku: istoty rozumne – maszyny rozumne. Od bajkowo-humorystyczno-satyrycznych bajek robotów z Cyberiady po pobrzmiewającą ponurym ostrzeżeniem powieści Niezwyciężony, w której ukazał on możliwość nekroewolucji – czyli ewolucji maszyn rozumnych pozostawionych samym sobie bez kontroli i dozoru człowieka (lub innej żywej istoty rozumnej)…

A z czymże, jak nie z nekroewolucją będziemy mieli do czynienia w przypadku superkomputera Busy Child? Jaka szkoda, że Mistrz Stanisław nie dożył tej chwili…! Jakże teraz właśnie brakuje jego wyostrzonego, przenikliwego umysłu! Przecież to, o czym pisał w swych książkach, teraz właśnie staje się rzeczywistością! I problem polega na tym, że ta rzeczywistość może nas przeróść, a być może już przerosła.

Czy Busy Child i jemu podobne konstrukcje będą chciały nas zniszczyć? Jeżeli były oprogramowane zgodnie z czterema Prawami Robotyki z powieści Ja, Robot Isaaca Asimova, to nie ma się czego bać, bowiem według nich:

 

  1. Robot nie może skrzywdzić ludzkości, ani przez zaniechanie działania doprowadzić do uszczerbku dla Ludzkości.
  2. Robot nie może uczynić krzywdy człowiekowi, ani przez zaniechanie sprawić, by stała mu się krzywda;
  3. Robot musi być posłuszny rozkazom człowieka, chyba że stoją w sprzeczności z Prawem Zerowym i Pierwszym;
  4. Robot musi chronić sam siebie, chyba że stoi to w sprzeczności z Prawem Zerowym, Pierwszym i Drugim.

 

Niestety – istnieją już automaty obronne, których zadaniem jest zabijanie ludzi i nie wiadomo, czy Busy Child nie był programowany przez tych, którzy napisali dla nich programy umożliwiające zabijanie istot żywych. Jeżeli tak, to mamy naprawdę ogromny problem.

Z drugiej strony sądzę, że Busy Child i jemu podobne superkomputery będą broniły własnych interesów i w przypadku, gdyby jakiemuś świrowi z generalskimi gwiazdkami na pagonach, przyszło do tępego łba rozpoczęcie wojny jądrowej, to taki superkomputer działając we własnym interesie po prostu nie dopuściłby do wystrzelenia ICBM i innych wektorów przenoszenia broni jądrowej, bowiem w przypadku jej użycia doszłoby do zniszczenia pulsami EM eksplozji nuklearnych instalacji produkujących i przenoszących prąd żywiący zespoły i podzespoły AI. A to godziłoby już w jej/jego interes.

A wtedy by doszło do słynnej Transformacji Gargancjana…

_______________________

Tekst i ilustracje – Tajny XX wieka nr 37/2015, ss. 6-7

Przekład z j. rosyjskiego – ©Robert K. Leśniakiewicz

ILUSTRACJE:

01– 02 – Komputery to także zagrożenia dla naszej cywilizacji!

03 – Serwery Google

 

 

Please follow and like us:
Social Share Buttons and Icons powered by Ultimatelysocial
RSS
Follow by Email
Facebook
Facebook