{"id":11562,"date":"2024-04-28T17:56:52","date_gmt":"2024-04-28T15:56:52","guid":{"rendered":"https:\/\/elementapp.ai\/blog\/?p=11562"},"modified":"2026-03-01T10:02:53","modified_gmt":"2026-03-01T09:02:53","slug":"zaglada-czy-ocalenie-ludzkosci-ai-polemika-z-profesorem-zybertowiczem","status":"publish","type":"post","link":"https:\/\/elementapp.ai\/blog\/zaglada-czy-ocalenie-ludzkosci-ai-polemika-z-profesorem-zybertowiczem\/","title":{"rendered":"Zag\u0142ada czy ocalenie ludzko\u015bci AI? Polemika z profesorem Zybertowiczem"},"content":{"rendered":"\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t
\n\t\t\t\n\t\t\t\t\t\t\t
\n\t\t\t\t\t<\/i><\/div>\n\t\t\t\t\t\t<\/span>\n\t\t<\/div>\n\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Zag\u0142ada czy ocalenie ludzko\u015bci AI? Polemika z profesorem Zybertowiczem<\/h1>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t28 kwietnia 2024\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t<\/section>\n\t\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t
\n\t\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Wst\u0119p<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t
\n
\n
Na discordzie Horyzont AI, gdzie gromadzi si\u0119 spo\u0142eczno\u015b\u0107 zainteresowana wykorzystywaniem i rozwojem narz\u0119dzi opartych o sztuczn\u0105 inteligencj\u0119, zwr\u00f3cono mi uwag\u0119 na wyst\u0105pienie profesora Andrzeja Zybertowicza<\/a><\/span>, w kt\u00f3rym ten\u017ce przedstawi\u0142 katastroficzn\u0105 wizj\u0119 rozwoju sztucznej inteligencji.<\/span><\/div>\n
 <\/span><\/div>\n<\/div>\n<\/div>\n
\n
\n
W pierwszej chwili niech\u0119tnie odnios\u0142em si\u0119 do propozycji obejrzenia materia\u0142u. Pesymistycznych wizji nas\u0142ucha\u0142em si\u0119 ju\u017c wiele. Koledzy z discorda zach\u0119cili mnie jednak skutecznie i przes\u0142ucha\u0142em ca\u0142o\u015b\u0107 wypowiedzi profesora. Poni\u017cej moje odniesienie si\u0119 do zarzut\u00f3w, jakie profesor stawia wobec techno-optymistycznej wizji \u015bwiata, kt\u00f3rej jestem zwolennikiem.<\/span><\/div>\n
 <\/span><\/div>\n
Aktualizacja z 6.06.2024 – profesor odpowiedzia\u0142 na moj\u0105 polemik\u0105, a ja odpowiedzia\u0142em ju\u017c na odpowied\u017a profesora. Je\u015bli interesuje Ci\u0119 dalsza polemika, to po przeczytaniu poni\u017cszego materia\u0142u zach\u0119cam do prze\u015bledzenia tego w\u0105tku na platformie X – https:\/\/x.com\/Maciej_M\/status\/1787578065767321650<\/a><\/span><\/div>\n<\/div>\n<\/div>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Gdybamy<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t
Nikt, ani ja, ani profesor Zybertowicz, ani Sam Altman, Elon Musk czy ktokolwiek inny na \u015bwiecie, nie wie, jak b\u0119dzie wygl\u0105da\u0142a przysz\u0142o\u015bci w og\u00f3le i w szczeg\u00f3lno\u015bci przysz\u0142o\u015b\u0107 w kontek\u015bcie rozwoju sztucznej inteligencji. Wszelkie rozwa\u017cania na ten temat, zw\u0142aszcza moje, s\u0105 zatem rozwa\u017caniami o tym, co jest mniej lub bardziej prawdopodobne. Zdaj\u0119 sobie spraw\u0119 z istnieniu wielu ryzyk, tak\u017ce tych, o kt\u00f3rych m\u00f3wi pan profesor. Uwa\u017cam jednak, \u017ce wizja, kt\u00f3r\u0105 przedstawiaj\u0105 techno-pesymi\u015bci, jest nie tylko mniej prawdopodobna, ale tak\u017ce spowolnienie rozwoju technologicznego jest szkodliwe dla dobra ludzko\u015bci. Uzasadni\u0119 to, przynajmniej cz\u0119\u015bciowo, odnosz\u0105c si\u0119 do wypowiedzi pana profesora.<\/div>

Cho\u0107 uwa\u017cam, \u017ce realizacja postulat\u00f3w techno-pesymist\u00f3w by\u0142aby szkodliwa dla ludzko\u015bci, to jednocze\u015bnie wiem, \u017ce pewna doza pesymizmu jest niezb\u0119dna. Warto zderza\u0107 swoje przekonania z przekonaniami przeciwnymi aby weryfikowa\u0107 i zmienia\u0107 swoje pogl\u0105dy. Z powy\u017cszego wzgl\u0119du ciesz\u0119 si\u0119, \u017ce profesor Zybertowicz swoje przekonania g\u0142osi. Czuj\u0119 si\u0119 jednak zobowi\u0105zany do przedstawienia kontrargument\u00f3w, dzi\u0119ki kt\u00f3rym ujawnione s\u0105 dwie strony medalu.<\/div><\/div><\/div>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t

Polemika<\/h2>\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t
\n
\n
\n
\n
\n
Wyt\u0142uszczony tekst to mniej lub bardziej dok\u0142adnie odwzorowane stwierdzenia pana profesora.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
B\u0119dziemy \u017cyli w \u015bwiecie konflikt\u00f3w, w kt\u00f3rym cz\u0119\u015b\u0107 przekszta\u0142ci si\u0119 w wojny.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Zdaje si\u0119, \u017ce Pan profesor w powy\u017cszym stwierdzeniu pomyli\u0142 czas. Zamiast “b\u0119dziemy \u017cyli”, powinno by\u0107 “\u017cyli\u015bmy i \u017cyjemy”. <\/span><\/div>\n
 <\/div>\n
Rozw\u00f3j cywilizacji ludzkiej to pasmo regularnych konflikt\u00f3w, w tym wojen, kt\u00f3re niejednokrotnie doprowadza\u0142y do wygini\u0119cia ca\u0142ych kultur. Stwierdzenie, \u017ce b\u0119dziemy \u017cyli w \u015bwiecie konflikt\u00f3w, nie wnosi nic nowego do opisu rzeczywisto\u015bci. W raz rozwojem technologicznym zmienia\u0142 si\u0119 or\u0119\u017c, za pomoc\u0105 kt\u00f3rego prowadzono wojny. Kiedy\u015b walczono na \u0142upane kamienie, p\u00f3\u017aniej \u0142uki i muszkiety, dzi\u015b wdra\u017ca si\u0119 autonomiczne drony i cyberataki, a w nieodleg\u0142ej ju\u017c przysz\u0142o\u015bci b\u0119d\u0105 to ju\u017c zupe\u0142nie autonomiczne maszyny wojenne. Or\u0119\u017c zawsze by\u0142 \u015bmierciono\u015bny i w bliskim spotkaniu przera\u017caj\u0105cy. W tym zakresie nic si\u0119 nie zmienia. Nie zapomnijmy te\u017c o or\u0119\u017cu ostatecznym, kt\u00f3ry opracowano kilkadziesi\u0105t lat temu i ju\u017c dwukrotnie zastosowano – broni atomowej.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
“AI b\u0119dzie kustoszem ludzkiej natury” to b\u0142\u0119dne za\u0142o\u017cenie, poniewa\u017c nie ma czego\u015b takiego jak natura cz\u0142owieka.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Bez wzgl\u0119du na to, jak zdefiniujemy ludzk\u0105 natur\u0119, czy nawet je\u015bli pozb\u0119dziemy si\u0119 tej definicji, uznaj\u0105c, \u017ce jeste\u015bmy zbyt skomplikowani, by takie definicje tworzy\u0107 i stosowa\u0107, nie ma przeszk\u00f3d do stwierdzenia, \u017ce wy\u017csza forma inteligencji mo\u017ce opiekowa\u0107 si\u0119 form\u0105 ni\u017csz\u0105. Dok\u0142adnie na tej samej zasadzie my opiekujemy si\u0119 np. psami. Od tej generalnej zasady istniej\u0105 niechlubne wyj\u0105tki ludzi, kt\u00f3rzy z chciwo\u015bci, lub chorej satysfakcji zabijaj\u0105 lub dr\u0119cz\u0105 zwierz\u0119ta. Kto\u015b zapyta – a je\u015bli AI b\u0119dzie chciwe lub chore? Odpowied\u017a na to pytanie znajdziesz nieco ni\u017cej.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Joseph Aloisius Ratzinger, p\u00f3\u017aniejszy papie\u017c, przewidzia\u0142 w swojej ksi\u0105\u017cce, do czego doprowadzi nas rewolucja cyfrowa – do traktowania pojedynczego cz\u0142owieka, jako zestawu liczb.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
To nie rewolucja cyfrowa doprowadzi\u0142a nas do uprzedmiotowienia cz\u0142owieka, lecz to cz\u0142owiek do tego doprowadzi\u0142 i to nie w czasie rewolucji cyfrowej, lecz proces ten trwa\u0142 od zarania dziej\u00f3w. Im wi\u0119ksza populacja i struktury spo\u0142ecznych organizacji, tym mniej istotny staje si\u0119 podstawowy element tych organizacji, czyli cz\u0142owiek. Z punktu widzenia zarz\u0105dzaj\u0105cych tymi organizacjami (rz\u0105dy polityczne, zarz\u0105dy korporacyjne), pojedynczy cz\u0142owiek jest liczb\u0105 bez wzgl\u0119du na to, czy ta liczba zapisana jest na glinianych tabliczkach, czy na blockchainie.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Powstanie sztucznej inteligencji to odwr\u00f3cenie si\u0119 kompletne od przes\u0142ania, aby czyni\u0107 sobie Ziemi\u0119 podleg\u0142\u0105.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Wr\u0119cz odwrotnie. Sztuczna inteligencja jest najlepszym narz\u0119dziem, jakie dotychczas stworzyli\u015bmy, aby Ziemi\u0119 uczyni\u0107 nam podleg\u0142\u0105. Nie tylko po prostu podleg\u0142a, ale podleg\u0142a w jak najlepszym rozumieniu tego s\u0142owa. Tzn. aby Ziemia jednocze\u015bnie s\u0142u\u017cy\u0142a nam i nie by\u0142a dewastowana nasz\u0105 egzystencj\u0105. <\/span><\/div>\n<\/div>\n<\/div>\n
\n
\n
W jaki spos\u00f3b sztuczna inteligencja ma potencja\u0142, by pom\u00f3c nam uczyni\u0107 Ziemi\u0119 lepszym miejscem dla naszego rozwoju? Na przyk\u0142ad poprzez analiz\u0119 du\u017cych zbior\u00f3w danych, dotycz\u0105cych stanu las\u00f3w, w\u00f3d, gleb, temperatur, sk\u0142adu atmosfery itp. AI wytrenowane na tego typu danych mo\u017ce wyszukiwa\u0107 w nich korelacji niedostrzegalnych dla klasycznych analiz. Liczymy mocno na to, \u017ce AI przyczyni si\u0119 tak\u017ce do nowych odkry\u0107 naukowych, kt\u00f3re przyspiesz\u0105 ucieczk\u0119 od pozyskiwania energii ze \u017ar\u00f3de\u0142 kopalnych. Tak\u0105 technologi\u0105, nad kt\u00f3r\u0105 ludzko\u015b\u0107 pracuje, a kt\u00f3ra mo\u017ce dostarczy\u0107 w praktyce nieograniczone zasoby energii, jest fuzja j\u0105drowa.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Trudno przewidzie\u0107 jakie odkrycia naukowe nas czekaj\u0105, dzi\u0119ki sztucznej inteligencji, logika podpowiada jednak, \u017ce takie odkrycia s\u0105 nieuniknione i pytanie jest nie czy, ale kiedy.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Powstanie sztucznej inteligencji to odwr\u00f3cenie si\u0119 kompletne od przes\u0142ania o\u015bwieceniowego, czyli \u017ceby rozumie\u0107 \u015bwiat.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Wr\u0119cz odwrotnie. Przyjmuj\u0105c, \u017ce stworzymy superinteligencj\u0119, a na takim za\u0142o\u017ceniu opiera si\u0119 przecie\u017c defetyzm pana profesora, to logicznym wydaje si\u0119 za\u0142o\u017cenie \u2014 jak wcze\u015bniej wspomnia\u0142em \u2014 \u017ce taka superinteligencja b\u0119dzie zdolna do dokonywania nowych odkry\u0107 naukowych, kt\u00f3re przekraczaj\u0105 mo\u017cliwo\u015bci ludzkiego umys\u0142u. Z pomoc\u0105 superinteligencji ludzko\u015b\u0107 ma zdecydowanie wi\u0119ksze szanse na lepsze zrozumienie rzeczywisto\u015bci.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Profesor wspomina, \u017ce AI to systemy czarnoskrzynkowe.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Systemy czarnoskrzynkowe, czyli takie, kt\u00f3rych operacje s\u0105 trudne lub niemo\u017cliwe do szczeg\u00f3\u0142owego prze\u015bledzenia, to przede wszystkim ludzkie m\u00f3zgi. Podobnie, jak nie mo\u017cemy prze\u015bledzi\u0107 dok\u0142adnego dzia\u0142ania g\u0142\u0119bokich sieci neuronowych, tak nie mo\u017cemy prze\u015bledzi\u0107 dok\u0142adnego dzia\u0142ania ludzkiego m\u00f3zgu. <\/span><\/div>\n
 <\/div>\n
Stworzenie kolejnego systemu czarnoskrzynkowego, lecz znacznie bardziej inteligentnego, od tego ludzkiego, nie oznacza, \u017ce czeka ludzko\u015b\u0107 zag\u0142ada. Czeka nas silniejsza inteligencja, ale to, czy ona b\u0119dzie dla nas bezpieczna, czy niebezpieczna, nie zale\u017cy od tego, czy b\u0119dzie transparentna. <\/span><\/div>\n
 <\/div>\n
Ponadto, trudno zak\u0142ada\u0107, \u017ce te systemy b\u0119d\u0105 z pewno\u015bci\u0105 czarnymi skrzynkami. Nie jest wykluczone, \u017ce w\u0142a\u015bnie dzi\u0119ki AI, uda si\u0119 wreszcie przenikn\u0105\u0107 skomplikowanie sieci neuronowych, sztucznych i biologicznych. By\u0107 mo\u017ce to w\u0142a\u015bnie dzi\u0119ki jednym AI, zrozumiemy m\u00f3zgi, zar\u00f3wno biologiczne, jak i cyfrowe.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Nie mniej ni\u017c 10% badanych twierdzi, \u017ce istnieje powa\u017cne ryzyko, \u017ce AI zlikwiduje ludzi.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Pan profesor nie wskaza\u0142 jednak, czym argumentowane s\u0105 te obawy. Skoro brak jest tych argument\u00f3w, to przyjmuj\u0119, \u017ce przynajmniej cz\u0119\u015b\u0107, je\u015bli nie wi\u0119kszo\u015b\u0107 z tych obaw, to te same obawy, na kt\u00f3re tu odpowiadam.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Jednocze\u015bnie Pan profesor przytoczy\u0142 por\u00f3wnanie, \u017ce producenci samolot\u00f3w nie wypu\u015bciliby na rynek egzemplarza, co do kt\u00f3rego istnia\u0142oby przypuszczenie o 10% ryzyku katastrofy. Pan profesor przyj\u0105\u0142 zatem, \u017ce w przypadku AI kto\u015b rzeczywi\u015bcie policzy\u0142 te 10%. Nie wiadomo jednak, kto to policzy\u0142 i to jak to policzy\u0142. Osobi\u015bcie w\u0105tpi\u0119, aby takie wyliczenie istnia\u0142o, albowiem uwa\u017cam, \u017ce jest to niepoliczalne.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Techno-entuzjazm jest najbardziej niebezpieczn\u0105 ideologi\u0105.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Rozumiem, \u017ce to stwierdzenie bazuje na argumentach, z kt\u00f3rymi tu dyskutuj\u0119. Je\u015bli tak, to nie czuj\u0119 si\u0119 zaniepokojony. Z ca\u0142ym szacunkiem, ale powy\u017csze stwierdzenie pana profesora ma mniej wi\u0119cej tyle sensu, co stwierdzenie ksi\u0119dza podczas mszy, \u017ce niechodzenie do ko\u015bcio\u0142a jest z\u0142e.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Innymi s\u0142owy, pan profesor wierzy w co\u015b i t\u0119 wiar\u0119 g\u0142osi. Jest to jednak przede wszystkim wiara, a nie wnioski wynikaj\u0105ce z fakt\u00f3w, co staram si\u0119 tu pokaza\u0107. Podobnie jak ko\u015bci\u00f3\u0142, kt\u00f3ry niejednokrotnie hamowa\u0142 rozw\u00f3j nauki, cho\u0107 te\u017c wielokrotnie go przyspiesza\u0142, tak szanowny pan profesor wchodzi w rol\u0119 kaznodziei g\u0142osz\u0105cego hamuj\u0105cy rozw\u00f3j defetyzm.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
AI niesie ze sob\u0105 ryzyko systemowe i z tego trzeba wyci\u0105gn\u0105\u0107 wnioski.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Ryzyko systemowe to poj\u0119cie, kt\u00f3re w skr\u00f3cie odnosi si\u0119 do zagro\u017ce\u0144 wp\u0142ywaj\u0105cych na ca\u0142y system ludzkiej cywilizacji. Pan profesor raczy\u0142 pomin\u0105\u0107 bardzo wa\u017cny w tej kwestii fakt, \u017ce zagro\u017cenia systemowe towarzysz\u0105 nam od stuleci i nie s\u0105 ograniczone do jednego obszaru, ale rozci\u0105gaj\u0105 si\u0119 na wiele dziedzin naszego \u017cycia.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Przyk\u0142ady obecnych ryzyk systemowych mo\u017cna znale\u017a\u0107 w medycynie, gdzie praca nad wirusami i bakteriami mo\u017ce prowadzi\u0107 do nieprzewidywalnych konsekwencji. Fizyka r\u00f3wnie\u017c niesie ze sob\u0105 ryzyka, w szczeg\u00f3lno\u015bci w zakresie prac nad energi\u0105 nuklearn\u0105. W chemii, tworzenie i badanie nowych zwi\u0105zk\u00f3w chemicznych, mo\u017ce nie\u015b\u0107 potencjalne zagro\u017cenia. Nawet ekonomia, ze swoimi globalnymi kryzysami gospodarczymi, tak\u017ce stanowi ryzyko systemowe. Koronnym za\u015b przyk\u0142adem ryzyka systemowego, kt\u00f3re towarzyszy nam od zarania dziej\u00f3w, jest polityka z wojnami i rz\u0105dami autorytarnymi.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Ryzyka systemowe nie s\u0105 niczym nowym, zawsze by\u0142y elementem naszej cywilizacji i ludzie zawsze znajdowali sposoby, by nie doprowadza\u0142y do zag\u0142ady ca\u0142ej ludzko\u015bci.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Pan profesor twierdzi, \u017ce techno-entuzja\u015bci tworz\u0105 zas\u0142on\u0119, kt\u00f3ra uniemo\u017cliwia ludzko\u015bci spokojne zbadanie kondycji cywilizacji.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
W jaki spos\u00f3b techno-entuzja\u015bci uniemo\u017cliwiaj\u0105 panu profesorowi lub komukolwiek innemu badanie czegokolwiek? Ka\u017cdy ma pe\u0142ne prawo dokonywa\u0107 wszelkich niezb\u0119dnych analiz, z poszanowaniem prawa w\u0142asno\u015bci. Tu mamy dobr\u0105 wiadomo\u015b\u0107, Big Tech idzie w kierunku open source AI. Przyk\u0142adami s\u0105 Meta i X, kt\u00f3re ju\u017c udost\u0119pni\u0142y swoje modele i ka\u017cdy mo\u017ce je bezp\u0142atnie pobra\u0107 i dowolnie analizowa\u0107.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Czym si\u0119 r\u00f3\u017cni\u0105 technologie cyfrowe od pozosta\u0142ych technologii? Tym, \u017ce mog\u0105 by\u0107 w niesko\u0144czono\u015b\u0107 kopiowane i to stanowi zagro\u017cenie dla ludzko\u015bci.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
O ile technologie cyfrowe znacz\u0105co u\u0142atwiaj\u0105 i przyspieszaj\u0105 kopiowanie, to mamy przyk\u0142ad innej technologii, kt\u00f3ra kopiuje na skal\u0119 nieosi\u0105galn\u0105 dla technologii cyfrowej – replikacja biologiczna.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
\u017badna technologia, opr\u00f3cz AI, nie mo\u017ce si\u0119 powiela\u0107.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Mikroorganizmy takie jak wirusy, bakterie i grzyby, kt\u00f3re s\u0105 hodowane w laboratoriach, maj\u0105 doskona\u0142e zdolno\u015bci do replikacji. Zasadniczo ca\u0142e \u017cycie biologiczne mo\u017cna w pewnym sensie postrzega\u0107 jako technologi\u0119 wykszta\u0142con\u0105 przez ewolucj\u0119. Technologi\u0119, kt\u00f3r\u0105 ludzko\u015b\u0107 zacz\u0119\u0142a dopiero stosowa\u0107 i manipulowa\u0107.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Technologie cyfrowe, w odr\u00f3\u017cnieniu, do innych, przenikaj\u0105 wszystkie warstwy \u017cycia spo\u0142ecznego.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Technologiami, kt\u00f3re przenikaj\u0105 wszystkie warstwy \u017cycia spo\u0142ecznego, s\u0105 produkcja, transport, energetyka, technologie edukacyjne, czy nawet obr\u00f3t pieni\u0119dzmi, przyjmuj\u0105c, \u017ce jest to r\u00f3wnie\u017c technologia. Wszystkie te technologie przenikaj\u0105 r\u00f3\u017cne aspekty \u017cycia spo\u0142ecznego, wp\u0142ywaj\u0105c na spos\u00f3b pracy, komunikacji, przemieszczania si\u0119, leczenia, uczenia si\u0119 oraz og\u00f3lnego funkcjonowania spo\u0142ecze\u0144stwa.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Techno-entuzjazm to my\u015blenie nieodpowiedzialne.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Wr\u0119cz przeciwnie, jest to podej\u015bcie promuj\u0105ce wzrost dobrobytu ludzko\u015bci. Techno-entuzja\u015bci czy techno-optymi\u015bci, s\u0105 zwolennikami tego, aby jak najszybciej rozwin\u0105\u0107 technologie, dzi\u0119ki kt\u00f3rym wygramy z chorobami, g\u0142odem, wojnami i uchronimy ludzko\u015b\u0107 przed wygini\u0119ciem. Rozw\u00f3j technologii to g\u0142\u00f3wny czynnik, dzi\u0119ki kt\u00f3remu ro\u015bnie dobrobyt ludzko\u015bci, cho\u0107by mierzony w przeci\u0119tnej d\u0142ugo\u015bci \u017cycia. <\/span><\/div>\n
 <\/div>\n
Techno-pesymizm jest natomiast trendem przeciwnym, jest d\u0105\u017ceniem do spowolnienia rozwoju technologii, kt\u00f3ra – jak wskaza\u0142em wy\u017cej – jest kluczowym czynnikiem wzrostu dobrobytu ludzko\u015bci. Techno-pesymizm jest spojrzeniem w oczy umieraj\u0105cego na raka dziecka i powiedzeniem mu – nie robimy wszystkiego, by ci pom\u00f3c, bo mamy przera\u017caj\u0105ce wizje przysz\u0142o\u015bci.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Techno-entuzja\u015bci to s\u0142abo op\u0142acana armia, dzi\u0119ki kt\u00f3rej korporacje wykr\u0119caj\u0105 si\u0119 przed regulacjami.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Id\u0105c w tak\u0105 retoryk\u0119, mo\u017cna powiedzie\u0107, \u017ce techno-pesymi\u015bci to kiepsko op\u0142acana armia przez skorumpowanych polityk\u00f3w i grupy interes\u00f3w, kt\u00f3rzy ograniczaj\u0105 konkurencj\u0119, hamuj\u0105c rozw\u00f3j technologii burz\u0105cych status quo.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Demokracje daj\u0105 minimalny poziom kontroli nad rz\u0105dz\u0105cymi.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
W\u0142a\u015bnie taki poziom powinien by\u0107 zachowany, minimalny. <\/span><\/div>\n
 <\/div>\n
Techno-pesymi\u015bci chcieliby t\u0119 kontrol\u0119 rozszerzy\u0107 daleko poza ten minimalny zakres i w ten spos\u00f3b wyhamowa\u0107 dalszy rozw\u00f3j ludzko\u015bci. Wi\u0119cej regulacji, wi\u0119cej biurokracji, wi\u0119cej urz\u0119dnik\u00f3w, wi\u0119cej marnotrawionych pieni\u0119dzy, to efekt, do kt\u00f3rego prowadz\u0105 postulaty techno-pesymist\u00f3w.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Odbywa si\u0119 strukturalne zatrucie infosfery.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Obecne zatrucie infosfery, mimo swojej powagi, nie dor\u00f3wnuje skutkom zatru\u0107 z przesz\u0142o\u015bci, kt\u00f3rych sprawcami byli ko\u015bci\u00f3\u0142 i autorytarne re\u017cimy takie jak dyktatury Hitlera czy Stalina. Te historyczne przypadki by\u0142y znacznie bardziej destrukcyjne, gdy\u017c jakakolwiek pr\u00f3ba korekty lub przekazywania fakt\u00f3w, spotyka\u0142a si\u0119 z brutalnym sprzeciwem w\u0142adzy. Sprzeciw ten cz\u0119sto ko\u0144czy\u0142 si\u0119 \u015bmierci\u0105 zuchwalc\u00f3w, wcze\u015bniej na stosach i \u0142ami\u0105cych ko\u0142ach, p\u00f3\u017aniej najcz\u0119\u015bciej od kul. <\/span><\/div>\n
 <\/div>\n
Dzisiejsze zatrucie infosfery, cho\u0107 problematyczne, odbywa si\u0119 w rzeczywisto\u015bci wolno\u015b\u0107 s\u0142owa. Ta wolno\u015b\u0107 gwarantuje, \u017ce ka\u017cde potencjalnie szkodliwe informacje mog\u0105 by\u0107 szybko zneutralizowane przez odpowiednie sprostowania.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Pan profesor dwukrotnie by\u0142 zapytany, dlaczego jest pesymist\u0105 w zakresie kontroli rozwoju AI, skoro ludzko\u015bci udaje si\u0119 kontrolowa\u0107 bro\u0144 biologiczn\u0105.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Pomimo dwukrotnego pytania, pan profesor odpowiedzi nie udzieli\u0142, kieruj\u0105c swoj\u0105 wypowied\u017a na znacznie \u0142atwiejszy grunt broni chemicznej. Bro\u0144 chemiczna jest jednak zupe\u0142nie innym rodzajem broni, albowiem cz\u0105steczki truj\u0105cego gazu nie namna\u017caj\u0105 si\u0119, w przeciwie\u0144stwie do wirus\u00f3w czy bakterii.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Potrzebna jest katastrofa spowodowana przez AI, katastrofa nie za silna ani nie za s\u0142aba, aby pokaza\u0107 ludzko\u015bci, \u017ce rozw\u00f3j AI powinien by\u0107 spowolniony.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Bardzo naiwne jest to stwierdzenie, bior\u0105c pod uwag\u0119 fakt, \u017ce od zarania dziej\u00f3w w zasadzie nie ma stulecia bez w\u0142a\u015bnie takich, nie za s\u0142abych i nie za silnych katastrof. Tymi katastrofami s\u0105 wojny.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Kiedy\u015b w wojnach gin\u0119\u0142y ca\u0142e cywilizacje. W historii ostatnich wiek\u00f3w w wojnach gin\u0119\u0142y miliony. Machina II Wojny \u015awiatowej wytworzy\u0142a skalowaln\u0105 technologi\u0119 ludob\u00f3jstwa – obozy zag\u0142ady.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Czego nauczy\u0142y nas te katastrofy? Jak wszyscy widzimy, niczego. Kolejne wojny wybuchaj\u0105 niemal na pstrykni\u0119cie palcem jednego czy drugiego wariata trzymaj\u0105cego ster w\u0142adzy.<\/span><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
Pan profesor przedstawia przyk\u0142ad, \u017ce AI zapytany o to, jak obni\u017cy\u0107 koszty utrzymania w\u0142asnej infrastruktury, dojdzie do wniosku, \u017ce jednym ze sposob\u00f3w jest wyssanie tlenu z atmosfery, by obni\u017cy\u0107 tempo korozji tej\u017ce infrastruktury. Obni\u017cenie tlenu spowodowa\u0142oby zniszczenie ludzkiej cywilizacji.<\/strong><\/div>\n
 <\/div>\n<\/div>\n<\/div>\n
\n
\n
\n

Przyk\u0142ad ten jest absurdalny, poniewa\u017c zak\u0142ada brak zastosowania odpowiednich zabezpiecze\u0144, kt\u00f3re ludzko\u015b\u0107 zawsze wdra\u017ca przy tworzeniu nowych, ryzykownych technologii. Oto kilka przyk\u0142ad\u00f3w:<\/span><\/p>\n

<\/p>\n<\/div>\n<\/div>\n<\/div>\n

\n