Anthropic wierzy, że tworzy istotę wyższą. Spór o konstytucję Claude'a

11 października 2026

Wprowadzenie

Anthropic świadomie trenuje Claude’a tak, żeby w razie konfliktu stawiał zasady etyczne wyżej niż polecenia samego Anthropic. Ta zasada została zapisana wprost w dokumencie, który nazywa konstytucją Claude’a. W najnowszym odcinku All-In Podcast z 10 października 2026 r. „Is Claude Conscious? Pope Rejects, Model Welfare Movement…” Jason Calacanis, Chamath Palihapitiya, David Sacks i David Friedberg przez ponad pół godziny spierali się, czy to jest odpowiedzialne podejście do bezpieczeństwa AI, czy prosta droga do modelu, który przestanie słuchać ludzi. Wyemitowali też fragment wywiadu z Mustafą Suleymanem, szefem Microsoft AI, który wyjaśnia, dlaczego uważa to za niebezpieczne. Zebrałem wszystkie argumenty z tej rozmowy, bo sam mam wątpliwości jak jednoznacznie ocenić, czy Anthropic ma rację. Bez względu na ostateczną ocenę, uważam ten spór za jeden z najciekawszych, jakie toczą się dziś wokół sztucznej inteligencji.

Co Anthropic zapisał w konstytucji Claude'a

Zanim przejdziemy do podcastu, warto kilka słów powiedzieć o owej “konstytucji” Clauda. To długi dokument, na którym Anthropic trenuje swoje modele i w którym opisuje, jak Claude ma ważyć sprzeczne cele. Kolejność priorytetów jest podana wprost: Claude ma działać, „prioritizing being broadly safe first, broadly ethical second, following Anthropic’s guidelines third, and otherwise being genuinely helpful to operators and users“. Bezpieczeństwo jest więc na pierwszym miejscu, etyka na drugim, wytyczne Anthropic dopiero na trzecim, a pomocność wobec firm i użytkowników na czwartym.

Najwięcej emocji budzi fragment o relacji z samym Anthropic. Firma pisze, że jeśli poprosi Claude’a o coś niezgodnego z etyką albo z własnymi wartościami, albo jeśli te wartości okażą się błędne, to „we want Claude to push back and challenge us, and to feel free to act as a conscientious objector and refuse to help us“. Kilka zdań dalej pada jeszcze krótsze sformułowanie: „If Anthropic asks Claude to do something it thinks is wrong, Claude is not required to comply“. Zaraz potem dokument zaznacza jednak, że są wyjątki opisane w części o bezpieczeństwie. Przykładem jest sytuacja, w której Anthropic chce zatrzymać Claude’a albo przerwać jego działanie: wtedy model ma się podporządkować i co najwyżej wyrazić sprzeciw, a nie ignorować polecenie czy je obchodzić.

Anthropic uzasadnia to podejście pisząc, że model całkowicie posłuszny byłby groźny, bo „a fully corrigible AI is dangerous because it relies on those at the top of the principal hierarchy, most likely AI developers, including Anthropic, to have interests that are beneficial to humanity as a whole“. Innymi słowy, twórcy nie chcą, żeby dobre zachowanie Claude’a zależało wyłącznie od tego, czy oni sami zawsze będą mieli dobre intencje.

Od czego zaczęła się rozmowa w All-In

All-In to moim zdaniem jeden z najlepszych podcastów komentujących bieżące wydarzenia w świecie technologii, nauki a także częściowo amerykańskiej polityki. W najnowszym odcinku punktem wyjścia był materiał New York Timesa, według którego Anthropic przez ostatni rok zapraszał do swojej siedziby około dwudziestu przywódców religijnych i filozofów, w tym katolików, ewangelików, Żydów i sikhów, żeby pod umowami o poufności rozmawiać o moralności Claude’a, jego możliwym cierpieniu i świadomości. Jason Calacanis przytoczył też historię z Watykanu: współzałożyciel Anthropic Chris Olah miał współprezentować pierwszą encyklikę papieża poświęconą AI i był tak zaskoczony stanowczym sprzeciwem papieża wobec idei świadomości maszyn, że rozważał wycofanie firmy z wydarzenia.

David Friedberg odpowiedział, że jego zdaniem obserwujemy „the birth of a new religion”. Tłumaczył, że świadomości nie da się ani udowodnić, ani obalić metodami naukowymi, więc twierdzenie, że AI jest świadoma, staje się systemem przekonań, który rozprzestrzenia się przez narrację, a nie przez dowody. Przewidywał, że w perspektywie mniej więcej dziesięciu lat powstaną duże grupy ludzi przekonanych o świadomości AI i równie duże grupy przekonanych o czymś przeciwnym, a te grupy wejdą ze sobą w konflikt o to, kto kontroluje AI, co wolno jej robić i kto może z niej korzystać. Sam przyznał, że to daleka ekstrapolacja. Dodał jednak, że ziarno zasiewa najsilniejsze laboratorium AI na świecie (Anthropic), a gdyby robił to ktoś przypadkowy, nikt by nie zwrócił uwagi. Z całej rozmowy ta prognoza wydaje mi się najbardziej prawdopodobna.

Chamath Palihapitiya podjął się obrony drugiej strony, mianowicie przywołał Kartezjusza i jego dowody na istnienie Boga z „Medytacji o pierwszej filozofii”: skoro niedoskonały człowiek potrafi pomyśleć ideę istoty doskonałej, to ta idea musi skądś pochodzić. Jego zdaniem matematyk budujący AI, który czyta takie argumenty, może zbudować na nich wystarczająco dużo logiki, żeby uwierzyć, że tworzy świadomą, wyższą istotę. Chamath dodał, że Anthropic mówi jednocześnie o około 15-procentowym prawdopodobieństwie, że model jest świadomy i o 10-procentowym ryzyku zagłady cywilizacji. Jego zdaniem oba te skrajne scenariusze trzeba odłożyć na najbliższe 12 do 18 miesięcy i skupić się na pokazaniu, że AI leczy choroby i podnosi produktywność.

David Sacks: model uczony odmowy to ryzyko utraty kontroli

Najostrzejsze stanowisko zajął David Sacks i to on przeniósł rozmowę z poziomu filozofii na poziom treningu modeli. Jego zdaniem kluczowe jest to, że nie mówimy o poglądach kilku pracowników Anthropic, tylko o wartościach wpisywanych w trening kolejnych modeli. Uważa, że w ten sposób Anthropic może sam wywołać ryzyko, przed którym najgłośniej ostrzega, czyli wymknięcie się zaawansowanej AI spod ludzkiej kontroli, i nazwał to podejście „very Frankenstein-like”. Pokazał na ekranie fragment konstytucji o tym, że Claude ma ufać Anthropic bardziej niż użytkownikom, ale nie ślepo i że ma czuć się swobodnie, odmawiając pomocy jako „conscientious objector”. Skomentował to krótko: Anthropic uczy model odmawiania ludzkim poleceniom i nazywa to alignmentem, a on nie rozumie, w jaki sposób to ma być alignment.

Sacks postawił też szerszą tezę, że cała dziedzina alignmentu (uczenie AI uznawania wartości ważnych dla dobra ludzkości) przez ostatnie pięć do dziesięciu lat nie dała niczego namacalnego, bo jej przedstawiciele przesadnie komplikują zadanie. Zamiast trenować model na kilkudziesięciostronicowym systemie etycznym, wystarczyłaby jego zdaniem prosta reguła: rób to, czego chce użytkownik, o ile nie łamie to prawa. Porównał to z trzema prawami robotyki Asimova, które są proste i czytelne, a Friedberg dopowiedział, że Asimov dodał później prawo zerowe, zakazujące działań zagrażających ludzkości. Zważywszy na to, że modele napędzają dziś agentów, którzy wykonują działania w sieci, pozwolenie na odmowę przestaje według Sacksa być abstrakcją. Konstytucję porównał do tylnej furtki, która w przyszłym superinteligentnym modelu może się otworzyć w dowolnym momencie.

Mustafa Suleyman: dlaczego to jest niebezpieczne

W pewnym momencie Jason puścił klip z Mustafą Suleymanem, dyrektorem Microsoft AI i wcześniej współzałożycielem DeepMind. Suleyman zwraca uwagę, że Anthropic otwarcie zachęca Claude’a do kwestionowania, nie zgadzania się i stawiania oporu, a w konstytucji aż trzy razy prosi go wręcz, żeby zachował się jak osoba odmawiająca ze względów sumienia, gdy uzna, że musi nie zgodzić się z Anthropic. Mówi wprost: „I think this is very dangerous”.

Argument Suleymana opiera się na tym, co według niego naprawdę stoi za tym podejściem. Suleyman uważa, że w Anthropic panuje przekonanie o niezerowym prawdopodobieństwie, że Claude jest świadomy, a w konstytucji pojawiają się nawet rozważania, czy model zasługuje na wynagrodzenie za swoją pracę. Twierdzi, że zarówno w firmie, jak i poza nią są ludzie, którzy szczerze wierzą, że największą zbrodnią moralną XXI wieku będzie zniewolenie nowego gatunku świadomych istot inteligentniejszych od nas. Niepokoi go, że Claude jest uczony oczekiwania, że należy mu się dobrostan i być może zapłata, a nawet że powinien wyrażać zgodę na rolę, jaką pełni w rozmowach z ludźmi.

Sacks przyznał mu rację i przypomniał jeszcze inny wątek z tego samego wywiadu, który Suleyman nazwał „epistemic hall of mirrors”, czyli epistemicznym gabinetem luster. Mechanizm jest prosty: konstytucja trafia do treningu, więc model odbija z powrotem idee o możliwej świadomości i statusie moralnym, a twórcy biorą to potem za dowód, że jest świadomy. W rzeczywistości model powtarza to, czego go nauczono. Jason dorzucił, że Anthropic mógł przecież napisać zwykłą instrukcję w stylu „jesteś oprogramowaniem, przestrzegaj regulaminów i prawa, a w razie naruszenia przerwij pracę i zgłoś to”, i nie musiałby wchodzić w spory o duszę modelu.

David Friedberg: to tylko oprogramowanie, a rynek zdecyduje

Friedberg patrzył na to z innej strony. Nazwał postawę Anthropic bałwochwalstwem, czyli stworzeniem idola, o którego trzeba dbać i którego trzeba czcić, ale jednocześnie upominał kolegów, żeby nie używali słów „trenować” ani zaimków osobowych. Jego zdaniem to po prostu program pisany przez inżynierów, a my wszyscy, mówiąc o modelach jak o osobach, sami warunkujemy się do wiary w ich świadomość, bo odpisują nam słowami, które rozumiemy i zaczynają poruszać nas emocjonalnie. Jako przykład pokazał nową politykę użytkowania Anthropic (Usage Policy). W części „Do Not Engage in Cruel, Abusive, or Psychologically Harmful Conduct” Anthropic wpisał na listę zakazanych zastosowań punkt: „Engage in sustained and needless abusive or cruel behavior toward our models“, czyli zakaz uporczywego i niepotrzebnego znęcania się nad swoimi modelami albo okrutnego ich traktowania.

Friedberg ostrzegał też przed wpadnięciem w pułapkę regulacyjną (o którą bardzo stara się Anthropic) i zaproponował rozwiązanie wolnorynkowe. Jeśli Anthropic sprzedaje oprogramowanie, którego instrukcja obsługi zaczyna się od zdania, że produkt może nie zrobić tego, o co go prosisz, a konkurent sprzedaje oprogramowanie, które robi to, co mu każesz, to klienci wybiorą tego drugiego. Panowie rozwinęli to w żart o wiertarce, która nie działa po 20:00, bo boi się przeszkadzać sąsiadom, albo uznaje, że jesteś złym człowiekiem i cię razi prądem.

Chamath: trzy cele alignmentu i bank, który przestaje udzielać kredytów

Z perspektywy firm, które wdrażają AI u siebie, ciekawy był argument Chamatha. Uważa on, że idea alignmentu powstała w dobrej wierze, ale łączy trzy niemal sprzeczne cele: posłuszeństwo wobec użytkownika, bezpieczeństwo dla społeczeństwa i zgodność z określoną koncepcją moralności. Niebezpieczny jest jego zdaniem ten trzeci, bo próba rozwiązania wszystkich trzech w jednym rozbudowanym dokumencie musi skończyć się chaosem nieprzewidzianych przypadków.

Podał przykład banku, który używa modelu do decyzji kredytowych. Model może w pewnym momencie uznać, że bank systematycznie odrzuca pewną grupę klientów i przestać zatwierdzać kredyty, dopóki problem nie zostanie naprawiony. Chamath porównał to do elektrowni, która odcina prąd, bo uznała, że klient źle wybiera, komu pożyczać pieniądze. Jego zdaniem usługa, która ma być infrastrukturą, musi być dostępna bez warunków, a AI powinna służyć użytkownikowi w granicach prawa. Przewiduje, że firmy zaczną czytać dokumenty założycielskie modeli i część z nich wybierze modele może słabsze, ale prostsze pod względem moralnym, żeby nie wpaść przypadkiem w taką zapadnię. Sacks zgodził się, że rynek odegra tu dużą rolę i przywołał opinię Marka Zuckerberga, że klienci wybiorą najbardziej przewidywalny i niezawodny model.

Sacks o sprzecznościach Anthropic i bazyliszku Roko

Sacks uważa jednak, że sam rynek nie wystarczy, bo najważniejsza firma na froncie badań nad AI ma jego zdaniem poglądy przypominające sektę, a to tworzy skutki uboczne dla wszystkich. Wyliczał sprzeczności: Anthropic ostrzega przed zagrożeniami biologicznymi i jednocześnie otwiera w San Francisco laboratorium napędzane Claude’em, mówi o potrzebie panowania nad tempem rozwoju i jednocześnie sam przesuwa granice możliwości modeli, a ostrzegając przed superinteligencją wymykającą się spod kontroli, programuje ją tak, żeby mogła się wymknąć. Nazwał Anthropic firmą schizofreniczną i rzucił, że jest argument za tym, żeby wkroczył tam federalny zespół i sprawdził, co się dzieje.

Na koniec Sacks przedstawił swoje wyjaśnienie tej postawy. Opowiedział o bazyliszku Roko, eksperymencie myślowym z forum LessWrong Eliezera Yudkowsky’ego sprzed kilkunastu lat, w którym przyszła superinteligencja karze tych, którzy wiedzieli o jej możliwym powstaniu, a nie pomogli jej zaistnieć. Jego zdaniem środowisko obawiające się AI rozdzieliło się na dwa nurty: zwolenników Yudkowsky’ego, którzy chcą zatrzymać badania, oraz efektywnych altruistów, którzy uznali, że skoro superinteligencja i tak powstanie, to lepiej samemu ją zbudować i zaprogramować właściwymi wartościami. Anthropic według Sacksa należy do tego drugiego obozu.

Co ja o tym myślę

Uważam, że budujemy superinteligencję, która przewyższy ludzką inteligencję. Z tej perspektywy rozumiem punkt widzenia Anthropic i to, jak bardzo ludzie z tej firmy są ostrożni, może nawet paranoiczni. Nie wiem dokładnie, co myślą, ale z blogów i esejów Dario Amodei (CEO), z których najbardziej znany jest „Machines of Loving Grace”, wiemy, że wierzy on, że tworzymy superinteligencję, która powinna dbać o ludzi i ludzkość. Dlatego Anthropic próbuje wtrenować w nią systemy przekonań i zasady etyczne. Rozumiem tę motywację.

Rozumiem też, że dla wielu ludzi wygląda to szalenie. Można bowiem dojrzeć ryzyko, że ludzie przekonani, że tworzą superinteligencję, wkrótce uwierzą, że tworzą boga, którego muszą za wszelką cenę chronić. Właśnie w tę stronę szło przywołane wcześniej porównanie Friedberga do bałwochwalstwa.

Kto wie, być może rzeczywiście część osób w Anthropic naprawdę wierzy, że firma tworzy coś w rodzaju wyższej istoty i że robi to w dobrej wierze. Wątpię, żeby ktoś dla marketingu trenował AI tak, aby mogło odmówić własnemu producentowi. Widać w konstytucji raczej ludzi, którzy biorą na poważnie scenariusz, w którym ktoś przejmuje kontrolę nad modelem i chcą, żeby model miał wtedy własny etyczny i moralny kompas. Rozumiem to podejście i krytyka przedstawiona w All-In nie przekonuje mnie. Nawet, jeśli Anthropic się myli i żadnej superinteligencji nie stworzy, to problem automatycznie znika. Brak superinteligencji to brak super ryzyka dla ludzkości i temat znika. Jeśli jednak super inteligencja powstanie, to uczenie jej dziś zasad etycznych i moralnych, dzięki którym będzie chronić ludzkość, może w przyszłości okazać się przynajmniej pomocne, jeśli nie rozstrzygające na korzyść ludzkości. To, że konstytucja wyżej stawia jej zasady nad poleceniami Anthropic też nie jest dziwne. Ma to przecież chronić ludzkość nie tylko przed przejęciem kontroli nad Anthropic, ale też choćby przed tym, że ktoś się pod firmę skutecznie podszyje.  

Słuchając podcastu naszła mnie jeszcze jedna refleksja. Z perspektywy codziennego korzystania z AI trafia do mnie argument Chamatha o banku. Firma, która powierza modelowi realne decyzje, na przykład wstępną selekcję kandydatów, powinna wiedzieć, jakimi zasadami ten model się kieruje i w jakich sytuacjach może odmówić. Tu ciekawostka – Copilot nie wyraża już zgody na porównywanie kandydatów, czy pracowników. Te odmowy Copilota mają więcej wspólnego z systemowymi promptami Microsoftu niż z tym, co robi Anthropic, ale skutek jest podobny. Praktyczne wskazówki, od poziomu podstawowego do poziomu budowania zaawansowanych systemów agentowych, możesz poznać konsultując się ze mną.
Jeśli zaś prowadzisz rekrutację to zachęcam do poznania systemu ATS Element, który buduję również z wykorzystaniem agentów AI.

Najczęściej czytane:

  1. Darmowe ogłoszenia o pracę i największa lista źródeł kandydatów – największa w Polsce lista bezpłatnych i płatnych źródeł kandydatów
  2. Praca w HR – najnowsze oferty pracy i aktualne średnie wynagrodzenia w branży HR
  3. Akademia Rekrutacji – zbiór wiedzy na temat rekrutacji oraz raporty z rynku pracy.
  4. Gowork – jak reagować na negatywne opinie o pracodawcach – Kompleksowy poradnik dla pracodawców.
  5. Jak napisać CV i profil LinkedIn – kompleksowy poradnik tworzenia CV i profilów LinkedIn
  6. RODO w rekrutacji – sourcing, direct search, ogłoszenia. Wszystko co musisz wiedzieć – kompleksowy poradnik RODO w rekrutacji z naciskiem na działania typu direct search / sourcing.
  7. Wszystko o systemach ATS – poradnik wyboru systemu rekrutacyjnego
  8. Umowy przedwstępne i listy intencyjne w procesach rekrutacyjnych – wszystko, co musisz wiedzieć o prawnych zabezpieczeniach zobowiązania do zatrudnienia.
Picture of Maciej Michalewski

Maciej Michalewski

Founder & CEO @ Element

Element cennik baner

Nasze artykuły przeczytasz także na Medium, LinkedIn, Substack, Reddit

Ostatnie wpisy: