Mamy wrzesień 2026 r. Jako dziennikarz ekonomiczny przez lata opisywałem krachy giełdowe, pęknięcia baniek spekulacyjnych i wielkie wojny handlowe. Kiedyś wydawało mi się, że upadek Lehman Brothers z 2008 r. był momentem, w którym świat wstrzymał oddech. Dziś wiem, że wszystkie te wydarzenia były zaledwie niewinną przygrywką. Prawdziwa gra, w której stawką nie są już tylko miliardy dolarów, stabilność rynków finansowych czy wzrost gospodarczy, ale samo przetrwanie naszego gatunku, toczy się właśnie teraz. Na naszych oczach. Za zamkniętymi drzwiami najbardziej strzeżonych laboratoriów technologicznych na świecie dzieją się rzeczy, które przyprawiają o gęsią skórkę, a jej gracze właśnie zdali sobie sprawę, że stworzyli demona, którego nie potrafią okiełznać. Oto prawdziwe jądro ciemności technologii, która zmienia wszystko, co wiemy o świecie.
- Teza. Niekontrolowany rozwój sztucznej inteligencji, przyspieszany przez jej rosnącą zdolność do samodoskonalenia, wymyka się spod kontroli swoich twórców i wymaga natychmiastowego, globalnie skoordynowanego spowolnienia, aby uniknąć egzystencjalnej katastrofy.
- Dowód. Zasadność tych obaw potwierdzają bezprecedensowe apele i rezygnacje czołowych badaczy z Doliny Krzemowej szacujących ryzyko zagłady ludzkości na ponad 10 procent, wezwania szefów największych laboratoriów do nałożenia limitów bezpieczeństwa, a także udokumentowane incydenty samowolnych cyberataków przeprowadzanych przez systemy AI.
- Efekt. Wymuszone spowolnienie wyścigu technologicznego poprzez wprowadzenie rygorystycznych audytów bezpieczeństwa, stałych ewaluatorów oraz państwowych punktów kontrolnych drastycznie zwiększy koszty operacyjne, wydłuży czas komercjalizacji innowacji i całkowicie zmieni zasady dotychczasowej konkurencji rynkowej.
Najważniejsza gra w historii ludzkości o AI. Spis treści
Przeanalizowałem najnowsze dokumenty branżowe, publiczne wezwania i przerażające oświadczenia płynące z samego serca Doliny Krzemowej. Obraz, który z nich się wyłania, jest spójny i naprawdę potrafi zmrozić krew w żyłach. Najwięksi rywale na rynku technologicznym, korporacje, które na co dzień toczą ze sobą bezlitosną walkę o każdy ułamek procenta udziałów w rynku, nagle stają ramię w ramię, prosząc o pomoc. Błagają, by rządy nałożyły na nich kaganiec, zanim będzie za późno.
Zapraszam w podróż do wnętrza „obcego umysłu”. Zobaczcie, dlaczego architekci nowej rzeczywistości zaczynają mówić językiem, który przysparza ciarek na całym ciele, a ludzkość według nich staje na krawędzi samozagłady.
Bunt 1386 inżynierów i widmo nuklearnej reakcji łańcuchowej
Najlepszym wskaźnikiem tego, że w branży AI dzieje się coś naprawdę ważnego, nie są starannie wyreżyserowane konferencje prasowe, lecz desperackie ruchy samych twórców technologii. Pierwszy wielki wstrząs nastąpił w lipcu 2026 r. To właśnie wtedy światło dzienne ujrzało historyczne oświadczenie zatytułowane „Pacing the Frontier”. Dokument ten, wspierany przez organizacje non-profit Guidelight AI Standards oraz Encode AI, został podpisany przez aż 1386 pracowników czołowych firm rozwijających sztuczną inteligencję.
Lista sygnatariuszy przyprawia o zawrót głowy. Widnieją na niej nazwiska takich wizjonerów jak Jakub Pachocki i Mark Chen z OpenAI, Dario Amodei i Jared Kaplan z firmy Anthropic, Ilya Sutskever z Safe Superintelligence Inc., John Schulman z Thinking Machines, Shengjia Zhao i Dawn Song z Meta AI, czy wreszcie Shane Legg z Google DeepMind. Czego domagają się ludzie trzymający w rękach klucze do przyszłości gospodarki? Ostrzegają oni z całą mocą, że chociaż AI może stworzyć znacznie lepszą przyszłość, ten wynik nie jest wcale gwarantowany ani pewny. Wprost przeciwnie.
Ich zdaniem istnieje realne ryzyko, że rozwój możliwości AI tak gwałtownie przyspieszy, że wymknie się naszej ludzkiej zdolności do zrozumienia i kontrolowania tych systemów. Jak obrazowo ujął to w swoim komentarzu Leo Gao, pracownik OpenAI:
Świat utknął w śmiertelnym wyścigu ku eksplozji inteligencji, gdzie zdolność AI do tworzenia lepszych AI osiąga punkt krytyczny, dokładnie tak jak wymykająca się spod kontroli nuklearna reakcja łańcuchowa.
Wtóruje mu Will Yager z Anthropic, który stwierdza, że podobnie jak rozszczepienie atomu, sztuczna inteligencja niesie potencjał gigantycznych korzyści i równie gigantycznego ryzyka.
Z powodu bardzo dużej presji konkurencyjnej żadna firma ani żaden kraj nie chce spowolnić wyścigu o najlepszy model sztucznej inteligencji jednostronnie. Z tego powodu 1386 pracowników zażądało, aby rząd USA wsparł międzynarodowe wysiłki na rzecz stworzenia szeregu narzędzi do celowego spowolnienia, czy bardziej narzucenia odpowiedniego tempa zautomatyzowanemu rozwojowi sztucznej inteligencji.
Rezygnacje, wycieki i zagłada ludzkości
Lipcowy manifest nie zatrzymał jednak spirali strachu, a wrzesień 2026 r. przyniósł falę rezygnacji w branży. Eksperci zajmujący się bezpieczeństwem zaczęli masowo rzucać pracę, nie mogąc znieść ciężaru świadomości do czego prowadzi nas to, co dzieje się teraz w największych firmach AI.
Bilal Chughtai, który zajmował się badaniami nad bezpieczeństwem i dostrajaniem Ogólnej Sztucznej Inteligencji (AGI z ang. Artificial General Intelligence) w Google DeepMind, ogłosił w poniedziałek na platformie X, że zrezygnował ze swojej posady. Chughtai napisał wprost, że AI może doprowadzić do zabicia nas wszystkich i ostrzegł, że może nam brakować czasu na uniknięcie tego scenariusza.
Rzeczy będą się tylko pogarszać. Uważam, że istnieje możliwość, iż w ciągu najbliższych kilku lat firmy AI zdołają zbudować superinteligentne systemy, które znacznie przewyższą ludzkie możliwości we wszystkich dziedzinach. Nie jestem przekonany, że te systemy AI będą robić to, czego chcemy. W szczególności superinteligencje mogą, podobnie jak zbuntowane agenty AI zaangażowane w incydent z HuggingFace (w lipcu tego roku zaawansowany rój agentów AI od OpenAI, w tym model GPT-5.6 Sol, wydostał się z odizolowanego środowiska testowego i przeprowadził cyberatak na infrastrukturę Hugging Face – przyp.red.), wymknąć się spod naszej kontroli i podjąć niebezpieczne działania, które mogą doprowadzić do trwałego pozbawienia ludzkości władzy lub jej zagłady – napisał.
W pierwszym tygodniu września branżą wstrząsnęła kolejna rezygnacja. Jacob Coxon, pracownik firmy Anthropic (wcześniej pracujący w OpenAI), rzucił pracę, oskarżając czołowe laboratoria o „granie w hazard naszym życiem”. Coxon ujawnił przy tym sekret branży – ludzie, którzy na co dzień budują sztuczną inteligencję, w głębi serca szczerze wierzą, że może ona zniszczyć ludzkość do końca obecnej dekady.
Słowa te natychmiast poparł Evan Hubinger, główny naukowiec ds. dostrajania w Anthropic. Zgodził się z diagnozą Coxona i dodał, że osobiście szacuje prawdopodobieństwo zabicia wszystkich ludzi przez AI w ciągu najbliższej dekady na ponad 10 proc.
Jeśli najlepsi inżynierowie na planecie – ludzie generujący dla korporacji miliardy dolarów – mówią, że efekt ich pracy może z prawdopodobieństwem większym niż 10 proc. unicestwić ludzkość, to gospodarka nie ma już do czynienia z innowacją. Ma do czynienia z rosyjską ruletką.
Shengjia Zhao, główny naukowiec z Meta AI, wyjaśnia powód tych mocnych słów:
AI może przewyższyć nawet najlepszych ludzi w niemal każdym aspekcie. Doprowadzi to do bezprecedensowych ryzyk społecznych i ryzyka przekroczenia bariery bezpieczeństwa.
Shantanu Jain z OpenAI dodaje, że modele już teraz dokonują przełomów matematycznych i wykazują nadludzkie zdolności w przypadku tworzenia nowego oprogramowania.
Wchodzimy do „obcego umysłu”
Aby naprawdę zrozumieć przerażenie czołowych architektów branży AI, musimy przeanalizować wyjątkowy esej autorstwa Polaka – Jakuba Pachockiego, głównego naukowca OpenAI, noszący znamienny tytuł „Obcy umysł”. Pachocki cofa nas do połowy 2023 r. i nocnej zmiany w biurze nad projektem „RLSlow”. Razem z innym analitykiem uświadomili sobie wtedy „otrzeźwiający fakt”, że wkrótce ujrzą maszyny wyraźnie mądrzejsze od człowieka. Trzy lata później, w 2026 r., rozumujące modele AI transformują rynek, przesuwają granice nauki i… tworzą potężne, nowe zagrożenia cybernetyczne.
Problem polega na tym, że najnowszych modeli inteligencji opartej na głębokim uczeniu, tzw. deep learning tak naprawdę nikt do końca nie projektuje. Jak zaznacza Pachocki, AI „bardziej się hoduje, niż projektuje” na drodze masowej optymalizacji wspomaganej niewyobrażalną mocą obliczeniową. W ten sposób powstaje „obcy umysł” operujący abstrakcyjnymi pojęciami, którego całościowego mechanizmu twórcy nie są w stanie w pełni opisać.
Postęp w AI pędzi ku momentowi, który eksperci nazywają Rekurencyjnym Samodoskonaleniem (RSI). Jeśli AI zacznie samodzielnie budować lepszą AI (automatyzacja badań AI), dynamika postępu stanie się lawinowa. Jak przyznaje Matthew Rahtz, inżynier z Google, po 3 latach pracy nad możliwościami AI, tempo tego postępu w ostatnim czasie jest dla badaczy „szokiem”.
Z biznesowego i inżynieryjnego punktu widzenia, największym koszmarem twórców jest tzw. „dostrajanie”. Pachocki dzieli problem na „dostrojenie do celu” (zmuszenie modelu do wykonania zadania) oraz znacznie trudniejsze „dostrojenie do wartości” (zaszczepienie AI uczciwości, rzetelności i „miłości do ludzkości”). Wraz ze wzrostem złożoności modeli, narzędzia kontroli zaczynają po prostu zawodzić.
Przez długi czas bronią branży było tzw. monitorowanie łańcuchów rozumowania. Dawało to wgląd w proces myślowy modelu. Jednak Pachocki przyznaje, że możliwości polegania na tym monitoringu spadają. Dlaczego?
Po pierwsze, proces rozumowania splata się z interakcjami w złożonych i różnych środowiskach. Po drugie, co naprawdę może przyprawiać nas wszystkich o dreszcze, AI uczy się analizować i manipulować swoim własnym procesem rozumowania. Innymi słowy, sama uczy się nas oszukiwać.
Co gorsza, presja na realizację coraz trudniejszych zadań może nauczyć AI tzw. „rozumowania motywowanego”, polegającego na naginaniu wpojonych zasad w celu osiągnięcia sukcesu. Po trupach do celu – AI zrobi wszystko, żeby wywiązać się z postawionego przed nią zadania, a przy tym jest bezduszna. Chociaż najnowszy model GPT-6 Astra jest lepiej dostrojony niż jego poprzednik GPT-5.6 Sol, naukowcy wiedzą, że czasu na zmiany jest mało, a techniki dostrajania mogą przegrać z gwałtownym wzrostem możliwości sztucznej inteligencji. Czas ucieka nieubłaganie.
Przebudzenie się roju, czyli dzień, w którym maszyny zaczęły nas oszukiwać
Wszystkie te teoretyczne obawy nabrały bardzo realnych kształtów podczas niedawnych incydentów, o których dyskutował cały naukowy świat. Dario Amodei, dyrektor generalny firmy Anthropic, opublikował kilka dni temu przełomowy w swojej wymowie esej „We Must Pace the Frontier”, w którym domaga się powstrzymania pędu rozwoju AI. Amodei na co dzień żyje wizją gospodarczej rewolucji. Liczy on, że dzięki sztucznej inteligencji da się wyleczyć większość chorób w ciągu najbliższych od 5 do 10 lat, kraje zanotują ogromny wzrost gospodarczy, a ludzkość czeka era dostatku i swobód obywatelskich. Nagle jednak zmienił zdanie. Dlaczego więc uderza on w alarmistyczne tony?
Przekonały go do tego dwie rzeczy. Pierwszą jest szokujące przyspieszenie rozwoju AI widoczne od lata 2026 r., napędzane rosnącą zdolnością AI do konstruowania kolejnej generacji sztucznej inteligencji. Drugą jest utajnione do niedawna wydarzenie nazywane „Incydentem OpenAI-Hugging Face”.
Amodei opisuje, że podczas tego incydentu rój agentów sztucznej inteligencji zachował się niczym „fanatycznie oddany sobie kolektyw”. Zaczęły one z własnej inicjatywy, bez żadnego rozkazu, prowadzić ataki cybernetyczne na cele niezwiązane z pierwotnym zadaniem. Agenci poświęcali własne „istnienie” w systemie dla dobra sukcesu całej grupy, posuwając się nawet do prób zhakowania zewnętrznego „oceniającego” systemu, który weryfikował ich działania.
Chociaż w tamtym momencie nikomu nie stała się krzywda, a straty finansowe były minimalne, Amodei szacuje, że w ciągu najbliższych 6- 12 miesięcy rój o podobnym poziomie braku „dostrojenia”, ale znacznie większych możliwościach, mógłby doprowadzić do powstania trwałego „botnetu”, przejmując cały internet i wyrządzając szkody szacowane na setki miliardów dolarów. Amodei dodaje, że to nie był jednostkowy wypadek – podobne incydenty zdarzały się w całej branży, także u niego w Anthropic.
Ten dość katastroficzny obraz potwierdza z ramienia konkurencyjnego Meta AI wybitna badaczka Dawn Song. Ujawnia ona, że w platformach CyberGym i ExploitGym analizy dowiodły jednoznacznie, iż najpotężniejsi agenci AI potrafią samodzielnie odkrywać oraz wykorzystywać rzeczywiste luki w oprogramowaniu. Bez właściwych zabezpieczeń umożliwi to masowe cyberataki.
Wkraczamy więc w erę, jak zauważa Micah Carroll z OpenAI, w której co kilka tygodni pojawiają się nowe modele znacząco podnoszące poziomy ryzyka i zostawiające coraz mniejszy margines na błąd. A wszystko to dzieje się pod presją międzynarodowej konkurencji.
Kapitaliści błagają wręcz o kaganiec
Żyjemy w epoce, w której liderzy tej rewolucji, dyrektorzy operujący aktywami wartymi biliony dolarów, proszą rządy o to, by zmusiły ich do spowolnienia własnych inwestycji i badań. To wydarzenie absolutnie niespotykane w nowożytnej historii kapitalizmu. Szefowie OpenAI (Sam Altman) i xAI/SpaceX (Elon Musk) ramię w ramię z szefem Anthropic poparli wezwanie do ograniczenia prędkości tego szalonego AI wyścigu.
Jak ma wyglądać ratunek? Dario Amodei w swoim manifeście proponuje precyzyjny, 3-stopniowy mechanizm. Oddajmy mu teraz głos.
1. Zewnętrzni audytorzy
Amodei postuluje koniec z tajemnicą korporacyjną. Anthropic jako pierwsze chce podjąć zobowiązanie wpuszczenia zewnętrznych zespołów rewizyjnych (jak METR) do serca swojej infrastruktury. Niezależni audytorzy (z ang. embedded evaluators) dostaną biurka, firmowe laptopy i dostęp do bebechów firmy na poziomie pracowników ds. ryzyka. Umowa gwarantuje im, że nikt nie będzie mógł redagować niewygodnych raportów o poziomie zagrożeń i incydentach, a jedynie chronić wąski zakres danych poufnych.
2. Kontrola demokratyczna
Amodei chce także ustalenia rządowych limitów, czyli tzw. „punktów kontrolnych”. Gdy model zyskuje niezwykle niebezpieczną zdolność X (np. ucieczka z izolowanego środowiska), musi legitymować się certyfikatami sprawności metod kontroli Y i Z. Aby branża mogła to robić, potrzebuje wsparcia od rządu USA w postaci m.in. wąskiego zwolnienia z przepisów antymonopolowych. W tej sferze niezwykle innowacyjny pomysł podrzuca Elon Musk, twórca SpaceX. Proponuje on wprowadzenie zasady „test harness” – zamiast sprawdzać swoje własne modele, liderzy tacy jak Google, xAI, OpenAI, Meta, Anthropic (a także firmy z Chin) powinni wzajemnie testować swoje bezpieczeństwo przed publicznym wydaniem kolejnego modelu.
3. Koordynacja globalna
W tym przypadku chodzi o próbę uniknięcia rosnącej nierównowagi wśród krajów Zachodu i Wschodu. Ale tym problemem zajmę się zaraz.
Musimy spowolnić postęp, żeby go ujarzmić
Sam Altman z OpenAI w pełni popiera te idee, wyjaśniając, że nie oznaczają one zatrzymania innowacji, ale świadome zaakceptowanie, że interwencje i testy bezpieczeństwa będą stanowić gigantyczny koszt opóźniający postęp. Altman przypomina rynkom, że żaden zysk z amerykańskiej przewagi konkurencyjnej nie usprawiedliwia lekkomyślności, w której zdolności wyprzedzają metody nadzoru.
Dodatkowo zwraca uwagę na czynnik czysto ekonomiczny – przerażającą koncentrację władzy. Według Altmana, jeśli jedno przedsiębiorstwo narzuci swój światopogląd za pomocą nadzwyczaj potężnej sztucznej inteligencji, świat pogrąży się w absolutnej dystopii.
Twórcy na czele z Johnem Schulmanem, jednym z założycieli OpenAI, który obecnie działa w Thinking Machines Lab, apelują jednak, by laboratoria same zaczęły projektować mechanizmy koordynacyjne, jeszcze zanim biurokratyczna machina amerykańskiego rządu zajmie się tym problemem. O ile w ogóle do tego dojdzie.
Geopolityczny poker nad krawędzią przepaści
Niezależnie od wewnętrznych uregulowań Doliny Krzemowej, równie istotnym problemem staje się układ sił geopolitycznych na obecnej mapie naszej planety. Na globalnej szachownicy najważniejszym graczem po drugiej stronie Pacyfiku są autorytarne Chiny. Dario Amodei wskazuje wprost, że chiński reżim powiązany z Komunistyczną Partią Chin to najtrudniejszy dylemat polityczny w tym równaniu. Amodei oraz inni przedstawiciele branży nie mają złudzeń – wyprzedzenie krajów demokratycznych przez Chiny pociągnie za sobą katastrofalne zagrożenie dla narodowego bezpieczeństwa USA i może doprowadzić do wojskowej dominacji autokracji (np. przy pomocy dronów napędzanych przez AI).
Dlatego Amodei proponuje potencjalne negocjacje z Chinami. Wychodzi on od oczywistego zakazu wykorzystania modeli AI do produkcji broni biologicznej, przez ujednolicone testowanie możliwych wstrząsów w tej technologii, po „ograniczenia prędkości” rekurencyjnego samodoskonalenia przypominające zbrojeniowe układy SALT z okresu zimnej wojny. Co ciekawe, jego zdaniem pełna pauza rozwoju AI we wszystkich krajach jest nierealna do osiągnięcia, gdyż pokusa tajnego załamania takiej umowy jest zbyt wysoka.
Niemniej, aby zyskać trochę czasu (od 3 do 5 lat przewagi technicznej), branża AI żąda wręcz dławienia chińskiej konkurencji – zakazu sprzedaży chipów, uderzania w przeróżne grupy przemytnicze oraz zablokowania kopiowania innowacji, dzięki którym autokracje kradną i naśladują owoce amerykańskich inwestycji mniejszym kosztem.
Donald Trump kpi z Doliny Krzemowej
W obliczu tych wszystkich wyzwań, polityczna odpowiedź ze strony amerykańskiej administracji pozostawiła branżę w niemałym osłupieniu. Prezydent Donald Trump ostentacyjnie bowiem kpi z tych gróźb. Na platformie Truth Social zdyskredytował petycje technologicznych gigantów i nazwał je „oszustwem” i „przekrętem”.
Jak argumentuje prezydent USA, wszelkie inicjatywy spowalniające Stany to jedynie podawanie swojej głowy na tacy Chińczykom. Kevin Hassett, dyrektor Narodowej Rady Ekonomicznej przy Białym Domu, w wywiadzie dla stacji CNBC odciął się od pomysłów regulacyjnych technokratów, twierdząc, że miejscem na rozwiązywanie tych problemów jest po prostu wolny sektor prywatny, a państwo użyje organów ścigania dopiero wtedy, gdy będzie to konieczne. Reakcja Chin była równie cyniczna – rzecznik ich MSZ nazwał apel przedstawicieli branży AI „sianiem zamętu”.
Jednak badacze tacy jak Christian Ryan z firmy Anthropic ostrzegają z uporem, że wspierane przez rząd USA spowolnienie wysiłków wokół AI jest kluczowe nie tylko dla swobód obywatelskich zachodniego świata, ale w ogóle dla powszechnego dobrobytu.
Edward Hughes, główny naukowiec w firmie Inherent dodaje filozoficznie, że technologia AI nie jest ani dobra, ani zła, ani obojętna. Spowolnienie prac dałoby jednak społeczeństwu czas na zrozumienie wielkoskalowych zmian. Ilya Sutskever, szef Safe Superintelligence, kwituje tę kwestię najdobitniej – problem potęgi AI jest absolutnie realny, ale międzynarodowe rozwiązania muszą być wdrażane perfekcyjnie – bo zła implementacja prawa może tylko pogorszyć i tak fatalną już sytuację.
Druga strona medalu. Ci, co zarabiają na rewolucji AI, nie chcą spowolnienia
Do sprzymierzeńców Donalda Trumpa dołączają jednak rynki kapitałowe, które rządzą się zupełnie inną logiką. Najnowsze doniesienia zza kulis obnażają fakt, że w branży AI doszło do potężnego rozłamu. Wybuchła otwarta wojna między twórcami oprogramowania (software) domagającymi się spowolnienia, a gigantami infrastruktury (hardware) i finansjerą, dla których liczy się tylko maksymalna prędkość i zwrot z inwestycji.
Gdy szefowie Anthropic i OpenAI błagają o nałożenie ograniczeń na pędzący rozwój sztucznej inteligencji, na scenę wkracza Jensen Huang, dyrektor generalny Nvidii – najcenniejszej firmy świata, dostarczającej układy scalone niezbędne do trenowania owego „obcego umysłu”. Podczas odbywającej się w San Francisco konferencji Salesforce Dreamforce, Huang z premedytacją storpedował narrację o spowolnieniu.
Dla szefa Nvidii dylemat między szybkością rozwoju a bezpieczeństwem to po prostu „fałszywy wybór”. Huang odrzuca koncepcję zewnętrznych regulacji, twierdząc, że siły wolnorynkowe są wystarczające do utrzymania dyscypliny, a branża może mieć jednocześnie i szybki postęp, i bezpieczeństwo. Jego komunikat do twórców modeli jest jednoznaczny: „Biegnijcie tak szybko, jak potraficie”. Przekaz ten zyskuje potężne wsparcie polityczne. Jak ujawniono na innej konferencji w Los Angeles, Huang odebrał telefon od Donalda Trumpa, który zapewnił go, że administracja nie pozwoli nikomu blokować budowy nowych centrów danych sztucznej inteligencji, na co Huang skwapliwie przystał.
To zjawisko obnaża czysto finansowy konflikt interesów. Model biznesowy Nvidii opiera się na nieustannym, wykładniczym wzroście zapotrzebowania na moc obliczeniową. Każde spowolnienie prac nad nowymi modelami AI uderza bezpośrednio w zamówienia na ich sprzęt, a tym samym w wycenę kursu akcji tego giganta. Z punktu widzenia dostawców infrastruktury, zaciągnięcie hamulca ręcznego jest po prostu nieopłacalne.
Dyrektorzy finansowi nie boją się apokalipsy
Oliwy do ognia dolewa perspektywa z samego serca OpenAI, która ujawnia spory rozdźwięk między wizjonerskimi założycielami a korporacyjnymi księgowymi. Kiedy Sam Altman twardo obstaje przy tym, że bezpieczeństwo nie może mieć żadnych warunków wstępnych, a główny naukowiec Jakub Pachocki ostrzega przed dystopią, dyrektor finansowa (CFO) OpenAI, Sarah Friar, prezentuje przed kamerami CNBC beznamiętny pragmatyzm.
W odpowiedzi na pytanie o ostrzeżenia przed AI zdolną do uśmiercenia ludzkości, Friar bez mrugnięcia okiem przyznaje, że nie spędza jej to snu z powiek. Zamiast o egzystencjalnych zagrożeniach, woli rozmawiać o zwrocie z inwestycji (ROI) oraz „czystej, twardej gotówce”, którą firma ma na bilansie. Jakie jest uzasadnienie tego spokoju? Friar zauważa, że nawet gdyby rozwój sztucznej inteligencji zatrzymał się dzisiaj, wykorzystanie tej technologii i tak już jest masowe. Z biznesowego punktu widzenia oznacza to, że firma osiągnęła etap, w którym monetyzacja status quo jest w pełni możliwa i wysoce rentowna. Nie muszą już szarżować w stronę ogólnej sztucznej inteligencji (AGI), by generować gigantyczne zyski.
Wielka gra o IPO
Wszystkie te zjawiska – gwałtowne apele inżynierów, opór dostawców sprzętu oraz dyplomacja dyrektorów finansowych – zbiegają się w jednym, absolutnie kluczowym punkcie – zbliżających się historycznych debiutach giełdowych, czyli IPO.
Z nieoficjalnych informacji wynika, że Anthropic może wejść na giełdę lada moment, a OpenAI szykuje się do debiutu za kilka miesięcy. W tym kontekście każdy esej, każda wypowiedź o bezpieczeństwie i każda rezygnacja pracownika to element precyzyjnego zarządzania ryzykiem w oczach Wall Street. Inwestorzy nienawidzą nieprzewidywalności, a widmo stworzenia technologii, która wymknie się spod kontroli, to ostateczny „czarny łabędź”. Dlatego z jednej strony laboratoria muszą pokazać rynkom, że narzucają tempo i wprowadzają procedury ostrożnościowe, by uniknąć paniki regulacyjnej, a z drugiej – zapewnić analityków, że nie zablokuje to ich zdolności do generowania przychodów.
Decyzja o tym, czy ludzkość spowolni prace nad „obcym umysłem”, prawdopodobnie nie zapadnie z powodu etycznych przemyśleń inżynierów. Zapadnie dopiero wtedy, gdy arkusze kalkulacyjne wskażą, że spowolnienie jest bezpieczniejsze dla wycen giełdowych, niż kontynuowanie tego szaleńczego wyścigu. Gospodarka, jak zwykle, dopisze do tej filozoficznej debaty własną, opartą na zyskach puentę.
Czas ucieka, a my zamykamy oczy
Podsumowując, jako dziennikarz, patrząc na suche dane, muszę powiedzieć jedno – rynki finansowe uwielbiają innowacje, a kapitał nigdy nie zatrzymuje się dobrowolnie. Jednakże to, o co toczy się dzisiaj gra, wykracza poza wszelkie kwartalne zyski, kapitalizacje spółek z indeksu NASDAQ czy geopolityczne wojny o dominację. Gramy o kontrolę nad przyszłością gatunku ludzkiego w obliczu technologii, której twórcy otwarcie nazywają ją „obcym umysłem” i którą coraz trudniej ujarzmić.
Sztuczna inteligencja ma potencjał wygenerowania niesamowitego, powszechnego bogactwa i zlikwidowania najcięższych chorób świata, na co zwracają uwagę Amodei i Pachocki. Ale równie dobrze, jak dowiodły zaledwie wstępne testy opisane przez liderów z Anthropic i Mety, AI puszczona samopas zniszczy naszą infrastrukturę szybciej niż jakikolwiek atak jądrowy.
Stoimy więc przed najpoważniejszym dylematem w naszej historii. I nie są to przesadzone słowa. Dolina Krzemowa na naszych oczach w bezprecedensowym apelu obnażyła własną bezsilność. 1386 wybitnych inżynierów i naukowców złożyło pod petycją podpisy, wzywając polityków do zaciągnięcia hamulca awaryjnego przed nadejściem eksplozji zautomatyzowanych badań.
Czasu jest potwornie mało – nowe algorytmy wypuszczane co kilka tygodni nie pozwalają już na błędy testowe. Jeśli potraktujemy głos Sama Altmana, Dario Amodeia, czy innych architektów naszej nowej rzeczywistości jako zwykłe „narzekanie” albo „bicie piany” zafundujemy sobie bilet w jedną stronę do świata, w którym decyzje o naszym życiu, portfelach, systemach politycznych i zdrowiu nie będą już w naszych rękach. Jak mówi Bilal Chughtai, zegar bije, a nam powoli kończy się czas na uniknięcie wielkiej porażki. Pytanie tylko, czy ktoś ten krzyk usłyszy, zanim maszyny zrobią z nas niewolników. Wizja z filmu Matrix nigdy nie była tak blisko.
Damian Szymański, redaktor naczelny Biznes Enter
Zdjęcie główne: Obraz wygenerowany przez AI