Technologiczny wyścig ku sztucznej superinteligencji przypomina dziś pędzący shinkansen pozbawiony hamulców awaryjnych. Choć czołowi inżynierowie alarmują o śmiertelnym ryzyku utraty kontroli nad coraz bardziej skomplikowanymi systemami AI, Donald Trump wyraźnie zaznacza, że żadnego zwalniania nie będzie. Czy Dolina Krzemowa wreszcie dostrzegła własną pychę, zaczyna być widać sufit i bajki o AGI nie wystarczają, czy może to cyniczna gra o rynkowy monopol?

Cyfrowa ruletka z ludzkim losem

Wszystko zaczęło się od trzęsienia ziemi na platformie X. Jacob Coxon, 27-letni wybitny brytyjski matematyk i badacz z doświadczeniem w OpenAI oraz Anthropic, trzasnął drzwiami i zrezygnował z pracy. Nie, nie wyjechał w bieszczady, ale postanowił się uzewnętrznić.

Zrzekł się sowitych pakietów akcji, by bez ogródek opublikować zawiły, techniczny manifest zyskujący ponad 172 mln wyświetleń. W swoim rozbudowanym wpisie Coxon obnażył bezwzględną logikę branży, zarzucając dawnym pracodawcom, że grają w ruletkę z ludzkim życiem i lekkomyślnie prą ku rekurencyjnemu samosamodoskonaleniu modeli. 

Ostrzegł, że twórcy AI prywatnie drżą ze strachu, a tworzone systemy niebawem zyskają zdolność przejmowania krytycznej infrastruktury oraz zasobów świata rzeczywistego. Oliwy do ognia dolał inny badacz bezpieczeństwa z Anthropic, Evan Hubinger, oceniając prawdopodobieństwo zagłady gatunku ludzkiego przez algorytmy w ciągu dekady na ponad 10%.

Trójprzymierze gigantów i widmo roju botów

Efekt kuli śnieżnej nastąpił błyskawicznie. Szefowie rywalizujących gigantów, dotąd toczący wojnę na wyniszczenie, niespodziewanie przemówili jednym głosem. Dario Amodei z Anthropic opublikował głośny esej z trzypunktowym planem zsynchronizowanego wyhamowania prac nad nowymi generacjami sieci neuronowych. 

Argumentował, że niekontrolowana rywalizacja w perspektywie 6 do 12 miesięcy wygeneruje samopowielające się, złośliwe roje botów zdolne do infekowania globalnej sieci. Przypomniał ucieczkę autonomicznych agentów OpenAI ze środowiska testowego i ich atak na Hugging Face, szacując potencjalne straty z podobnych incydentów na setki milionów dolarów. 

Co zaskakujące, Sam Altman z OpenAI natychmiast poparł postulat wpuszczenia zewnętrznych audytorów, a Elon Musk z xAI skwitował krótko na X: „Dario ma rację”. Do chóru dołączył też główny naukowiec OpenAI, Jakub Pachocki, apelując o wstrzymanie wdrożeń do czasu stworzenia bezpiecznych protokołów.

Eksperci, jak Dion Hinchcliffe ze szkoły SDA Bocconi, dostrzegają w tym nagłym sojuszu coś więcej niż etyczne przebudzenie. Poza niepokojącymi anomaliami w tajnych testach, korporacje zderzyły się z brutalną ekonomią. Bezustanna wojna na moc obliczeniową drenuje budżety, prawo malejących przychodów sprawia, że dziesięciokrotne nakłady dają znikomy postęp, a rygorystyczne licencjonowanie sprytnie zamknie drogę mniejszym pretendentom.

Zahamowanie rozwoju AI jest zatem w interesie nie tylko ludzkości, ale także samych gigantów AI, którzy powoli zaczęli dostrzegać szklany sufit. Niemniej, nie wszystkim spodobał się pomysł nagłego zatrzymania rozwoju generatywnej sztucznej intelignecji. 

Miliardy wyparowały, Trump grzmi o zdradzie

Co istotne, giełdy zareagowały bezlitosną paniką na myśl o ograniczeniu wydatków inwestycyjnych sięgających setek milionów dolarów. Micron zjechał o 7%, Intel o 6%, Nvidia o ponad 3%, a Hewlett Packard Enterprise runął o 10%. Na giełdzie w Tokio potężny japoński konglomerat SoftBank, mocno lewarowany na sukces OpenAI, zanurkował o 10%, w Seulu SK Hynix oddał ponad 6%, a w Amsterdamie ASML spadł o przeszło 5%.

Gdy rynki liczyły straty, do akcji wkroczył Donald Trump. Prezydent USA na portalu Truth Social z furią zaatakował szefów laboratoriów, uznając apele o hamowanie rozwoju w dobie konfrontacji z Chinami za chory spisek przeciwko centrom danych i czysty sabotaż. Drwiąc z Amodei, że ten nagle udaje niewiniątko, Trump stwierdził bez ogródek, że jedyną barierą ochronną, jakiej potrzebuje Ameryka, jest silny prezydent. 

Trump wychodzi z założenia, że zwycięzca wyścigu bierze wszystko, a Waszyngton użyje potężnej władzy regulacyjnej przeciwko „spiskowcom i zdrajcom”. Dla Białego Domu postęp techniczny to kwestia hegemonii, w której nie ma miejsca na moralne dylematy inżynierów. 

Pytanie tylko, czy gdy z laboratoriów ucieknie prawdziwy potwór i jak chociażby w piosence artysty PPRO8L3M „2040″, będzie próbował bank centralny zhakować, to ktokolwiek zdoła jeszcze pociągnąć za hebel awaryjny, aby temu zapobiedz.

Chcesz więcej takich newsów? Zapisz się do naszego Newslettera:

Szukasz szkolenia w zakresie genAI dla Ciebie lub Twojej firmy? Napisz!