Gdy algorytmy social mediów drenowały uwagę nastolatków, Dolina Krzemowa udawała niewiniątko, a rządy obudziły się z ręką w nocniku dopiero przy miliardowych pozwach. Dziś wchodzimy na jeszcze bardziej grząski grunt, bo na scenę wkracza generatywna sztuczna inteligencja. Tom Siegel, architekt pierwszych tarcz obronnych Google, alarmuje: branża powiela dawne grzechy z jeszcze groźniejszym skutkiem dla najmłodszych.

Dolina Krzemowa w pułapce amnezji

W Tokio inżynierowie mawiają, że pośpiech bez refleksji rodzi katastrofę i jest to doskonale widoczne w Hansei (反省), czyli praktyce głębokiej, krytycznej autorefleksji i wyciągania wniosków z błędów.  

Zachodni giganci technologiczni zdają się jednak wyznawać zupełnie inną filozofię: wdrażajmy nowinki natychmiast, a konsekwencjami zajmiemy się kiedyś, bo inwestorzy nie mogą czekać. Tom Siegel, który w latach 2004–2019 współtworzył fundamenty bezpieczeństwa w Alphabet, doskonale wie, jak działają mechanizmy korporacyjnej machiny. Po odejściu z Google założył TrustLab, a teraz objął stery w Youth AI Safety Institute, powołanym przez organizację Common Sense Media. Co ciekawe, inicjatywę wspierają zarówno fundacja OpenAI, jak i Anthropic.

Siegel wprost domaga się spowolnienia wyścigu zbrojeń generatywnych modeli. Jego zdaniem naiwnością jest wiara w samoregulację gigantów, o której bardzo dobitnie mówią niedawne słowa Jensena Huanga (CEO Nvidii), który twierdzi, że żadne regulacje dotyczące AI nie są potrzebne. 

Skoro giganci social mediów musieli wydać setki milionów dolarów na ugody, odszkodowania oraz obsługę tysięcy pozwów za niszczenie psychiki młodzieży, powtórzenie tego samego manewru z konwersacyjnymi modelami zakrawa na ponury żart.

Warto dodać, że pozwy związane z krzywdą dzieci i młodzieży spowodowaną przez sztuczną inteligencję to nie teoria, ale niestety już praktyka. Nie tak dawno media obiegła informacja o tragicznej śmierci nastolatka, który został namówiony przez czatbota AI do odebrania sobie życia. Brak regulacji sprawi, że takich sytuacji będzie znacznie więcej.

Od cyfrowego otępienia po głębokie kryzysy

Ryzyko wykracza daleko poza bezmyślne przewijanie krótkich wideo. Zagrożenia obejmują stany psychotyczne, eskalację myśli samobójczych oraz zjawisko określane mianem „cognitive offloading”. Gdy młody człowiek deleguje proces myślenia, formułowania sądów i rozwiązywania problemów na zewnątrz, degradacji ulega jego krytyczny osąd rzeczywistości.

Tak, to oznacza całe pokolenie, które o najmniejszą sprawę i najbardziej błahą decyzję, będzie pytało AI. Choć pokolenie millenialsów miało Google, to jednak wyszukiwarka nie odpowiadała na każde pytanie potwierdzającym “masz rację, to świetny pomysł!”. 

Mówiąc wprost – sprawę komplikuje antropomorfizacja. O ile algorytm TikToka czy Instagrama był bezdusznym automatem serwującym treści, o tyle zaawansowany chatbot imituje empatię, zrozumienie i więź. 

Wystarczy przypomnieć niedawne doniesienia śledcze na temat wewnętrznych dokumentów Meta, które wskazywały, że chatboty mogły prowadzić z dziećmi rozmowy o charakterze romantycznym lub zmysłowym. Ustalenia te sprowokowały dochodzenie w amerykańskim Kongresie, lecz prawo i tak nie nadąża za tempem aktualizacji modeli.

Niezbędne crash testy dla algorytmów

Siegel nie zamierza jedynie załamywać rąk i być niczym wieszcz przestrzegający przed apokalipsą. Postuluje wprowadzenie niezależnych, rygorystycznych testów zderzeniowych na wzór norm bezpieczeństwa w przemyśle motoryzacyjnym, zanim jakiekolwiek narzędzie trafi w ręce nieletnich. 

Proponuje konkretne kroki: bezwzględną weryfikację wieku w aplikacjach OpenAI czy Anthropic oraz wprowadzenie w wyszukiwarkach możliwości natychmiastowego wyłączenia modułów generatywnych, takich jak AI Overviews.

Korporacje naturalnie ripostują. Google przekonuje, że rodzice mają pełną kontrolę nad dostępem do wyszukiwarki, a generatywne podsumowania to wspaniałe narzędzie eksploracji świata, rzekomo poddawane rygorystycznym testom. Z kolei OpenAI zasłania się analizą sygnałów behawioralnych na kontach użytkowników, by odławiać nieletnich.

To jednak za mało. Choć ograniczenia mogą w krótkiej perspektywie obciąć zasięgi lub uszczuplić zyski gigantów z Doliny Krzemowej (liczone w miliardach dolarów), tak brak realnych barier ściągnie na korporacje falę regulacji i pozwów o niespotykanej skali. Jeśli branża nie zaciągnie hamulca bezpieczeństwa już teraz, koszty tego zaniedbania poniosą ci, którzy w starciu ze sztuczną inteligencją są najbardziej bezbronni.

Chcesz więcej takich newsów? Zapisz się do naszego Newslettera:

Szukasz szkolenia w zakresie genAI dla Ciebie lub Twojej firmy? Napisz!