
Temat sztucznej inteligencji odmieniany jest od kilku miesięcy przez wszystkie przypadki. Najbardziej znanym narzędziem bazującym na AI jest dziś oczywiście ChatGPT. Co ciekawe, jego twórcy, czyli OpenAI zdecydowali się powołać nowy zespół, który ma chronić ludzkość przed buntem maszyn.
Brzmi jak science fiction? Okazuje się, że Sam Altman i jego współpracownicy bardzo poważnie podchodzą do kwestii bezpieczeństwa, ponieważ sztuczna inteligencja rozwija się w zawrotnym tempie. Doskonale widoczne jest to po przeskoku jakości pomiędzy poszczególnymi wersjami ChatGPT, czy generatora obrazów Midjourney.
Czy ewolucja AI faktycznie nam zagraża? OpenAI twierdzi, że tak, dlatego powołuje Superalignment.
Superalignment, czyli współcześni łowcy androidów
Netwatch z uniwersum Cyberpunka, czy Blade Runnerzy z kultowego filmy z Harrisonem Fordem są dziś faktem, ponieważ OpenAI powołało właśnie specjalny oddział do wykrywania i zwalczania działań wrogiego AI. Według Sama Altmana niebezpieczeństwo ze strony sztucznej inteligencji wzrasta w sposób geometryczny, podobnie jak jej rozwój.
Warto dodać, że jest to zdanie nie tylko Altmana, ale także takich osobistości świata nauki, jak Geoffrey Hinton, który uważany jest za „ojca sztucznej inteligencji”.
Głównym zadaniem zespołu Superalignment będzie szybkie reagowanie na działanie ze strony wrogiej sztucznej inteligencji. Proces ten ma być w zautomatyzowany, jednak kontrolę nad przeczesywaniem sieci będą mieli specjaliści nadzorujący pracę zespołu. Pomocne mają być także testy na superinteligencję, które umożliwią szybkie wykrycie się przejawów AGI, czyli sztucznej inteligencji, która jest już samoświadoma.
OpenAI obawia się AI – Departament Obrony USA w tym czasie testuje sztuczną inteligencję do podejmowania działań bojowych i strategicznych
Departament Obrony Stanów Zjednoczonych postanowił sprawdzić generatywną sztuczną inteligencję w akcji. Trudno powiedzieć, czy decyzja OpenAI podparta jest działaniami Departamentu Obrony, ale wojsko przeprowadza właśnie serię testów wykorzystywania AI odnośnie wydawania rozkazów i podejmowania strategicznych i taktycznych decyzji.
Okazuje się, że AI wcale nie będzie stała w pierwszym rzędzie z karabinem, ponieważ jej głównym zadaniem jest podejmowanie decyzji w czasie rzeczywistym. Wojskowi przeprowadzili szereg symulacji, takich jak chińska inwazja na Tajwan i pełnoskalowa odpowiedź armii amerykańskiej. Przy przeprowadzaniu tej symulacji AI bazowała na ponad 60 000 dokumentów wojskowych (zarówno amerykańskich, jak i chińskich).
Wojskowe użycie sztucznej inteligencji jeszcze mocniej uwypukla problem halucynacji AI, które mogą prowadzić do katastrofalnych decyzji. Według wojskowych, problemem tym zajmuje się odpowiedni zespół programistów.
Pojawia się jednak pytanie, czy tak wytrenowana sztuczna inteligencja nie będzie stanowiła zagrożenia dla ludzkości, skoro potrafi tak dobrze przewidywać i analizować różne scenariusze…
Czy AGI faktycznie może pojawić się do 2030 roku?
Obawy te nie biorą się znikąd, ponieważ na start Binga dostępnego w wyszukiwarce Edge (opartego o ChatGPT), pokazał, że sztuczna inteligencja może mieć bardzo niepokojące halucynacje. Jeden z dziennikarzy rozmawiał z AI i chatbot zaczął nazywać się mianem „Sidney”. Wyznawała ona miłość dziennikarzowi i namawiała go do odejścia od żony. Choć sytuacja ta jest raczej humorystyczna, tak pokazuje realny problem, który już niedługo może być globalnym zagrożeniem.
Szymon Sidor, czyli jeden z polskich założycieli OpenAI twierdzi nawet, że pojawienie się AGI (Silnej Sztucznej Inteligencji), jest możliwe już w 2030 roku. Taka AGI ma wyróżniać się zdolnościami umysłowymi przewyższającymi możliwości człowieka.
Czy OpenAI zatem prewencyjnie tworzy zespół mający powstrzymać bunt AI, już w najbliższej dekadzie? Jestem ciekawe Twojej opinii na ten temat!
W Kaizen Ads (カイゼンアッズ)
AI występuje nie tylko w naszej nazwie 🙂
Jeśli zastanawiasz się jak wdrożyć AI do swojego biznesu lub chcesz żebyśmy przeprowadzili dla Ciebie szkolenie z ChatGPT, Midjourney i innych narzędzi opartych o sztuczną inteligencję daj znać.
Wyślij wiadomość
kontakt@kaizenads.pl
Zadzwoń:
+48 881 228 124
Komentarz specjalisty