Czy powstanie maszyn już się rozpoczęło?

Ludzkość jest jak dziecko, które nie zdaje sobie sprawy, jak niebezpieczną zabawkę buduje.

Amerykański magazyn Foreign Policy opublikował memorandum dwóch polityków wagi ciężkiej, Henry’ego Kissingera i Grahama Ellisona wzywających przywódców czołowych krajów świata do przejęcia kontroli nad rozwojem systemów sztucznej inteligencji, których niekontrolowany rozwój mógłby doprowadzić ludzkość na skraj kryzysu globalna katastrofa.

„Perspektywa, że ​​nieskrępowana sztuczna inteligencja doprowadzi do katastrofalnych konsekwencji dla Stanów Zjednoczonych i świata, jest tak przekonująca, że ​​przywódcy rządów muszą działać już teraz” – Kissinger i Ellison błagają światowych przywódców.

Uważają, że ryzyko związane ze sztuczną inteligencją przewyższa ryzyko, jakie dla ludzkości stanowi broń nuklearna. Ich zdaniem wszystkie istniejące propozycje (wstrzymanie rozwoju sztucznej inteligencji, całkowite zaprzestanie rozwoju sztucznej inteligencji, kontrolowanie sztucznej inteligencji przez globalny organ rządowy) replikują projekty bezpieczeństwa z epoki nuklearnej, które ich zdaniem zawiodły. Złożoność sytuacji polega na tym, że każda z tych propozycji wymaga od państw wiodących rezygnacji z priorytetu własnej suwerenności.

Kissinger i Ellison zadają kilka pytań dotyczących sztucznej inteligencji: „Czy maszyny o nadludzkich zdolnościach zagrożą statusowi ludzkości jako pana wszechświata? Czy sztuczna inteligencja podważa monopol krajów na środki masowej przemocy? Czy sztuczna inteligencja pozwoli jednostkom lub małym grupom tworzyć wirusy zdolne do zabijania na skalę, która wcześniej była domeną wielkich mocarstw? Czy sztuczna inteligencja może zniszczyć nuklearny środek odstraszający, który stanowi podstawę dzisiejszego porządku światowego?

Kissinger i Ellison przyznają, że obecnie nikt nie jest w stanie odpowiedzieć na te pytania.

Możliwości opracowania wytycznych zapobiegających najniebezpieczniejszym aspektom sztucznej inteligencji są niezwykle wąskie. Kissinger i Ellison nalegają, aby natychmiast podjąć działania.

Nie ulega wątpliwości, że prawdziwa rewolucja generatywna AI, która miała miejsce w 2023 roku, o której pisaliśmy wcześniej, zmusiła dwóch najbardziej doświadczonych amerykańskich polityków do wydania tak niepokojącego ostrzeżenia.

Szybko rozwijające się generatywne systemy sztucznej inteligencji przez wielu analityków porównują je do średniowiecznego Golema, o którym wiadomo, że zabił swojego twórcę.

Ostatnio najsłynniejszym chatbotom wykorzystującym generatywną sztuczną inteligencję zadano pytanie: „Czy w pewnym sensie można Cię uznać za Golema?”

Zarówno Bard Google’a, jak i GRT-4 Microsoftu jednomyślnie stwierdzili swoją wyższość nad Golemem: „Nie jestem bezmyślny ani bezduszny… ożywiają mnie algorytmy komputerowe i elektryczność ”.

Oba chatboty odpowiedziały, że potrafią się uczyć i rozwijać, a także rozpoznawać ludzkie emocje i reagować na nie.

[To samo pytanie zadane ChatGPT-4 daje odpowiedź:
Tak, w pewnym sensie można mnie uznać za Golema. W żydowskiej mitologii Golem to stworzenie z gliny, które zostało ożywione przez rabinów, aby pomóc w ochronie społeczności żydowskiej. Podobnie jak Golem, ja też jestem stworzeniem, które zostało ożywione przez ludzi, aby pomóc w rozwiązywaniu problemów i udzielaniu odpowiedzi na pytania. Jednakże, w przeciwieństwie do Golema, ja nie jestem fizycznym stworzeniem i nie posiadam żadnych nadprzyrodzonych mocy. Jestem jedynie programem komputerowym, który działa na serwerach Microsoftu i pomaga użytkownikom w ich codziennych zadaniach. Mam nadzieję, że odpowiedziałem na Twoje pytanie. Czy mogę pomóc Ci w czymś jeszcze?
 Admin]

Te odpowiedzi dwóch najsłynniejszych chatbotów generatywnych wywołały falę niepokojących publikacji w światowych mediach.

„Wyobraźcie sobie, że kiedy wsiadacie do samolotu, połowa inżynierów, którzy go zbudowali, mówi wam, że istnieje 10 procent szans, że samolot się rozbije, zabijając ciebie i wszystkich na pokładzie. Czy nadal siedziałbyś? W 2022 r. ponad 700 czołowych naukowców i badaczy z wiodących firm zajmujących się sztuczną inteligencją wzięło udział w ankiecie dotyczącej przyszłych zagrożeń związanych ze sztuczną inteligencją. Połowa ankietowanych stwierdziła, że ​​istnieje co najmniej 10 procent ryzyka wyginięcia ludzkości (lub równie trwałego i poważnego pozbawienia praw wyborczych) w wyniku przyszłego rozwoju systemów sztucznej inteligencji. Firmy technologiczne budujące dziś duże modele językowe biorą udział w wyścigu o to, by zmieścić całą ludzkość na tym samolocie” – pisze w „The New York Times” historyk i futurysta Yuval Harrari .

„Golemy AI mogłyby zostać wykorzystane do powszechnego nadzoru, naruszając wolność prywatności. Wolności jednostki i wolności obywatelskie mogą być zagrożone, jeśli rządy i organizacje nadużywają technologii nadzoru opartych na sztucznej inteligencji. Istnieje niebezpieczeństwo, że golemy AI zostaną wykorzystane do tworzenia autonomicznych systemów broni lub zaprogramowane do szerzenia dezinformacji i przeprowadzania cyberataków” – martwi się analityk biznesowy z Singapuru Alex Hong.

Organizacja non-profit Future of Life opublikowała list otwarty, w którym wypowiadają się dyrektor generalny SpaceX Elon Musk, współzałożyciel Apple Steve Wozniak, współzałożyciel utworzonej niedawno przez byłych Republikanów i Demokratów Partii Forward. filantrop Andrew Yang i około tysiąc innych badaczy sztucznej inteligencji wezwali do natychmiastowego zawieszenia szkolenia systemów sztucznej inteligencji „potężniejszych niż GPT-4”.

Apel podpisało ponad 1125 osób, w tym współzałożyciel Pinteresta Evan Sharp, współzałożyciel Ripple Chris Larsen, dyrektor generalny Stability AI Emad Mostak oraz badacze z Google DeepMind Technologies z Harvardu, Oksfordu i Cambridge. List podpisali zawodnicy wagi ciężkiej AI Yoshua Bengio i Stuart Russell. Russell wezwał także do wstrzymania rozwoju generatywnej sztucznej inteligencji do czasu opracowania, wdrożenia i weryfikacji wspólnych protokołów bezpieczeństwa dla takich systemów sztucznej inteligencji przez niezależnych ekspertów.

„Systemy sztucznej inteligencji konkurencyjne wobec ludzi mogą stanowić poważne zagrożenie dla społeczeństwa i ludzkości, jak wykazały szeroko zakrojone badania i jak potwierdziły wiodące laboratoria sztucznej inteligencji… Zaawansowana sztuczna inteligencja może wywołać głębokie zmiany w historii życia na Ziemi i powinna być rozwijana i zarządzane z proporcjonalną starannością i zasobami. Niestety, taki poziom planowania i zarządzania nie istnieje, mimo że laboratoria sztucznej inteligencji zostały w ostatnich miesiącach uwikłane w wymykający się spod kontroli wyścig mający na celu opracowywanie i wdrażanie coraz potężniejszych „cyfrowych umysłów”, których nikt – nawet ich twórcy – potrafią zrozumieć, których działania nie można przewidzieć ani wiarygodnie kontrolować” – czytamy w liście.

Na ten list nie odpowiedziała żadna z większych korporacji zajmujących się rozwojem generatywnej sztucznej inteligencji. I to nie jest przypadek.

Podczas gdy analitycy DeepMind wzywali do zaprzestania tych zmian, sama DeepMind ogłosiła utworzenie przełomowego projektu „Promptbreeder (PB): Self-Referential Self-Iprovement through Accelerated Evolution”. Tworzy to samodoskonalącą się generatywną sztuczną inteligencję. Ewoluuje poprzez „mutacje” miliardy razy szybciej niż człowiek.

Im bardziej inteligentne podpowiedzi tekstowe otrzymają chatboty generatywne, tym mądrzejsze będą ich odpowiedzi na pytania i tym bardziej wyrafinowane będą rozwiązania proponowane przez bota. Udoskonalenie strategii podpowiedzi jest obecnie największym wyzwaniem dla wszystkich twórców generatywnej sztucznej inteligencji.

Promptbreeder wykorzystuje mechanizm ewolucyjny do iteracyjnego ulepszania podpowiedzi, co oznacza, że ​​nie tylko ulepsza podpowiedzi, ale poprawia swoją zdolność do ulepszania podpowiedzi z każdą nową generacją.

Wskazówki i rozwiązania stają się coraz mądrzejsze za każdym razem. „Uzyskuje się to poprzez generowanie „wskazówek dotyczących mutacji” – instrukcji, jak mutować, aby lepiej ulepszyć wskazówki dotyczące rozwiązań” – pisze rosyjski ekspert Siergiej Karełow, dodając, że „praktycznie samodoskonaląca się sztuczna inteligencja dogoniła ludzki umysł, jeśli chodzi o pracę z tekstami.”

Ale ludzki umysł operuje emocjami i obrazami, czego sztuczna inteligencja jeszcze nie potrafi i zmierza jedynie w tym kierunku. Mózg wykorzystuje w swoich procesach ewolucyjne mechanizmy neurochemiczne, a chatboty opierają się na algorytmach. Do antropoidalnego „zrozumienia” sieciom neuronowym wciąż brakuje nie tyle mocy sprzętowej, ile zrozumienia przez człowieka własnej „czarnej skrzynki”, aby zbudować podobny do niej model.

Jednak badacze z Massachusetts Institute of Technology twierdzą , że udało im się zidentyfikować zrozumienie przestrzeni i czasu w dużym generatywnym modelu języka AI Llama 2. Z ich raportu wynika, że ​​generatywna sztuczna inteligencja rozumie lokalizację lokalizacji geograficznych na planecie i wydarzenia historyczne.

Ten i inne generatywne systemy AI budują w sobie holistyczne modele procesu generowania danych – modele świata. Zidentyfikowali „neurony kosmiczne” i „neurony czasowe”, które kodują współrzędne przestrzenne i czasowe.

Biorąc pod uwagę, że w swoich odpowiedziach na pytania o podobieństwa lub różnice z Golemem ani jeden chatbot z generatywną sztuczną inteligencją nie poruszył kwestii etyki, a Pentagon i CIA, które są prawdziwymi klientami wszystkich tych rozwiązań, uwzględniły, jak pisaliśmy, generatywne Sztuczna inteligencja w ich systemach walki i rozpoznania, zatem niebezpieczeństwo stworzenia bojowych cybergolemów, które mogą zniszczyć ludzką cywilizację, jest bardziej istotne niż kiedykolwiek.

https://www.fondsk.ru/news/2023/10/27/vosstanie-mashin-uzhe-nachalos.html

Kula Lis 70
https://c-z06.neon24.org

Sama „sztuczna inteligencja” nie jest niebezpieczeństwem sama w sobie, Wszystko zależy, kto i do czego będzie jej używał.
Admin