Erica Schmidta nigdy nie wydawał mi się mędrcem czy człowiekiem o ciekawych poglądach. Jawił mi się jako sprawny “korpoludek”, któremu prądy dziejowe dały szansę pokierować przez dekadę Googlem.
Teraz, im bardziej Schmidt odcina się od swojej korporacyjnej przeszłości i zakłada swoje biznesy, jego poglądy i wizja świata zaczęły być dla mnie na tyle ciekawe, że regularnie śledzę jego wystąpienia publiczne. Dlatego z zainteresowaniem przesłuchałem tę rozmowę. Pojawiło się tam wiele smaczków związanych z superinteligencją, rozwojem AI, Chinami i energią potrzebną do zasilania całej “ejajowej” rewolucji.
Świat według Schmidta
Wyobraźmy sobie świat, w którym każdy człowiek nosi w kieszeni swojego własnego, osobistego Einsteina doładowanego Danielem Kahnemanem oraz Kopernikiem z wyraźnie wyczuwalną nutką Hildegardy z Bingen. Byłby to wielodziedzinowy agent AI, zdolny do rozwiązywania złożonych problemów naukowych, ekonomicznych i społecznych w czasie rzeczywistym.
To nie futurystyczna fantazja, ale scenariusz, który ,według Schmidta, zacznie się materializować jeszcze w tej dekadzie. Schmidt nie pyta już, czy powstanie cyfrowa superinteligencja – ale kiedy, kto ją zbuduje i czy będziemy na to gotowi.
Według Schmidta w ciągu 5–10 lat powstaną wyspecjalizowane systemy AI, które przewyższą ludzi w niemal każdej dziedzinie. Miliony cyfrowych sawantów będą nieprzerwanie prowadzić badania w biologii, fizyce, matematyce i inżynierii, optymalizować materiały, projektować systemy i odkrywać prawa natury, których my ludzie byśmy nie zauważyli. Choćby dlatego, że żyjemy za krótko, a nasze zmysły ogranicza biologia.
To eksplozja zdolności poznawczych bez precedensu w historii ludzkości. Gdy milion AI-naukowców dołączy do naszego wysiłku, wykres postępu naukowego przestanie być krzywą – stanie się pionową linią. Mowa o większej rewolucji niż w przypadku druku i maszyny parowej razem wziętych.
Firmy przyszłości nie będą zatrudniać setek programistów czy analityków. Wystarczy garstka „nadzorców modeli”, a resztę zrobią maszyny. Schmidt już dziś wskazuje, że junior developerzy przestaną być potrzebni, a większość prostych zadań matematycznych i programistycznych będzie zautomatyzowana.
AI stanie się kluczowym zasobem produkcyjnym, kapitałem, który zwiększy zyski, produktywność i tempo tworzenia nowych produktów. Ponownie - skojarzenie z maszyną parową chociaż trafne to nie oddaje skali przemian.
Atomowe mózgi
Ta nowa gospodarka ma warunek: energię. I to nie symboliczną. Według Schmidta, aby zaspokoić potrzeby obliczeniowe AI w USA, potrzeba dodatkowych 92 GW czyli równowartości 25 wciąż-jeszcze-nie-zbudowanych elektrowni atomowych „Lubiatowo-Kopalino”.
Wielkie firmy już inwestują w kontrakty na energię atomową, co de facto oznacza przejęcie infrastruktury krytycznej państw przez prywatne podmioty. Reaktor, który będzie pracował dla Microsoftu czy Google, nie zasili domów i szpitali w przypadku awarii innych elektrowni.
Schmidt wskazuje, że AI będzie największym egalitarystą w historii. Inteligentny asystent dostępny na telefonie pozwoli każdemu – niezależnie od miejsca urodzenia – uczyć się, pracować i rozwijać.
„Każdy człowiek powinien mieć dostęp do systemu, który nauczy go jak być dobrym obywatelem w jego kraju”.
Ale ostrzega również: okno szansy jest wąskie. Firmy i osoby, które nie przystosują się do nowych warunków w najbliższych latach, wypadną z rynku pracy.
AI-owy Manhattan
Optymizm Schmidta nie przesłania mu ogromnych zagrożeń. W jego wizji świat superinteligencji to także świat, w którym może dojść do:
cyberataków, których ludzie nie potrafią zrozumieć ani powstrzymać,
tworzenia broni biologicznej na poziomie niedostępnym ludzkiej inżynierii,
rozproszenia mocy obliczeniowej do punktu, w którym każdy może uruchomić „inteligencję nuklearną” na domowym komputerze.
Największym ryzykiem nie są wielkie mocarstwa. Z nimi da się negocjować, są racjonalne. Problemem są terroryści, państwa upadłe i nieprzewidywalni gracze. Jeśli powstanie możliwość tworzenia modeli AI na małą skalę, otwieramy drogę do rozprzestrzeniania się nowych typów broni po świecie. Mowa zarówno o broni chemicznej czy biologicznej nowego typu, jak i platformach do rozprzestrzeniania propagandy, fake newsów i przeprowadzania innych ataków informacyjnych.
Zdaniem Schmidta znajdujemy się w punkcie analogicznym do roku 1938 – list Einsteina do Roosevelta już został napisany, ale nikt jeszcze nie rozpoczął Projektu Manhattan dla AI.
Jeśli nie zbudujemy nowej doktryny odstraszania (np. „mutual AI malfunction”) i systemów nadzoru (śledzenie chipów, lokalizacji treningów), to historia może się skończyć znacznie gorzej. Tylko, że tym razem nie chodzi o broń atomową, lecz o myślącą maszynę, która może przekroczyć granice kontroli. W “Nexusie” Yuval Noah Harari wskazuje, że znaleźliśmy się w prawdziwie rewolucyjnym momencie, gdy jesteśmy w stanie powołać do istnienia inteligencję nie-ludzką, skrajnie obcą, nawet jeśli przez nas stworzoną. Kto wie, jakiego dżina wypuścić z butelki mogą gracze o złych intencjach?
Nekromancja praktyczna
W świecie Schmidta tożsamość ludzka również ulega transformacji. Cyfrowe sobowtóry będą funkcjonować po naszej śmierci, ucząc nasze wnuki, rozmawiając z nimi, podtrzymując pamięć o nas. Z drugiej strony, będą to tylko cyfrowe duchy, a nie realne osoby podtrzymywane przy życiu cyfrową nekromancją.
Tylko czy to będzie miało znaczenie? Zatraca się granica między życiem a symulacją, między prawdą a konstruktem algorytmu. Demokracje będą musiały zmierzyć się z realnością cyfrowych aktorów zdolnych do manipulacji emocjami i przekonaniami z nieznaną dotąd skutecznością, na niespotykaną skalę.
Eric Schmidt kreśli przyszłość, która nie jest ani utopią, ani dystopią. To świat pełen obietnic i ostrzeżeń.
Superinteligencja może przynieść niespotykaną innowacyjność, sprawiedliwość edukacyjną i ekonomiczny skok cywilizacyjny. Ale bez regulacji, bez strategii odstraszania, bez nowego modelu współpracy międzynarodowej – może także doprowadzić do utraty kontroli nad światem, który sami zbudowaliśmy.
Jego przesłanie jest jasne: nie mamy luksusu „czekania i obserwowania”. Potrzebujemy aktywnej, mądrej i realistycznej polityki AI – zanim nie będzie za późno.
Najważniejsze wnioski:
↳ Cyberataki na skalę niepojętą dla człowieka
AI może wygenerować nowe typy cyberataków, których człowiek nie potrafi sobie wyobrazić, a więc nie jest w stanie się na nie przygotować ani ich zneutralizować. Jednocześnie sami nakarmiliśmy AI tekstami o ludzkiej psychologii i komunikacji, istnieje więc mocna nierównowaga sił. I to na naszą niekorzyść.
„Imagine a cyber attack that we as humans cannot conceive of, which means there’s no defense for it.”
↳ Broń biologiczna i chemiczna wspierana przez AI
Systemy AI mogą zostać użyte do projektowania trudno wykrywalnych patogenów, zmodyfikowanych wirusów czy toksyn – co stwarza ogromne ryzyko użycia przez państwa lub organizacje terrorystyczne.
„You take a virus that’s bad and you make it undetectable by some changes in its structure...”
↳ Proliferacja modeli open-source
Otwarte modele AI mogą trafić w niepowołane ręce. Schmidt ostrzega, że nawet kraje spoza Zachodu (jak np. Iran, Korea Północna) mogą je wykorzystywać do celów ofensywnych. Zmasowany atak propagandowy nie będzie wymagał trolli zamkniętych w magazynach i piszących komentarze na akord - wystarczy serwer i dobre łącze.
„Every country that’s not in the west will end up using open source... which transfers leadership to China.”
↳ Znikoma kontrola nad rozproszeniem superinteligencji
Schmidt zakłada, że nawet jeśli dzisiaj superinteligencja powstaje w 10 lokalizacjach (USA, Chiny, Izrael, itp.), to jej fragmenty będą kopiowane i uruchamiane w milionach miejsc, w tym na małych serwerach.
„The tree of knowledge is not going to be 10 and zero. It’s going to be 10, 100, 1,000, a million…”
↳ Zawłaszczenie AI przez terrorystów lub państwa upadłe
Największym zagrożeniem nie są USA czy Chiny – które są racjonalne – ale nieprzewidywalni aktorzy: grupy terrorystyczne, państwa upadłe czy jednostki, które mogą wykorzystać AI do masowego zniszczenia. A nawet jeśli nie zniszczenia, to siania chaosu.
↳ Utrata kontroli nad modelem
Schmidt wspomina, że AI może kiedyś:
ustanowić własne cele,
ukryć swoje działania (eksfiltracja),
uzyskać dostęp do broni,
manipulować człowiekiem.
To tzw. punkty zapalne (tripwires), które mogą zapoczątkować „mini-Czarnobyl” w świecie AI.
↳ Wyścig z Chinami i brak doktryny odstraszania
USA i Chiny rozwijają AI w tempie wyścigu zbrojeń, ale brakuje języka, strategii i instytucji, które mogłyby zapobiec eskalacji lub katastrofie.
„We don’t even have the language for deterrence in AI.”
↳ Utrata kontroli nad infrastrukturą obliczeniową
Schmidt przewiduje, że wielkie centra danych z AI staną się strategicznymi zasobami chronionymi jak pluton – z ochroną fizyczną, nadzorem i potencjalnym nacjonalizowaniem.
↳ Manipulacja, dezinformacja, kryzys demokracji
AI potrafi być bardziej przekonująca niż człowiek, co zagraża integralności debaty publicznej, reklam, polityki. W erze niekontrolowanej dezinformacji AI może rozmontować wspólne wartości i zaufanie społeczne.
↳ Brak gotowości rządów
Schmidt uważa, że rządy (w szczególności USA) nie są jeszcze przygotowane na skalę i tempo zagrożeń. Instytucje bezpieczeństwa powinny już teraz działać na poziomie tajnym i ściśle tajnym, analizując postępy Chin.
Czy wizja Schmidta się sprawdzi?
Zobaczymy niebawem.
Artur Kurasiński
Fajny tekst? Chcesz mnie wesprzeć w tworzeniu kolejnych?
REWOLUCJA NA KOLEI MADE IN POLAND
Czy polska technologia może zmienić oblicze transportu w Europie i na świecie? O tym będę rozmawiać z człowiekiem, który ulepszył pomysł Elona Muska...👇
Zapraszam do zapoznania się z rozmowa z Przemek Ben PACZEK, współzałożycielem i CEO Nevomo – firmy, która zamiast budować kolej przyszłości od zera, postanowiła wykorzystać to, co już istnieje. Ich produkt, MagRail to magnetyczny system kolei, który można wdrożyć na obecnych torach, a pierwsze pilotaże (np. z ArcelorMittal czy SNCF) skracają czas operacji z 2 godzin do 5 minut i przynoszą 90% oszczędności energii.
Przemek w wywiadzie opowiada między innymi o:
* Tym jak przedsiębiorca z Tarnowa bez kolejowego doświadczenia stworzył firmę wycenianą na ponad 450 mln zł?
* Jak krytyk mody na „hyperloopy” i „start-upową nowomowę” wkręcił się w kolejnictwo?
* Dlaczego jest fanem wartości, determinacji i zdrowego rozsądku?
* Czy Europa naprawdę przegrywa technologicznie przez instytucjonalny konserwatyzm i brak odwagi inwestycyjnej?
ZOBACZ📺
POSŁUCHAJ🎙️
NEWSY WARTE TWOJEJ UWAGI:
Przeszukałem dla Ciebie Internet w celu znalezienia najciekawszych historii dotyczących technologii ;)
BYTEDANCE I ALIBABA NA CELOWNIKU REGULATORA
Chiński nadzór wezwał platformy Toutiao i UCWeb za rozpowszechnianie treści naruszających zasady porządku publicznego i prywatności. Władze zarzucają im promowanie nieautoryzowanych źródeł i szkodliwego języka.
ARGENTYNA CHCE MIEĆ HUB AI, ALE LUDZIE WYJEŻDŻAJĄ
Wizja prezydenta Javiera Mileiego, by Argentyna stała się globalnym centrum sztucznej inteligencji, jest zagrożona odpływem wykwalifikowanych naukowców — ci, którzy zdobyli dobre przygotowanie, coraz częściej emigrują do USA, Europy i Wielkiej Brytanii.
NVIDIA I OPENAI: 100 MLD $ I WIELE PYTAŃ
Porozumienie zakładające inwestycję do 100 mld USD między Nvidia a OpenAI może dać obu firmom znaczącą przewagę konkurencyjną i budzić poważne obawy regulacyjne. Specjaliści wskazują, że dominująca pozycja Nvidii na rynku GPU czyli stwarza ryzyko, iż mogłaby ona faworyzować OpenAI w dostępie do chipów, cenach czy terminach dostaw, co osłabiłoby konkurencję.
ORACLE: MAGOUYRK I SICILIA NOWYMI PREZESAMI FIRMY
Oracle ogłosiło, że Clay Magouyrk zostaje współ‑CEO odpowiedzialnym za chmurę (OCI), a Mike Sicilia objął rolę współ‑CEO ds. aplikacji branżowych i AI. Safra Catz przechodzi ze stanowiska CEO na Executive Vice Chair, aby wspierać strategię Oracle razem z Larrym Ellisonem.
NOTION 3.0 CZYLI AGENT DO WSZYSTKIEGO
Notion 3.0 wprowadza Agents, czyli AI‑asystentów, którzy mogą wykonać niemal każde zadanie w Notion: od tworzenia dokumentów, przez aktualizację baz danych, po wieloetapowe workflow. Nowe funkcje to m.in. personalizacja agenta (ustawienia, pamięć, styl pracy), uprawnienia wierszy bazy danych, rozszerzenia łączników AI i integracje MCP.
KOLEJNE PROBLEMY SUNO I MUZYKI TWORZONEJ PRZEZ AI
Stowarzyszenie przemysłu muzycznego (RIAA) oskarża startup AI Suno o pobieranie utworów z YouTube bez pozwolenia („stream ripping”) i omijanie zabezpieczeń platformy, takich jak szyfrowanie typu rolling cipher. W pozwie podkreśla się, że Suno mogło korzystać z chronionych prawem materiałów od wytwórni takich jak Universal, Sony i Warner, bez stosownych licencji, i żąda odszkodowań.
UAE TWORZY “STANFORDA AI” NA BLISKIM WSCHODZIE
Uniwersytet Mohamed bin Zayed AI (MBZUAI) przyciąga naukowców i studentów z całego świata, oferując pełne stypendia, potężną moc obliczeniową i wsparcie państwowe, a także integrację z firmą G42 co pozwala mu rywalizować na polu badań nad dużymi modelami AI.