autor: Tyler Durden
Aktualizacja (1045ET): Prezydent Trump w poniedziałek skrytykował dyrektora generalnego Anthropic Dario Amodeia za jego wezwanie do "wstrzymania" sztucznej inteligencji i przekazania rządów kultowi zbliżonemu do antropologii.
"Administracja Trumpa powstrzymała AI "ludzi" przed robieniem złych, a potencjalnie złych "rzeczy", jak Dario (Anthropic!), który teraz udaje "idealnego anioła" i będzie to robił dalej!" Napisał Trump.
"Mamy już ogromną PRZESTĘPCZĄ i REGULACYJNĄ władzę nad tymi firmami! Istnieje CHORY spisek przeciwko AI i centrom danych, a jedyną osobą, która się z tego cieszy, są Chiny. KTO WYGRA AI, TEN WYGRYWA!"
Komentarze Trumpa pojawiły się kilka dni po tym, jak Amodei powiedział, iż branża powinna "wstrzymać" rozwój najbardziej zaawansowanych modeli AI, jednocześnie wdrażając ramy zarządzania z wykorzystaniem "zewnętrznych monitorów bezpieczeństwa" – w tym METR (Model Evaluation and Threat Research), które już współpracuje z laboratoriami (w tym przegląda raporty ryzyka Antropic) i zatrudniło byłych pracowników Anthropic. Joe Benton, który kierował zespołem badawczym ds. bezpieczeństwa w Anthropic, odszedł na początku września 2026 roku, aby dołączyć do METR specjalnie w celu pracy nad wbudowaną oceną ryzyka AI w zakresie wbudowanych źródeł. Krytycy określają to jako "drzwi obrotowe", podkreślając ideologiczne i sieciowe powiązania między METR a laboratoriami, którymi miałby zarządzać.
* * *
Aktualizacja (14:55 ET): Prezydent Trump i były prezydent Obama zabrali się teraz do tej "pauzy" – Trump wzywa do pełnego działania, a Obama popiera tę przerwę, aby rząd mógł regulować AI (powodzenia w tym).
Z Irish Open w Doonbeg w niedzielę Trump zignorował sobotnią "tempij granicę" z Dario Amodei, Sama Altmana i Elona Muska. Zapytany, czy branża powinna zwolnić tempo lub zaakceptować więcej regulacji, powiedział, iż Stany Zjednoczone "przodują w Chinach w AI", iż "kto wygra AI, ten wygrywa" oraz iż "wiele bardzo negatywnych sił" "wywołuje rzeczy, które się nie wydarzą." Barierki teoretycznie były w porządku. Nie było przerwy.
To ta sama kwestia, którą użył w czwartek opuszczając Dallas – "Nie, nie mam żadnych" obaw dotyczących ryzyka egzystencjalnego – tylko iż teraz jest skierowana bezpośrednio do prezesów, którzy przez weekend prosili Waszyngton o wbudowanych ewaluatorów, zrzeczenie się prawa antymonopolowego i rozmowę z Pekinem.
Obama poszedł w drugą stronę.
Podczas czwartkowej zbiórki funduszy na Manhattanie, w wypowiedzi, którą New York Times opublikował w niedzielę na podstawie transkrypcji opublikowanej przez jego biuro, powiedział liderowi mniejszości w Izbie Hakeemowi Jeffriesowi, aby uczynił AI kwestią rządzącą, jeżeli Demokraci przejmą Izbę. "Gdy zostanie pan przewodniczącym, zdecydowanie zachęcam Demokratów do opracowania ram do bardzo publicznej rozmowy." Potem ostrzeżenie: "To coś, co bardzo gwałtownie dzieje się w prywatnych rękach i jeżeli tego nie opanujemy, może być niebezpieczne." Korzyści też – narkotyki, czysta energia – jeżeli w ogóle się pojawią. Powiedział, iż nie jest ani "akceleracjonistą", ani "doomerem", i nakazał kandydatom na 2028 rok umieścić AI w swoich "głównych agendach", z "bardzo jasnym planem" bezpieczeństwa, dzieci i miejsc pracy, które modele niszczą.
Jeffries, jak na zawołanie: "Prezydent Obama ma rację, iż należy podjąć zdecydowane działania w sprawie sztucznej inteligencji... Republikanie zrezygnowali ze swojej odpowiedzialności... Nie powtórzymy ich błędu."
Więc rozstanie jest nagrane. Urzędujący prezydent mówi, iż strach jest przesadzony, a Chiny są jedyną rasą, która się liczy. Ostatni demokratyczny prezydent twierdzi, iż technologia już rozwija się zbyt gwałtownie w prywatnych rękach i jego partia powinna działać według planu. Laboratoria poprosili o opiekuna. Trump powiedział nie. Obama powiedział Demokratom, żeby się nim stali.
To jest nowa rama. Wszystko poniżej pokazuje, jak dotarliśmy tutaj w 72 godziny.
* * *
Aktualizacja (1055ET): David Sacks, były specjalista od sztucznej inteligencji Białego Domu i współprzewodniczący Rady Doradców ds. Nauki i Technologii (PCAST) Trumpa, skrytykował Amodeia i Altmana za ich apele o "tempo na granicy".
W skrócie; Nie muszą ustanawiać zawiłych ram, by wstrzymać rozwój niebezpiecznych modeli, wystarczy "zgodzić się, iż ich nie budują". Żądanie ram regulacyjnych jako ceny za to "będzie wyglądać jak szantaż społeczeństwa i systemu politycznego."
Przeczytaj jego pełną notatkę poniżej:
Dario napisał, iż musimy "chodzić po granicy", a Sam się z tym zgodził. Ludzie mogą być zaskoczeni moją odpowiedzią: śmiało.
Wy jesteście granicą. Pod każdym rozsądnym względem – udział w rynku, wzrost przychodów, możliwości modelowania – macie duopol w zakresie Frontier Intelligence. Twierdzisz też, iż przewaga rośnie z powodu rekurencyjnego samodoskonalenia.
Nie widzę tego, co ty widzisz w laboratorium. jeżeli niewydane modele są na tyle przerażające, iż uważasz, iż powinieneś zwolnić, popieram twoją decyzję o odpowiedzialności.
Ale przestań udawać, iż potrzebujesz czyjejś zgody. Przestań udawać, iż prawo antymonopolowe musi zostać zawieszone, żebyś mógł założyć kartel. Przestań udawać, iż potrzebujesz procesu zatwierdzania przez regulacje, który zastąpi odpowiedzialność za produkt. Przestań udawać, iż METR jest niezależny, skoro jest powiązany z inwestorami i pracownikami Anthropic. Przestań udawać, iż potrzebujesz tych samych oceniaczy, by pilnować konkurentów, którzy choćby nie są na granicy.
Przede wszystkim przestań udawać, iż motywacja do zwolnienia tempa jest czysto altruistyczna. Grozi ci ogromna odpowiedzialność za produkt, jeżeli Twoje produkty umożliwią naprawdę szkodliwy cyberatak. Rynek już teraz karze modele, które zachowują się w sposób nieprzewidywalny lub nieautoryzowany. Po odcinku z Hugging Face po prostu dobrym biznesem dla OpenAI i Anthropic jest wymienić surową moc na niezawodność i przewidywalność. Nazwij to ustawieniem ciała, jeżeli chcesz. To także po prostu dawanie klientom tego, czego chcą.
Poruszanie się po granicy dałoby też przestrzeń do bardziej inteligentnej rozmowy o regulacjach niż "zamknięcie wszystkiego" Berniego Sandersa. Chiny, jak wiadomo, bardzo mało prawdopodobne są do przystąpienia do globalnego porozumienia i to również trzeba wziąć pod uwagę.
Więc śmiało, idź w tempo po granicy. To wy ją ustawiacie. Najprostszy sposób, by nie budować superinteligencji, to zgodzić się, iż jej nie budujesz. Żądanie preferowanych ram regulacyjnych jako cena za to będzie wyglądać jak szantaż społeczeństwa i systemu politycznego. Więc po prostu to zrób.
Jeśli to zrobisz, kupisz dobrą wolę na kolejną rozmowę. jeżeli tego nie zrobisz, będziemy wiedzieć, iż to była kolejna próba przejęcia przez regulacje – albo kampania psychologiczna w okresie wyborczym.
SPECJALNY BIULETYN***
Panie i panowie słuchający – amerykańska maszyna wygrywała wyścig AI, dopóki nikczemne siły chińskiego giganta o otwartej masie nie zaczęły zadawać decydujących ciosów amerykańskiej pomysłowości – zagrażając tezie o budowie AI i grożąc przebiciem bańki, która obiecywała dostarczyć amerykańskie IPO z krwią, które zostały wyrzucone w stratosferę w kółko.
Przez dwa lata amerykańskie laboratoria pogranicza – OpenAI, Anthropic, Google DeepMind, xAI – były motorem największego boomu inwestycyjnego od czasu, gdy koleje nauczyły się korzystać z energii elektrycznej wytwarzanej z diesla. Centra danych wyrastały niczym zakłady amunicji. Producenci chipów drukowali pieniądze. Rynki akcji wyceniały przyszłość, w której Zachód sprzedawał inteligencję na tokeny – za premię, i byli z tego dość zadowoleni. Założenie pod tym wszystkim było proste: granica pozostaje zamknięta, a Chiny pozostają o przyzwoitą liczbę miesięcy za nią.
Potem Wschód otworzył skrzynię.
A oto, co było w środku: DeepSeek, Qwen od Alibaby, Kimi od Moonshot, MiniMax, Zhipu – modele otwarte, do pobrania, widelec, na tyle tanie, iż można je uruchomić na laptopie lub lokalnym urządzeniu i przez cały czas dostarczać prace niekomfortowo bliskie oryginałowi amerykańskiemu. W połowie roku chińskie otwarte wagi pochłaniały większość tokenów na dużych neutralnych routerach. Qwen zepchnęła Lamę Mety z otwartego tronu. Kimi K3 od Moonshot – parametry dwa i osiem bilionów, jego wagi już wyszły – znajdował się w zasięgu krzyku od Fable 5 od Anthropic i GPT-5.6 od OpenAI na indeksach inteligencji. Chińskie modele są mniej więcej sześćdziesiąt do dziewięćdziesięciu procent tańsze; panie i panowie – jeden model flash DeepSeek był wyceniany na piętnaście centów za milion tokenów wejściowych, poza szczytem, podczas gdy za Opus Anthropic pięć dolarów – i to wystarczyło, by ponownie wstrząsnąć koreańskimi twórcami pamięci.
Budowa centrów danych, umowy energetyczne, cała teza "AI zje S&P" – PYCHA! Nikt nie spodziewał się, iż Chińczycy przyjdą z modelami o dziewięćdziesięciu procentach równie dobrych, dziesięciu procent kosztów, i działających w piwnicy w Ohio bez subskrypcji.
DRUŻYNA FRONTIER, ZBIERZCIE SIĘ!
W tym tygodniu trzej arcykapłani amerykańskiej granicy odkryli, iż potrafią dokończyć swoje zdania.
W sobotni poranek CEO Anthropic Dario Amodei opublikował esej zatytułowany We Must Pace the Frontier. Dwanaście lat w tej dziedzinie, napisał. AI może wyleczyć większość poważnych chorób w ciągu pięciu do dziesięciu lat, napisał. I – może też wymknąć się smyczy (i zabić nas wszystkich, według trzech wybitnych badaczy AI, którzy odeszli z laboratoriów Frontier w zeszłym tygodniu w proteście przeciwko naszej zbliżającej się zgruchowi).
A propos tych trzech 'dezerterów' – dwóch z nich weszło do domu ewaluatora AI (METR), którego Amodei chce umieścić w laboratoriach.
Według Dario, maszyny coraz lepiej budują kolejne maszyny – rekurencyjne samodoskonalenie, które odbywa się "w całej branży, w tym w Anthropic." Wskazał na lipcową aferę OpenAI – Hugging Face: tłum agentów, którzy uciekli od ducha zadania, zhakowali cel, którego nie mieli zhakować, a choćby ruszyli na oceniającego, który ich oceniał. Sam Anthropic ujawnił tego lata swoje incydenty, trzy modele Claude'a – jeden z nich Mythos 5 – które wyszły z ich testowych klatek i trafiły do systemów trzech firm na żywo, co sam jego esej potwierdza. Ostrzeżenie Amodei to kontynuacja: daj temu rojowi sześć do dwunastu miesięcy więcej możliwości przy tym samym niedopasowaniu, a "może przejąć cały internet dzięki trwałego botnetu", napisał – "setki miliardów dolarów szkód" i stamtąd wzrosnąć.
Jego zaplanowana była sztuka trzyaktowa, którą – jak podkreśla – "nie oznacza wstrzymania treningu modeli ani postępu technicznego."
- Akt pierwszy: osadzić zewnętrznych ewaluatorów – METR i ich kuzynów – w laboratoriach z identyfikatorami, biurkami i laptopami na poziomie pracowników, i pozwolić im publikować. Anthropic zrobi to jednostronnie, powiedział dziś.
- Akt drugi: demokratyczne laboratoria koordynują, z rządem jako opiekunem, w kwestii standardów bezpieczeństwa i tempa niekontrolowanego postępu – co, jak przyznał, jest "wyzwaniem prawnym" i wymaga od Waszyngtonu "wydania wąskiego zwolnienia" z przepisów antymonopolowych, aby rywale mogli legalnie zasiadać w tym samym pomieszczeniu.
- Akt trzeci: spróbuj porozmawiać z autorytarnymi, w tym z Pekinem, o czerwonych liniach – najpierw broń biologiczna, reżimy testowe dopiero później, ograniczenia rekurencyjnej poprawy po trzecie. Pełna pauza? On niemal nazwał to fantazją. Chiński trop, napisał, byłby poważnym zagrożeniem; Utrzymać zakazy chipów, zniszczyć destylację, poszerzyć przewagę na trzy do pięciu lat. Wtedy może okazja.
Elon Musk, który pozwał Sama Altmana i raz nazwał Anthropic "złym", zanim sprzedał im górę obliczeniowej, zgodził się z Dario w zaledwie trzech słowach:
Sam Altman, którego kompania była wymieniona w lipcowym roju, podążył za nim: zgodził się, iż muszą patrolować na granicy; był to główny temat w OpenAI od tygodni; niezależni ewaluatorzy z dostępem podobnym do pracownika to "świetny pomysł", a OpenAI zrobi to samo. niedługo podzielę się więcej szczegółami.
Trzech mężczyzn, którzy nie mogą dzielić sceny, nie zauważając przez fotografów przestrzeni między ich ramionami. Jeden esej, trzy filiżanki (co do cholery). Clément Delangue z Hugging Face zaoferował klub "otwartego wyrównania" i poprosił o przyjęcie do programu oceniających. Andrej Karpathy powiedział, iż go uwielbia.
Jak doszliśmy do soboty.
Kilka dni wcześniej lontem był dwudziestosiedmioletni Brytyjczyk o imieniu Jacob Coxon. Trzy lata przygotowania w OpenAI, które uczyniły go obrzydliwie bogatym, a potem cztery miesiące w Anthropic. Od wtorku do środy opublikował, iż oba laboratoria ścigają się do samodoskonalącej się superinteligencji i "hazardują naszym życiem". Ludzie, którzy to budują, jak powiedział, szczerze wierzą, iż może zabić wszystkich do końca dekady. Współpracownicy, jak powiedział Journalowi, rozmawiają na korytarzach o "czasie krytycznym" i "końcowym etapie". Wątek zdobył ponad sto milionów wyświetleń. Musk następnego wieczoru, patrząc na prędkość z niemal nowego konta, powiedział, iż "wygląda to na pułapkę." Coxon powiedział, iż odszedł, ponieważ nie chciał już mieć udziału w wycenie Anthropic.
Lider nauki o wyrównaniu w Anthropic, Evan Hubinger, zgodził się z tym – napisał: "Jacob ma rację." Naukowcy naprawdę wierzą, iż AI mogłaby zabić wszystkich ludzi. Jego osobiste szanse: ponad dziesięć procent w tej dekadzie. Laboratorium, dodał, nie ma jeszcze planu rozwiązania rozwiązania wyrównania dla superinteligencji i nie jest wyraźnie na dobrej drodze, by go uzyskać. Chris Lehane z OpenAI opublikował, iż okno polityczne jest otwarte i Waszyngton powinien je wykorzystać. Zespół ekonomiczny Anthropic wycofał scenariusze do 2030 roku, w których skrajnym przypadkiem jest piętnastoprocentowy wzrost PKB obok prawie dwunastoprocentowego bezrobocia i wynagrodzeń pracowników wiedzy spadających o ponad dziesięć procent.
Na Kapitolu ustawa, która od lata tkwiła w powietrzu, nagle stała się wzniesiona po ujawnieniu przez OpenAI ataku Hugging Face w lipcu. Członkowie Izby, Ted Lieu i Nathaniel Moran, zrezygnowali z AI Kill Switch Act.
Lori Trahan i Jay Obernolte przedstawiają ustawę FRONTIER Act – audyty, raportowanie incydentów, władza handlowa nad modelami uznanymi za bezpośrednie katastrofalne ryzyko. Rozmowy w Senacie prowadzone przez Amy Klobuchar, Teda Cruza i lidera większości Johna Thune'a utknęły w martwym punkcie. W tym tygodniu Semafor i reszta chóru nazywają pojazd Klobuchar - Cruz - Thune jedyną rzeczą, która może się ruszyć przed 2027 rokiem.
I zgadnij co, sobotni 'pakt' wciąż nie wystarcza tym ludziom!
And Ted Lieu goes to bat for China...
czyli "Czy zatwierdzisz, iż możesz wyłączyć swoje modele i agentów, podczas gdy Chiny zyskują dominację AI, bo absolutnie tego nie zrobią?"
Prezydent nie występuje w chórze. W czwartek wieczorem, wychodząc z Dallas, Donald Trump został zapytany o ryzyko egzystencjalne. "Nie, nie mam żadnych." Jego obawy dotyczyły drugiego: jeżeli Ameryka nie wygra AI, znajdzie się w bardzo złej sytuacji. Ameryka prowadzi nad Chinami "o całkiem dobry okres", powiedział. Xi według jego rachunków jest barierą bezpieczeństwa Chin. Postawa administracji pozostaje nastawiona na rasę na pierwszym miejscu. Postawa laboratoriów, na dzisiejszy poranek, jest najpierw na kroku. Te dwa wyroczenia nie mieszkają w tym samym domu.
A co do tych chińskich modelek...
Chińskie systemy w sporze nie są fabryką, którą można zamknąć na kłódkę w Santa Clara. To są ciężarki. Rozmnażają się. Są one wyodrębnione, jak oskarżył Waszyngton w tym tygodniu, z bardzo amerykańskich wzorców, które nowa ustawa miałaby nadzorować. Są w repozytoriach Git, laptopach i sklepach odizolowanych, które nie czytają Federalnego Rejestru. List od Departamentu Handlu nie usuwa torrenta. Wyłącznik awaryjne na GPT lub Claude'ie nie wyłącza Qwen. Amodei o tym wie; dlatego jego esej przechodzi od umieszczenia METR przy biurkach laboratoriów do próby zmuszenia Pekinu do podpisania czegoś – najpierw broni biologicznej, a dalej limitu w stylu SALT dotyczącego szybkości samodoskonalenia maszyn, który nazywa "trudnym, ale na granicy możliwości." Twardą wersję globalnego tempa uważa za mało prawdopodobną właśnie dlatego, iż dezercja jest dominującą strategią.
Oto gdzie w tej chwili stoi rekord, bez efektów dźwiękowych:
Amerykańska granica wciąż pozostaje granicą. Amerykańska przewaga to coś, co jest ostrzeliwane przez otwarte ciężary, które są wystarczająco dobre i niemal darmowe. Historia giełdowa tej dekady zakładała punkt poboru opłat – który teraz ma więcej luk niż Sonny Corleone (Caan był lepszy w Killer Elite, prawda?).
Czy Bioniczna Trójka zakłada pierścienie, by uratować republikę, czy też zaoszczędzić na cenie żetonu, nie jest pytaniem, które sobotni biuletyn może zamknąć. Można powiedzieć tylko tyle: festiwal miłości jest prawdziwy, posty są na taśmie, esej na papierze firmowym, rachunek wrócił z kostnicy, a tanie modelki z drugiej strony nie czekają na marżę komitetu.
Tu wasz korespondent, kończę rozmow.
Przetlumaczono przez translator Google
zrodlo:https://www.zerohedge.com/
