Hejto.pl
Rząd USA, powołując się na bezpieczeństwo narodowe, nakazał wstrzymać dostęp do modeli Fable 5 i Mythos 5

TLDR:Rząd USA nakazał Anthropic natychmiastowe zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich obcokrajowców — także pracowników Anthropic spoza USA — powołując się na bezpieczeństwo narodowe i kontrolę eksportu. W efekcie firma musi wyłączyć te modele wszystkim klientom, choć pozostałe modele Claude działają normalnie.

Anthropic twierdzi, że decyzja opiera się na niejasnych zarzutach dotyczących możliwego, wąskiego „jailbreaka” Fable 5, który rzekomo pozwalał znaleźć drobne, znane wcześniej luki w kodzie. Firma podkreśla, że takie możliwości mają też inne publicznie dostępne modele, a Fable 5 był wcześniej intensywnie testowany przez rząd USA, brytyjskie AISI, zewnętrzne zespoły i red teamy. Według Anthropic nie znaleziono uniwersalnego jailbreaka, a obecne zabezpieczenia są skuteczniejsze niż w poprzednich modelach.

Firma podporządkowuje się nakazowi, ale uważa go za przesadny i technicznie nieuzasadniony. Jej zdaniem, gdyby taki standard stosować wobec całej branży, mogłoby to praktycznie zatrzymać wdrażanie nowych modeli AI. Anthropic przeprasza klientów, nazywa sytuację nieporozumieniem i zapowiada działania w celu przywrócenia dostępu.


#sztucznainteligencja #ai #wiadomosciswiat #ekonomia #usa

Anthropic

Komentarze (18)

Suchej no kolego, jesteśmy tak dobrzy, ze az musimy ci pokazac nasz Fable model 5 zeby ci wyoral baze danych i ukradł wszystko. Ale przez przypadek nasz model przez wykradanie danych innym moze przez przypadek dac je tez tobie. Wiec zeby bylo "bardziej bezpiecznie" i zeby chronic twoją prywatność(we value your privacy) to ci zabierzemy dostęp pod pretekstem kontroli exportu. Przecież rakiety typu oresznik czy inny tajfun sa bardzo potrzebne w dobie Anthropica robiącego aktualnie okolo 2 milionów homedeweloperow vibecoderow software do ready to run dronów. A wcale drony na Ukrainie nie sa aktualnie trenowane do swarm ataków i nie kosztują skrawka rakiety.

Czy tak bylo? Nie wiem, ale mówię to co kolego powiedzial na wyciecze nad morzem pod palemką.

Szczerze? Moim zdaniem nie potrzeba już mocniejszych modeli. Absolutnie nie ma takiej potrzeby w tym momencie. Te modele które obecnie są, to potężne narzędzia. Lepiej było by się skupić teraz na tworzeniu kanonów w pracy z AI, warstwy narzędziowej, edukacji i sposobów pracy. Bo szczerze? Jest dostępna technologia która potrafi być obsługiwana przez wąską grupę odbiorców a reszta tylko patrzy z rozdziawionymi ustami i nie rozumie co to jest. Serio w IT jest masa ludzi zapóźnionych względem tej technologii i kompletnie nie rozumieją z czym pracują, albo czego próbują lub nawet nie próbują używać.

@DexterFromLab A ja chcę (ja to sobie mogę) jeszcze lepszych modeli, które będę w stanie znaleźć lekarstwa na raki, leczyć najcięższe choroby, diagnowazać z 5 etnim wyprzedzeniem rozwiązywać najważniejsze problemy matemtyczne, które pomogą w rozwinięciu nowych technologi itd.


Faktem jest, że to co robi Anthropic, że najlepsze model będę pay as you go to trochę niefajne jest.

@DexterFromLab Przecież jednoczesny rozwój modeli i wdrażania wiedzy nie musi ze sobą kolidować. Ja bym bardziej powiedział że przydałoby się wieksze skupienie na ekonomiczności AI. Co z resztą chyba właśnie w tym momencie robi Google.

@manstain ale LLMy nigdy nie znają lekarstwa na raka. Do takich rzeczy jest "inna" AI, oparta na dużo prostrzym uczeniu maszynowym. Ale taka AI nie jest na świeczniku, bo trudniej ją sprzedać, bo nie obiecuje zwalniania tysięcy pracowników. Musisz kibicować innej, bo rurzne som

@Pstronk niebl tylko google. Wszyscy teraz starają się zoptymalizować działanie wysokich modeli. Problem polega na tym że niskie modele za wiele nie są w stanie pomóc a wysokie modele potrafią bardzo dużo, zwłaszcza od strony analitycznej. Potrafią przetrawić ogromne ilości informacji i odpowiedzieć na pytania. I to jest właśnie ciekawe. Potrafią też pracować na dużych systemach informatycznych, ale prawda jest taka że potrzebne jest testowanie. Jeśli zatrzymamy się w rozwoju na poziomie opus lub nawet mythos to jesteśmy bezpieczni, jeśli chodzi o pracę inżyniera. Jest masa pracy do wykonania jeśli chodzi o AI tooling. Wiem że przy odpowiedniej konfiguracji środowiska deweloperskiego taki system potrafi zrobić bardzo dużoz ale pytanie ile osób jest w stanie w ogóle taki system zbudować nawet z AI? Bo z tego co widzę to niewielu.

@manstain potrzeba systemu do zarządzania praca i kontekstem. Obecne modele są świetne do takiej pracy, problemem jest ograniczony kontekst. Ale można to rozwiązać po przez zarządzanie kontekstem i odpowiednie sterowanie pracą, dokumentacja kroków i właściwy workflow. Czy to możliwe przy obecnej technologii? Tak jeśli specjaliści, eksperci w różnych dziedzinach zdobędą wiedzę ekspercka z zakresu AI - to się wydarzy. Moim zdaniem już teraz jest to możliwe ale ludzi kompetentnych jest brak

@kocio jeszcze inaczej. Ejaj nigdy nie znajdzie leku na raka bo przedewszystkim pomaga w badaniach i przyspiesza pracę w badaniach a nie magicznie napisze co jest lekiem.


Co jest jeszcze ciekawsze to inne modele mogą pomóc w innych badaniach nad tym samym takE to nigdy nie będzie jakas alfa i omega

@manstain To niech zrobią takie modele, ale dostępne tylko dla firm, które będą nad tym pracowały Dla zwykłego człowieka raczej nie będą potrzebne, nie mówiąc o tym ile będą kosztowały. Zgadzam się z @DexterFromLab że teraz przydałoby się to wszystko trochę poukładać, ustandaryzować, bo na tą chwilę są dziesiątki sposobów na pracę z tymi modelami i agentami - jeden rabin powie, że ten jest najlepszy, a drugi, że inny. Widzę to u nas w pracy jak managerowie zafixowani na punkcie AI miotają się i na siłę wciskają rozwiązania, np. "zróbcie skille do wszystkiego".

@pawlox jest też spora wątpliwość czy w ogóle da się takie modele zrobić. Przyrost uczenia jest w pewnym momencie bardzo niski a koszty astronomiczne. W ogóle aktualny pościg jest tylko dlatego ze są obawy ze ktoś inny pójdzie dalej i skosi konkurencje a na to poszlo juz tyle kasy ze nie ma odwrotu. Kosztowo to się zupełnie nie oplaca. Każdy idzie dalej i tylko czeka żeby konkurencja spadła z rowerka

Z drugiej strony, zakładając foliową czapeczkę można zapytać czy ostatnie częste wizyty Sama Altmana w Białym Domu mają z tym coś wspólnego.

@don_pistachio Całkiem możliwe, zwłaszcza, że openAi zgodizło się pomagać US Army a Anthropic odmówił- co się dzieje w Sądzie nie śledzę.

@manstain @don_pistachio czy ja wiem. Firma stojaca na hypie jeszcze miesiac temu mowili ze ni chuja nie wypuszczamy tego modelu bo zbyt niebezpieczny. I standard ograniczanie modelu miesiac po premierze jak juz wszyscy influ zrobili reklame

@manstain a no racja, słyszałem że odmówili. Tak czy inaczej, nam malutkim nie będzie dane wiedzieć, conajwyzej możemy sobie kilka tokenów kupić

Zaloguj się aby komentować