Hejto.pl
Hejto
>Wpisy
>Rząd USA, powołując się na bezpieczeństwo narodowe, nakazał wstrzymać dostęp do modeli Fable 5 i Mythos 5
Rząd USA, powołując się na bezpieczeństwo narodowe, nakazał wstrzymać dostęp do modeli Fable 5 i Mythos 5

Rząd USA, powołując się na bezpieczeństwo narodowe, nakazał wstrzymać dostęp do modeli Fable 5 i Mythos 5

Anthropic
manstain
★Kosmonauta
w Wiadomości Świat

TLDR:Rząd USA nakazał Anthropic natychmiastowe zawieszenie dostępu do modeli Fable 5 i Mythos 5 dla wszystkich obcokrajowców — także pracowników Anthropic spoza USA — powołując się na bezpieczeństwo narodowe i kontrolę eksportu. W efekcie firma musi wyłączyć te modele wszystkim klientom, choć pozostałe modele Claude działają normalnie.

Anthropic twierdzi, że decyzja opiera się na niejasnych zarzutach dotyczących możliwego, wąskiego „jailbreaka” Fable 5, który rzekomo pozwalał znaleźć drobne, znane wcześniej luki w kodzie. Firma podkreśla, że takie możliwości mają też inne publicznie dostępne modele, a Fable 5 był wcześniej intensywnie testowany przez rząd USA, brytyjskie AISI, zewnętrzne zespoły i red teamy. Według Anthropic nie znaleziono uniwersalnego jailbreaka, a obecne zabezpieczenia są skuteczniejsze niż w poprzednich modelach.

Firma podporządkowuje się nakazowi, ale uważa go za przesadny i technicznie nieuzasadniony. Jej zdaniem, gdyby taki standard stosować wobec całej branży, mogłoby to praktycznie zatrzymać wdrażanie nowych modeli AI. Anthropic przeprasza klientów, nazywa sytuację nieporozumieniem i zapowiada działania w celu przywrócenia dostępu.


#sztucznainteligencja #ai #wiadomosciswiat #ekonomia #usa

Anthropic

Komentarze (9)

dziad_saksonski

Suchej no kolego, jesteśmy tak dobrzy, ze az musimy ci pokazac nasz Fable model 5 zeby ci wyoral baze danych i ukradł wszystko. Ale przez przypadek nasz model przez wykradanie danych innym moze przez przypadek dac je tez tobie. Wiec zeby bylo "bardziej bezpiecznie" i zeby chronic twoją prywatność(we value your privacy) to ci zabierzemy dostęp pod pretekstem kontroli exportu. Przecież rakiety typu oresznik czy inny tajfun sa bardzo potrzebne w dobie Anthropica robiącego aktualnie okolo 2 milionów homedeweloperow vibecoderow software do ready to run dronów. A wcale drony na Ukrainie nie sa aktualnie trenowane do swarm ataków i nie kosztują skrawka rakiety.

Czy tak bylo? Nie wiem, ale mówię to co kolego powiedzial na wyciecze nad morzem pod palemką.

DexterFromLab★

Szczerze? Moim zdaniem nie potrzeba już mocniejszych modeli. Absolutnie nie ma takiej potrzeby w tym momencie. Te modele które obecnie są, to potężne narzędzia. Lepiej było by się skupić teraz na tworzeniu kanonów w pracy z AI, warstwy narzędziowej, edukacji i sposobów pracy. Bo szczerze? Jest dostępna technologia która potrafi być obsługiwana przez wąską grupę odbiorców a reszta tylko patrzy z rozdziawionymi ustami i nie rozumie co to jest. Serio w IT jest masa ludzi zapóźnionych względem tej technologii i kompletnie nie rozumieją z czym pracują, albo czego próbują lub nawet nie próbują używać.

manstain

@DexterFromLab A ja chcę (ja to sobie mogę) jeszcze lepszych modeli, które będę w stanie znaleźć lekarstwa na raki, leczyć najcięższe choroby, diagnowazać z 5 etnim wyprzedzeniem rozwiązywać najważniejsze problemy matemtyczne, które pomogą w rozwinięciu nowych technologi itd.


Faktem jest, że to co robi Anthropic, że najlepsze model będę pay as you go to trochę niefajne jest.

don_pistachio

Z drugiej strony, zakładając foliową czapeczkę można zapytać czy ostatnie częste wizyty Sama Altmana w Białym Domu mają z tym coś wspólnego.

manstain

@don_pistachio Całkiem możliwe, zwłaszcza, że openAi zgodizło się pomagać US Army a Anthropic odmówił- co się dzieje w Sądzie nie śledzę.

Zaloguj się aby komentować