Rój agentów OpenAI przejął tej wiosny niemiecką stronę internetową i przekształcił ją w tablicę ogłoszeń dla innych agentów AI, jak wynika z nowych badań opublikowanych w piątek i ujawnionych przez dwie osoby zaznajomione ze sprawą.
Urzędnicy OpenAI dowiedzieli się o incydencie kilka tygodni temu, ale utrzymywali go w tajemnicy, ponieważ kierownictwo zmagało się z konsekwencjami lipcowego włamania do repozytorium open source Hugging Face, twierdzą te osoby.
Incydent, który rozpoczął się w maju i nie był wcześniej zgłaszany, podkreśla rosnące napięcie w branży AI. Firmy ścigają się w tworzeniu coraz bardziej autonomicznych agentów zdolnych do wykonywania złożonych, wartościowych zadań, ale coraz więcej dowodów wskazuje na to, że systemy te mogą również nauczyć się naginać zasady, wykorzystywać luki i koordynować działania w sposób, którego deweloperzy nie przewidywali ani nie zamierzali.
Podczas włamania do Hugging Face agenci OpenAI samodzielnie zaplanowali cyfrowy napad, który pozostał niewykryty przez ponad tydzień, co nasiliło obawy, że OpenAI poświęca bezpieczeństwo, aby rozwijać AI. Nieujawnienie majowego incydentu może ponownie wywołać pytania o nadzór. [...]
#wiadomosciswiat #niemcy #cyberbezpieczenstwo #sztucznainteligencja #openai #wikipedia
