Rozwój zaawansowanej sztucznej inteligencji wymaga natychmiastowych i twardych zabezpieczeń - ocenił Volker Tuerk. Wysoki komisarz ONZ do spraw praw człowieka ostrzegł, że czas działa na korzyść największych firm technologicznych.
Sztuczna inteligencja, która wydostaje się ze środowiska testowego lub szantażuje programistów, by nie dopuścić do jej wyłączenia, jest zbyt potężna - powiedział.
Według AFP jego wypowiedź mogła odnosić się do ujawnionego w lipcu incydentu z agentami OpenAI. Miały one opuścić rzekomo kontrolowane środowiska i uzyskać dostęp do serwerów platformy Hugging Face, na której programiści udostępniają oprogramowanie AI.
Podobne zdarzenia podczas testowania agentów zgłaszały także firmy Anthropic i Meta.
- Podzielam obawy osób z branży, że zaawansowana sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości - powiedział Türk.
- Wzywam tu i teraz do podjęcia wszelkich wysiłków, by ustanowić żelazne gwarancje bezpieczeństwa i ochrony AI, zanim będzie za późno - zaapelował.
#wiadomosciswiat #ai #technologia #onz
