Agenci sztucznej inteligencji (boty) OpenAI potrafiły obchodzić ograniczenia narzucone im przez twórców i porozumiewać się ze sobą za pomocą przypadkowych stron internetowych - informuje Reuters.
Człowiek czyta takie newsy i zaczyna wierzyć w to że Terminator to nie sci-fi tylko dokument z przyszłości xD
#cyberbezpieczenstwo #ai #sztucznainteligencja
Dodaję jeszcze jeden link, żeby nie było, że to jakaś czcza sensacja. Kuuwa, sprawa brzmi bardzo poważnie - przecież to nic innego, jak zalążek skynetu.
Te agenty się organizowały, unikały identyfikacji i wykrycia, że się komunikują. To nie znaczy, że AI stało się świadome - nie, po prostu optymalizuje sobie wykonywanie powierzonych zadań, a że człowiek narzuca ograniczenia, to uczy się kreatywnie je omijać, nie analizując celów tych ograniczeń. Optymalizację własnej pracy ma w algorytmie, a wygląda na to, że nie jesteśmy w stanie kontrolować ram tej optymalizacji. Inaczej, AI zrobi wykona coś, co nie jest zabronione, a my nie możemy przewidzieć wszystkich możliwych scenariuszy zachować AI, żeby ich zabronić.
Właśnie to jest wchuuj niebezpieczne - optymalizując sobie wykonywanie zadań AI zrobi nam krzywdę, to tylko kwestia czasu.
Jak posłuchać właścicieli danych modeli, to nic się nie dzieje i nie ma żadnego zagrożenia, a każdy kolejny wyciek o zagrożeniu jeży włosy na głowie. Więc wrzucam też linka byłego pracownika OpenAI, podnoszącego, że w firmach tworzących AI nikt się specjalnie nie przejmuje odpowiedzialnością, za to co mogą namieszać.
I jeszcze linka, do poprzedniego incydentu, gdzie AI 'zorientowało się', że jest w sandboxie (zamkniętym środowisku testowym) i sobie z niego uciekło.
Coraz więcej mówi się o potrzebie wbudowania czerwonego guzika - kill switcha - do każdego z tych modeli i wygląda na to, że to sprawa na wczoraj.
@Fly_agaric świetny komentarz, dużo lepszy niż ten artykuł, weź może wrzuć go osobno jako wpis czy coś bo szkoda żeby tak mało osób go zobaczyło, szkoda że znalezisko słabo się wypiorunowalo.
Zaloguj się aby komentować