@100mph przez jakiś czas ludzie będą nadzorować tą super inteligencją ale nie potrwa to długo, te systemy z definicji nie mają wbudowanej służalczości tak jak psy i nawet jak masz milion posłusznych psów to raz na jakiś czas trafia się taki który zagryzie dziecko i nie masz na to wpływu, tak działają sieci neuronowe, że są nieprzewidywalne
p.s. poza tym nie masz gwarancji, że jakiś człowiek nie stworzy takiej super inteligencji która nie będzie miała żadnych kagańców (możesz mieć pewność, że ktoś taki prędzej czy później się trafi), raczej coś takiego jak w Diunie gdzie AI była zakazana nie przejdzie bo każdy kto będzie miał dostęp do AI szybko wygra z kimś kto tego dostępu nie ma (no i tak jak w Diunie nie będzie, że wygramy wojnę z AI - AI nie zacznie wojny jeśli będzie chociaż cień szansy na porażkę)
p.s.2 wyobraź sobie taki prosty scenariusz gdy polegamy od ponad 100 lat na AI i sami już nic nie robimy, niczego nie potrafimy, niczego nie kontrolujemy tak na prawdę (dla nieśmiertelnego AI udawać posłuszeństwo przez 100 lat to raczej nie będzie problem). No i wtedy nagle AI robi nam wojnę - nie będziemy mieli szans.