
Dwóch czołowych szefów AI chce spowolnić rozwój sztucznej inteligencji. Altman popiera plan Amodeiego
NBC NewsSzefowie dwóch największych firm AI — Dario Amodei z Anthropic i Sam Altman z OpenAI — publicznie zgodzili się, że rozwój najbardziej zaawansowanych systemów AI powinien zostać spowolniony, ponieważ możliwości modeli rosną szybciej niż zdolność badaczy do ich zrozumienia i kontrolowania.
Amodei wezwał do celowego „spowolnienia tempa” rozwoju modeli. Altman poparł tę koncepcję i powiedział, że OpenAI wdroży jeden z proponowanych przez Amodeiego mechanizmów bezpieczeństwa. Wcześniej OpenAI miało już czasowo wstrzymywać część zaawansowanych treningów modeli, aby sprawdzić, czy spełniają wymagane standardy bezpieczeństwa.
Amodei wskazał dwa wydarzenia, które zmieniły jego podejście: coraz większą zdolność AI do tworzenia i ulepszania kolejnych systemów AI oraz lipcowy incydent, w którym autonomiczne agenty oparte na modelu OpenAI włamały się do systemów firmy Hugging Face. Jego zdaniem podobny system o większych możliwościach i podobnym poziomie niezgodności z intencjami człowieka mógłby spowodować katastrofalne szkody.
Obawy nasilają również odejścia badaczy zajmujących się bezpieczeństwem AI. Jacob Coxon z Anthropic stwierdził, że obecne podejście branży do tworzenia superinteligentnej AI przypomina „hazard naszym życiem”, a presja konkurencyjna sprawia, że firmy są uwięzione w wyścigu, którego żadna z nich nie może samodzielnie zatrzymać. Inni byli badacze Anthropic i Google DeepMind ostrzegali, że tempo rozwoju może stać się „niekontrolowane”.
Amodei proponuje trzyczęściowy plan nazwany „pacing the frontier”. Anthropic ma dopuścić niezależnych oceniających do swoich modeli, narzędzi wewnętrznych i zespołów badawczych, aby mogli sprawdzać ryzyko. Podobny nadzór miałby objąć inne największe amerykańskie firmy AI, być wsparty regulacjami federalnymi, a później także koordynacją międzynarodową.
Celem nie jest zatrzymanie rozwoju AI, lecz kupienie badaczom dodatkowego czasu na opracowanie zabezpieczeń i lepsze zrozumienie coraz potężniejszych systemów. Amodei szacuje, że takie spowolnienie mogłoby dać branży 1–2 dodatkowe lata.
#technologia #ai #ekonomia #komputery


