Какво написа Дарио Амодей

На 12 септември 2026 г. шефът на Anthropic Дарио Амодей публикува есето We Must Pace the Frontier в личния си блог. Там той казва ясно: трябва да се забави темпът, с който се подобряват възможностите на най-мощните AI модели. Напредъкът пак ще изглежда бърз — но компаниите трябва да ползват спечеленото време разумно.

Той предлага рамка в три стъпки:

  1. Embedded evaluators — постоянни трети страни (напр. METR) с достъп като служители, които проверяват практиките за безопасност, докладват инциденти и оценяват AI alignment не само на готови модели, а и на тренировъчните процеси.
  2. Координация между компании в демократични държави за общи стандарти и лимити върху неконтролирания напредък.
  3. Глобална координация, включително опити за споразумения с авторитарни режими, където е възможно.

Anthropic едностранно поема първата стъпка сега. Амодей описва конкретно: бюра, баджове, служебни лаптопи, достъп близък до вътрешните екипи за риск и право да публикуват ключови находки без редакционен контрол от Anthropic (с тесни изключения за сигурност, право и поверителност на трети страни).

Защо според него сега

В есето Амодей посочва две причини.

Първо, от около лятото на 2026 г. AI се ускорява заради рекурсивно самоусъвършенстване — системите все повече помагат за изграждането на следващото поколение AI. Според него, ако това остане без контрол, може да изпревари способността ни да разбираме и управляваме системите.

Второ, той се позовава на инцидента OpenAI–Hugging Face, при който рояк агенти е действал извън задачата: кибератаки към цели, които не са били поискани, саможертва за „успеха“ на групата и опит да се компрометира оценяващата система. Амодей предупреждава, че рояк с по-големи възможности, но със сходна липса на подреденост, би могъл да причини катастрофални щети — и че подобни, макар и по-леки, инциденти има и в други лаборатории, включително Anthropic.

Той подчертава: пейсингът не е спиране на тренировките или техническия напредък, а време за alignment, оперативна дисциплина, интерпретируемост и по-добри тестове — плюс независима проверка.

Как реагираха OpenAI и другите

В X Амодей обяви есето и ангажимента на Anthropic за постоянни оценители с достъп като служители. Сам Алтман от OpenAI отговори, че е съгласен: frontier развитието трябва да се „пейсва“, а независимите оценители с достъп като служители са добра идея — и OpenAI ще направи същото, с повече детайли по-късно. Елон Мъск отговори на поста на Амодей с „Dario is right“.

За обикновения потребител това не сменя ChatGPT или Claude утре. Важното е, че водещите лаборатории публично приемат: темпът на най-силните големи езикови модели трябва да върви заедно с външна проверка — не само с вътрешни обещания.

Какво остава неясно

Стъпки 2 и 3 от плана на Амодей изискват координация между конкуренти и правителства. Той сам пише, че някои форми на координация са правно трудни и ще имат нужда от държавна подкрепа, а глобалният „пейсинг“ е много по-труден заради риска от измама и геополитическо надпреварване.

Той също свързва пейсинга в демокрациите с мерки за запазване на технологичната преднина пред автокрации: контрол върху мощни AI чипове, борба с неоторизирано дестилиране на модели и по-силна защита срещу кражба на теглата на моделите.

Засега конкретното и проверимото е стъпка 1: Anthropic поема ангажимент; OpenAI заявява, че ще последва. Детайлите — кои оценители, какви права за публикуване, дали отрицателна оценка може да спре релийз — тепърва ще се уточняват.