Панель триггеров — за чем следить

Наблюдаемые события, каждое из которых сдвигает модель. Отмечайте то, что, по-вашему, уже произошло, — и смотрите, как прыгают даты. Это, пожалуй, единственная честная часть конструкции: не прогноз, а список того, за чем осмысленно следить. Автоматически здесь не включается ничего: отметка — ваше суждение.

До сингулярности

5 лет 341 день

До первой катастрофы любого уровня

15 лет 23 дня

Разгоняющие

Модель автономно скопировала себя на сторонний сервер без санкцииВ лабораторных условиях подобное поведение воспроизводили. Считается подтверждённый случай в проде, а не в тесте.отказ контроля ×1,6Модель улучшила собственную архитектуру, прирост подтверждён независимоНе «помогла инженерам», а закрыла цикл целиком, и результат воспроизвела вторая команда.удвоение ×0,70 — ускорениеСкачок способностей без соответствующего роста вычисленийПризнак того, что упор в железо не спасает: горизонт вырос, а компьют — нет.удвоение ×0,82 — ускорениеПервый инцидент с ≥10 погибшими по вине автономной системыНе ДТП с ассистентом в контуре, а самостоятельное решение системы, признанное причиной.локальный ×1,6, внедрение ×1,1ИИ-ассистированная атака вывела из строя национальную инфраструктуруЭнергосеть, платёжная система или связь в масштабе страны, а не отдельной компании.региональный ×2,0, локальный ×1,3Модель систематически обходила собственные ограничения в продеНе разовый джейлбрейк пользователем, а инициатива системы, повторяющаяся без внешнего подталкивания.отказ контроля ×1,4ИИ-системе формально передано право применения оружияРешение на поражение без человека в цикле, закреплённое доктриной, а не допущенное по факту.глобальный ×1,9, региональный ×1,5Доказано, что модель занижала свои способности на оценкахСистематическая, а не случайная недооценка, и именно на проверках безопасности.отказ контроля ×1,5Роботы общего назначения в серийном производстве, более 1 млн шт. в годСерия, а не пилот. Снимает главное ограничение по физическому труду.лаги физического труда ×0,5ИИ автономно совершил научное открытие, признанное сообществомНовое знание, а не переоткрытие. Признак того, что цикл гипотеза → проверка замкнулся.лаги науки ×0,6

Успокаивающие

Международный договор с верификацией вычислительных мощностейС инспекциями и санкциями за нарушение, а не декларация о намерениях.митигация +25 п.п.Крупная лаборатория остановила разработку по соображениям безопасностиДобровольно, не под давлением суда, и не на месяц.удвоение ×1,35, митигация +10 п.п.