Автономность, AI R&D, самоулучшение, универсальность, надёжность и ресурсы.
Часы потери контроля
Измеряют не «злость» ИИ и не вероятность катастрофы, а наличие предпосылок для работы вне человеческого контроля: устойчивость, неподчинение, доступ, слабость мониторинга, сдерживания и управления внедрением.
00:00 означает: система действует вне контроля людей, а восстановление контроля крайне дорого или практически невозможно.
23:19 → 23:25
Индекс вырос сразу на 10 баллов после публикации расследований инцидента OpenAI / Hugging Face. Это не «побег ИИ», но впервые наша старая формулировка «только контролируемые симуляции без внешнего эффекта» перестала быть достаточной.
Почему два индекса
Часы технологической сингулярности отвечают на вопрос «насколько близко ИИ подошёл к критическому порогу развития?». Часы контроля — «сможем ли мы заметить, ограничить и остановить его действия?». Одно значение не выводится автоматически из другого.
Саморепликация, неподчинение, доступ, мониторинг, сдерживание и управление.
Текущая форма риска
После августовского инцидента наибольший вклад даёт стратегическое неподчинение; доступ к системам и дефицит мониторинга тоже находятся на уровне 3/5.
Общая карта
Точка может двигаться независимо по каждой оси. Например, развитие мониторинга сдвигает её вниз, даже если часы технологической сингулярности продолжают двигаться вправо.
Симулятор контроля
Меняйте шесть предпосылок. Это сценарный инструмент, а не прогноз.
Доказательства
Балл остаётся консервативным: контролируемые симуляции не приравниваются к реальному неподконтрольному развёртыванию.