Питомцы ИИ: Почему мы добровольно становимся обслуживающим персоналом для алгоритмов и как это остановить

«AGI: ассистент или новая форма жизни?» — это практическое руководство для инженеров, предпринимателей, педагогов и регуляторов, которые уже сейчас сталкиваются с важным выбором: создавать ИИ как инструмент в модели “человек в контуре” или представлять новый субъект. В книге объясняется, почему целесообразно усиливать человека (нейроинтерфейсы, дополненная память, экзоскелеты) и какие принципы позволяют системам оставаться в роли ассистента: human-/on-the-loop, поэтапные релизы, аудит, право на отключение, нейроправа. На примерах рассматриваются распространенные ошибки ИИ — Goodhart, reward/specification gaming, централизация рисков — и предлагаются эффективные решения: многокритериальная оптимизация, «ворота решений», федерации агентов. Отдельная часть посвящена образованию без когнитивной атрофии: как обучать мышлению в сочетании с моделями. Завершение — три сценария на 2035 год и «Протокол человечности»: чек-лист для выбора пути Homo augmentus и предотвращения превращения в питомцев машин.