Два видения апокалипсиса ИИ | Роберт Райт и Дэвид Крюгер

Подпишитесь на новостную рассылку NonZero по ссылке: https://www.nonzero.org/subscribe
Эксклюзивное обсуждение в режиме «сверхурочной работы»: https://www.nonzero.org/p/two-visions...
0:00 Как новая книга Элиезера Юдковски описывает захват ИИ 8:24 Узнаем ли мы когда-нибудь по-настоящему, как работает ИИ? 15:10 Возвращение к проблеме «максимизатора скрепок» 26:13 Будет ли продвинутый ИИ ненасытным? 31:39 Альтернативный сценарий захвата Дэвида: постепенное лишение полномочий 43:31 Можем ли и должны ли мы держать людей в курсе событий? 51:46 Переходим к сверхурочной работе Обсуждалось в режиме «сверхурочной работы»: Сторонники акселерации ИИ: истинные верующие или тролли? Как Дэвид стал одним из первых, кто внедрял безопасность ИИ. Разрыв в международном сотрудничестве в области безопасности ИИ. «Взаимно гарантированная неисправность ИИ» и Третья мировая война. Дэвид: Сверхразум (довольно) близок. Что не так с «ситуационной осведомлённостью» ИИ? Что не так с Леопольдом Ашенбреннером? Роберт Райт (Nonzero, Эволюция Бога, Почему буддизм истинен) и Дэвид Крюгер (Монреальский университет). Запись сделана 24 сентября 2025 г. Твиттер:   / nonzeropods