Разработчики ИИ предрекают очень опасное развитие событий
Несколько дней назад большая группа специалистов по искусственному интеллекту, в том числе разработчики нейросетей, опубликовали доклад, в котором предупредили о возможном неблагоприятном развитии событий. Авторы доклада опасаются, что, если люди, работающие над созданием новых версий нейросетей, не обратят внимание на эту проблему, очень скоро мы перестанем понимать, как именно и почему нейросети приходят к тому или иному ответу. А это очень опасное развитие событий, особенно учитывая, что в самом ближайшем будущем мы, скорее всего, вступим в эру ИИ-агентов, когда нейросети будут не только собеседниками, но и исполнителями тех или иных действий, в том числе, действующими без нашего контроля. Это видео – фрагмент моего стрима от 23 июля 2005 года, в котором я рассказываю, что именно написано в докладе и чего так опасаются специалисты по искусственному интеллекту. Поддержать мой канал через Patreon (от €4/мес) – / yakutenko Поддержать мой канал через Boosty – https://boosty.to/yakutenko
Мой телеграм-канал "Мозг на полную", посвященный силе воли – https://t.me/full_brains
Тайм-коды: 00:00:00 – разработчики нейросетей выпустили тревожный доклад 00:02:26 – что такое Chain of Thought (CoT) 00:04:17 – почему важно контролировать, как рассуждает ИИ 00:05:19 – сегодня CoT необходима нейросетям. Но так будет не всегда 00:13:51 – будущие ИИ могут начать сознательно скрывать свои рассуждения 00:16:41 – ИИ с новыми архитектурами CoT может быть не нужна 00:17:39 – разработчики могут сами изменять CoT 00:18:39 – какое опасное поведение уже удалось отловить благодаря CoT 00:23:43 – опасное поведение, которое может «пролезть», минуя CoT 00:25:17 – какова вероятность, что предупреждение будет услышано 00:27:45 – сотрудников берлинского Tik-Tok уже уволили из-за ИИ 00:30:00 – какой будет выхлоп у разговоров про безопасность ИИ 00:33:02 – почему ИИ – это не продвинутый калькулятор Мои социальные сети: Блог в фейсбуке – / irina.yakutenko Телеграм-канал "Безвольные каменщики" – https://t.me/kamenschiki
Мои книги: "Воля и самоконтроль. Как гены и мозг мешают нам бороться с соблазнами" https://www.alpinabook.ru/catalog/boo...
https://amzn.to/3TI73iy
Как участник программы Amazon Associates я получаю отчисления от покупок по реферальным ссылкам "Вирус, который сломал планету" https://www.alpinabook.ru/catalog/boo...
