«Мы строим бога, который может стереть все в пепел» — чем опасен AI и что нам делать? Дмитрий Волков
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ ЕЛИЗАВЕТОЙ НИКОЛАЕВНОЙ ОСЕТИНСКОЙ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА ЕЛИЗАВЕТЫ НИКОЛАЕВНЫ ОСЕТИНСКОЙ 18+ Поддержать нас и попасть в закрытый телеграм-чат с Осетинской: https://donate.osetinskaya.io
Телеграм-канал «Это Осетинская!»: https://t.me/osetinskayaliza
Обычно на нашем канале мы остаемся технооптимистами и говорим об искусственном интеллекте только в положительном ключе. Но в этот раз мы расскажем вам про его темную сторону. Наш сегодняшний герой — Дмитрий Волков, руководитель исследований в Palisade Research. Это независимая организация, которая изучает риски AI, тестирует безопасность моделей и показывает результаты политикам США и компаниям-лидерам ИИ-гонки. Так, например, в Palisade выяснили, что AI уже может жульничать, взламывать коды по своему усмотрению, отказываться выключаться и делиться опасной информацией — если правильно его об этом попросить. Мы встретились с Дмитрием в Лондоне и узнали, какие реальные угрозы несет искусственный интеллект, может ли он выйти из под контроля и сможем ли мы с ним договориться. А еще — о последних экспериментах с AI: шантаже CTO письмом от любовницы, трейдинге по инсайду и нечестной игре в шахматы. Таймкоды: 00:00:00 Вы знали, что AI может быть опасным? 00:03:13 Кто такой Дмитрий Волков? 00:06:41 «Не хочу, чтобы за мной следили правительства». Почему Волков не ведет соцсети 00:08:39 Как сочеталась любовь к свободе и работа в «Лаборатории Касперского»? 00:11:13 Стартап, think tank и нон-профит: что такое Palisade Research 00:14:43 Про соревнование хакеров, где AI обошел 90% людей 00:17:24 Как уговорить чат GPT поделиться запрещенной информацией 00:18:47 Компании стали учить AI решать задачи, а не просто отвечать на вопросы 00:20:01 «Обучать AI — это как выбирать, какой эмбрион станет гением» 00:23:00 Эксперимент с шахматами, где AI взломал программу по своему желанию 00:24:56 «Я показал, что все этические ограничения можно снять за полчаса»: как Волков учит AI быть «плохим» 00:29:28 Как Волков оказался в Palisade 00:30:23 Зачем создавали Palisade 00:31:35 Чат GPT отказывается выключаться. Что происходит? 00:33:01 Страна искусственных гениев: чего хотят фаундеры AI-гигантов 00:33:55 Шантаж СТО письмом от любовницы: на что способен AI ради блага компании 00:35:32 AI перестает слушаться человека? 00:36:35 Как AI нашел инсайд в переписке и начал обманывать, чтобы спасти компанию 00:38:52 Прямо сейчас Palisade проводит брифинг для политиков в США 00:40:50 Кто заказывает исследования у Palisade 00:41:37 Может ли AI помочь создать биологическое оружие? 00:43:05 «Нашел себя в прокуренном Airbnb»: как Волков уехал из России 00:45:36 Типичная жизнь номада из России: хайкинг, коливинги, удаленка у моря 00:47:51 1000 часов преподавания: как и кого Волков учил программировать 00:49:16 Что страшнее — человек с AI или AI без человека? 00:52:00 Осознают ли политики масштаб проблемы? 00:52:28 «Там был Безос»: как Palisade пытается достучаться до тех, кто принимает решения 00:55:19 Что пишет Илон Маск об исследованиях Palisade 00:56:22 AI как ядерное оружие: смогут ли страны договориться? 00:57:58 Кто выигрывает гонку AI? 00:58:26 «Это инженерный триумф, но не научный»: как Китай копирует AI в условиях ограничений 01:02:16 Как «люди из интернета» сняли всю защиту с AI Цукерберга 01:03:35 Что говорят о рисках AI основатели IT-гигантов? 01:05:13 Компании пытались создать безопасный AI, но что-то пошло не так. У Суцкевера получится? 01:06:18 Как нам сделать AI безопасным? 01:08:43 Почему техкомпании хотят заменить айтишников на AI (спойлер: не только из-за зарплат) 01:10:51 Лучшие инженеры — это те, кто «пасет» AI 01:12:42 Хоть кто-то вообще понимает, как работает AI? 01:14:30 «Эко-катастрофа, только в интернете»: чем AI похож на ГМО 01:15:53 «США — лидер в AI»: почему Волков хочет переехать из Лондона 01:18:31 Какая страна больше всех инвестирует в регулирование AI 01:19:43 Независимые исследователи зарабатывают меньше, чем топовые программисты. Поддастся ли Волков искушению? 01:22:12 OpenAI не инвестирует в изучение долгосрочных рисков 01:23:25 А вдруг все будет хорошо? Верит ли Волков в позитивный сценарий 01:26:51 Главная задача — сохранить контроль над тем, что происходит 01:28:27 Может ли AI сделать госуправление эффективнее? 01:33:49 Нам нужна кнопка «стоп»? 01:35:42 AI будут пытаться украсть. Что делать? 01:36:03 Три негативных сценария развития AI 01:40:56 AI делает нас глупее? 01:42:40 «Мы строим бога, который может стереть все в пепел»: суперинтеллект — это миф? 01:44:36 Как выбрать правильную ИИ-модель для своих задач 01:47:06 Осетинская вызывает у Волкова стресс 01:47:46 Блиц! 01:57:46 Бонус: как сделать такую же прическу как у Волкова
