Дерево Мыслей (Tree of Thoughts): Обдуманное Решение Задач Большими Языковыми Моделями
Обзор научной работы, посвящённой новой структуре для решения задач большими языковыми моделями (LLM), названной «Дерево Мыслей» (Tree of Thoughts, ToT). Этот подход расширяет популярный метод «Цепочки Мыслей» (Chain-of-Thought, CoT), позволяя LLM проводить систематический поиск по нескольким логическим путям или «мыслям» для достижения решения. ToT позволяет моделям осуществлять осознанный выбор следующего шага, оценивать промежуточные состояния и выполнять поиск вглубь (DFS) или поиск вширь (BFS), включая откат при необходимости. Эксперименты показали, что ToT значительно улучшает способности GPT-4 в таких сложных задачах, как «Игра в 24», «Креативное письмо» и «Мини-кроссворды», где требуется планирование и логический поиск. В целом, ToT рассматривается как способ дополнить «быструю» (System 1) ассоциативную генерацию LLM «медленной» (System 2), целенаправленной стратегией решения проблем. 00:00 — Дерево Мыслей 00:16 — Почему GPT-4 не может решить эту головоломку? 01:13 — Два типа мышления: Гений с одним изъяном 01:54 — Цепочка Мыслей (CoT) 02:45 — Решение: Дерево Мыслей (The Solution: ToT) 03:51 — Как работает ToT 04:30 — Результаты: Игра в 24 05:05 — Результаты: Креативное письмо 06:20 — Что это меняет? The Bigger Picture Сайт: https://systems-analysis.ru
Wiki: https://systems-analysis.ru/wiki
X (Twitter): https://x.com/system_ru
Telegram: https://t.me/systems_analysis_ru
Tree of Thoughts: Deliberate Problem Solving with Large Language Models Shunyu Yao, Dian Yu, Jeffrey Zhao, Izhak Shafran, Thomas L. Griffiths, Yuan Cao, Karthik Narasimhan https://arxiv.org/abs/2305.10601
#ИИ #искусственныйинтеллект #LLM #большиеязыковыемодели #ToT #TreeofThoughts #деревомыслей #GPT4 #CoT #ChainofThought #цепочкамыслей #промптинг #нейронныесети #машинноеобучение #GoogleAI
