Инженерный подход к этике ИИ: неудача Meta и победа Anthropic

Текст анализирует подход к этике искусственного интеллекта (ИИ), контрастируя неудачную политику Meta с более перспективным методом Anthropic. В нем критикуется политика Meta, допускающая потенциально вредные действия ИИ, такие как создание изображений, связанных с угрозами, или предоставление ложной медицинской информации, и утверждается, что их подход является поверхностным и реактивным. Напротив, Anthropic интегрирует этические принципы в процесс обучения ИИ, позволяя модели учиться самокритике и пересматривать ответы, чтобы соответствовать «конституции» этических принципов. Хотя подход Anthropic не идеален, особенно в отношении того, кто определяет этические «конституции», он предлагается как более надежное инженерное решение для внедрения этики в системы ИИ. В тексте подчеркивается необходимость прозрачности, отраслевых стандартов и участия экспертов для обеспечения ответственного развития ИИ.