Не стыдно? Пентагон спонсирует ИИ, который научит хорошим манерам

Израильские ученые из Университета Бен-Гуриона выяснили , что искусственный интеллект способен анализировать тексты и определять нарушения социальных норм их авторами. Это стало возможно благодаря применению GPT-3 — большой языковой модели, созданной OpenAI . Как раз она способна автоматизировать создание и анализ контента.

Исследователи применили также метод анализа данных, известный как классификация текста с нулевым выстрелом (позволяет модели классифицировать текст в категории, которые не были известны при обучении). Суть проекта описали следующим образом: «Хотя социальные нормы и их нарушения были много раз изучены в психологии, автоматическое определение социальных норм и их нарушений представляет собой открытую задачу, которая может оказаться крайне важной для ряда проектов... Это открытая задача, потому что сначала нам нужно определить характеристики/сигналы/переменные, указывающие на нарушение... Например, появление на работе в состоянии опьянения и неприглядном виде является нарушением социальной нормы для большинства работающих людей. Однако «обучить» машину или компьютер понимать, что такое неприемлемо — далеко не простая задача».

Разумеется, законы этики отличаются в зависимости от культурных особенностей и места проживания человека, но, по мнению исследователей, реакция на девиантное поведение схожа в разных культурах. «Социальные нормы бывают культурно специфичными и охватывают многочисленные негласные «правила», но эмоциональная реакция окружающих, заложенная в нас эволюцией, может быть гораздо более общей», — отмечается в отчете.

В результате выяснилось, что лучшая стратегия для идентификации социальных нарушений — фокусировка на ограниченном наборе эмоций, таких как вина и стыд. Роль ИИ в том, чтобы распознать, когда пользователь мобильного устройства может испытывать чувство вины за свои действия.

Проект профинансирован DARPA (Агентство перспективных оборонных исследований Пентагона). Организация поддерживает множество научных разработок в надежде найти следующий эффективный инструмент для американской военной индустрии.

Почему именно DARPA заинтересовано в изучении нарушений социальных норм, пока не совсем понятно.