Министерство обороны формирует оперативную группу по искусственному интеллекту, чтобы помочь улучшить разведку и боевое планирование.

Источник: Бумага

Репортер Фан Сяо

Источник изображения: сгенерировано Unbounded AI

Лимская рабочая группа будет оценивать, синхронизировать и использовать возможности генеративного ИИ в Министерстве обороны, а также будет использовать партнерские отношения между Министерством обороны, разведывательным сообществом и другими государственными учреждениями.

Риск «галлюцинаций» слишком высок для больших языковых моделей во многих случаях использования, таких как «все, что движется» или при работе со смертельным оружием.

10 августа по местному времени Министерство обороны США объявило о создании рабочей группы по генеративному искусственному интеллекту (ИИ), называемой рабочей группой Лимы (Lima), которая будет анализировать и интегрировать генеративный искусственный интеллект, такой как большая языковая модель ( LLM) Министерства обороны. Интеллектуальные инструменты играют ключевую роль.

"Ответственное внедрение"

«Формирование оперативной группы в Лиме подчеркивает твердую приверженность Министерства обороны лидирующим инновациям в области искусственного интеллекта, — сказала заместитель министра обороны Кэтлин Хикс, руководившая формированием группы. наше внимание по-прежнему сосредоточено на обеспечении национальной безопасности, минимизации рисков и ответственной интеграции этих технологий.Будущее национальной обороны заключается не только в внедрении передовых технологий, но и в дальновидности, ответственности и большей приверженности нашей нации.Глубокое понимание широкомасштабные последствия для достижения этого».

Лимская рабочая группа, возглавляемая Главным управлением цифрового и искусственного интеллекта, будет оценивать, синхронизировать и использовать возможности генеративного ИИ в Министерстве обороны, а также будет использовать партнерские отношения между Министерством обороны, разведывательным сообществом и другими государственными учреждениями.

Главное управление цифрового и искусственного интеллекта начинает свою работу в июне 2022 года и занимается интеграцией и оптимизацией возможностей ИИ в Министерстве обороны.

Министерство обороны США заявило, что, используя генеративные модели искусственного интеллекта, оно стремится улучшить свои операции в области ведения войны, торговли, здравоохранения, боевой готовности и политики. «Мы также должны учитывать, в какой степени наши противники будут использовать эту технологию, и стремиться подорвать наше понимание решений на основе ИИ», — сказал Крейг Мартелл, глава отдела цифрового и искусственного интеллекта в Министерстве обороны.

"Министерство обороны признает потенциал генеративного искусственного интеллекта для значительного улучшения разведки, оперативного планирования, а также административных и бизнес-процессов. Тем не менее, ответственное внедрение является ключом к эффективному управлению связанными рисками". Мануэль Ксавье Луго, член Совета по алгоритмической войне Главного управления искусственного интеллекта.

По сообщению военного СМИ США «Defense One», оперативная группа также поможет Пентагону лучше понять, что необходимо закупить для достижения новых целей искусственного интеллекта, которые могут включать в себя больше облачных сервисов, данных или синтетических данных и моделей.

** Как решить проблему "иллюзии"? **

Генеративный искусственный интеллект генерирует новые выходные данные на основе обученных данных. К таким общедоступным инструментам относятся чат-боты, основанные на больших языковых моделях, таких как ChatGPT, которые могут писать новый текст, похожий на человеческий. Он использовался для написания статей, бизнес-планов и даже научные статьи. Но поскольку большие языковые модели обучаются на массивах данных из Интернета, иногда они могут лгать, что называется «галлюцинациями». По этой причине официальные лица Пентагона открыто заявляют о своем нежелании использовать генеративный ИИ.

«Министерство обороны должно ответственно стремиться к внедрению генеративных моделей ИИ, определяя при этом соответствующие меры безопасности и снижая риски для национальной безопасности, которые могут возникнуть из-за таких проблем, как неправильное управление учебными данными», — сказал Мартел. Он отметил, что существует много случаев использования, когда риск «галлюцинации» слишком высок, чтобы использовать большие языковые модели, такие как «все, что движется», или при работе со смертельным оружием. Министерство обороны должно понимать, где их можно безопасно использовать, а где злоумышленники могут их развернуть.

Один из вопросов заключается в том, достаточно ли у Министерства обороны данных для работы генеративного ИИ. В то время как у отдела есть множество тщательно отобранных внутренних данных, множество диагностических данных реактивных двигателей или многолетние кадры наблюдения беспилотников на Ближнем Востоке не подходят для больших языковых моделей.

«Это открытый вопрос, достаточно ли у нас данных, охватывающих достаточно широкий диапазон, чтобы поддерживать ценность модели без предварительно обученных данных. С другой стороны, моя гипотеза состоит в том, что предварительно обученные данные Чем больше, тем более вероятно, галлюцинации. Так что это компромисс, который мы должны изучить. Я не знаю, и я действительно не думаю, что научное сообщество еще знает ответ», — сказал Мартел.

По крайней мере, одна из причин, по которой такие инструменты, как ChatGPT, сейчас не подходят Министерству обороны, заключается в том, что для получения подходящих результатов требуется объем инженерных работ. По словам Мартела, длинное дерево подсказок подходит для любителей, но операторам, которым приходится выполнять сложные задачи, с самого начала нужен интуитивно понятный и более функциональный интерфейс.