Политика Meta против военного использования Llama, но с исключением для правительственных агентств США
Компания Meta*, стремясь развеять опасения о том, что её открытый искусственный интеллект может быть использован иностранными противниками, объявила о предоставлении доступа к своей серии моделей Llama правительственным агентствам США и подрядчикам в сфере национальной безопасности.
В официальном блоге говорится: «Мы рады подтвердить, что делаем Llama доступным для правительственных агентств США, включая те, которые работают над приложениями в сфере обороны и национальной безопасности, и партнёров из частного сектора, поддерживающих их работу». Среди партнёров — Accenture, Amazon Net Companies, Anduril, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI и Snowflake.
Llama уже используется в различных проектах. Например, Oracle применяет Llama для обработки документов по техническому обслуживанию самолётов, а Scale AI дорабатывает модель для поддержки миссий национальной службы безопасности. Lockheed Martin предлагает Llama своим клиентам из оборонной отрасли для генерации компьютерного кода.
Хотя политика Meta* обычно запрещает использование Llama в военных или шпионских миссиях, компания делает исключение для государственных учреждений США, а также аналогичных учреждений в Великобритании, Канаде, Австралии и Новой Зеландии.
Это решение последовало за отчётом Reuters, в котором утверждалось, что китайские ученые-исследователи, связанные с Народно-освободительной армией Китая, использовали более старую модель Llama, Llama 2, для разработки инструмента для оборонных приложений. Meta* заявила, что использование модели было «несанкционированным» и противоречило политике приемлемого использования.
Использование ИИ в оборонной сфере является спорным вопросом. Согласно исследованию AI Now Institute, ИИ, используемый для военной разведки, наблюдения и разведывательной деятельности, может представлять опасность из-за уязвимостей, таких как предвзятость и склонность к галлюцинациям. Сотрудники нескольких технологических компаний, включая Google и Microsoft, выразили протест против контрактов своих работодателей на создание инструментов и инфраструктуры искусственного интеллекта для вооружённых сил США.
Meta* утверждает, что открытый ИИ может ускорить оборонные исследования и продвигать экономические и оборонные интересы Америки. Однако американские военные пока не спешат внедрять технологию и скептически относятся к её окупаемости. На данный момент армия США является единственным подразделением вооружённых сил США, использующим генеративный ИИ.
Эксперты отмечают, что открытый ИИ может способствовать инновациям и сотрудничеству, но также несёт риски несанкционированного использования и потенциальных угроз безопасности. Поэтому важно обеспечить тщательный контроль и соблюдение политики приемлемого использования при работе с такими технологиями.
* Компания Meta Platforms признана в России экстремистской организацией и запрещена
