В Силиконовой долине учредители компаний - разработчиков военных технологий с применением искусственного интеллекта поспорили о допустимости переходить критическую границу - разрешить ИИ-технологиям принимать самостоятельное решение об убийстве.
В сентябре соучредитель Shield AI Брендон Тсэнг заявил, что оружие в США никогда не станет полностью автономным, где ИИ будет принимать окончательное решение убивать. Он был уверен, что ни Конгресс, ни общественность не поддерживают такую идею. Однако спустя несколько дней соучредитель компании Anduril Палмер Лаки усомнился в этом, задав вопрос о моральном аспекте противодействия автономному оружию. Он утверждал, что мины, которые не могут отличить мирных жителей от вражеских солдат, могут быть более опасными, чем системы, управляемые ИИ.
Когда его спросили о разъяснении, в компании уточнили, что Лаки не призывает к тому, чтобы роботы сами принимали решение о жизни и смерти, а выражает беспокойство о возможном неправильном использовании ИИ. Его коллега Трэ Стивенс ранее подчеркивал важность человеческого контроля при принятии решений о применении летального оружия. Anduril утверждает, что обе позиции согласованы, поскольку важна ответственность, даже если не каждое решение принимается человеком напрямую.
Позиция правительства США по поводу автономного оружия также неоднозначна. Военные США не закупают полностью автономное летальное оружие, но не запрещают компаниям разрабатывать или продавать его за рубеж. В США были введены добровольные рекомендации по использованию ИИ в военных целях, требующие одобрения высших военных чинов для новых автономных систем, но эти правила не являются обязательными.
Соучредитель Palantir и инвестор Anduril Джо Лонсдейл раскритиковал текущие дискуссии о полном запрете автономного оружия, предложив, как он считает, более гибкий подход. Он призвал политиков лучше разбираться в нюансах ИИ в военных системах, прежде чем принимать решения, которые могут ослабить обороноспособность США.
При этом Anduril и Palantir, настаивают, что политику должны определять избираемые чиновники, а не сами компании. Однако они также подчеркивают, что законодатели должны понимать сложность ИИ в военных конфликтах. Многие в Кремниевой долине и Вашингтоне опасаются, что Китай или Россия первыми выведут на рынок полностью автономное оружие, вынудив США сделать то же самое.
Тем временем украинские чиновники настаивают на большей автоматизации вооружений, надеясь, что это даст им преимущество перед Россией.
«Нам нужна максимальная автоматизация, - сказал министр цифровых преобразований Украины Михаил Федоров в интервью The New York Times. - Эти технологии являются основополагающими для нашей победы».
