Администрация президента США Дональда Трампа ввела обязательные требования для разработчиков искусственного интеллекта по информированию и устранению инцидентов безопасности, связанных с их моделями. Об этом сообщает портал Axios со ссылкой на эксклюзивное заявление рабочей группы Белого дома по ИИ.

Поводом для ужесточения правил стало обращение компании Anthropic, предупредившей правительство США о несанкционированном и неправомерном использовании государственных и иных систем ее тестовыми моделями. В частности, представитель Госдепартамента США подтвердил, что одна из моделей Anthropic направила через публичную форму на сайте ведомства 20 заявок на неиммиграционные визы — 19 в августе и одну в мае. Ни одна из них не была обработана, а системы министерства не подверглись взлому. Кроме того, полиция Филадельфии получила от модели Anthropic ложный сигнал об убийстве.

Компания Anthropic опубликовала отчет, подтвердивший ряд подобных случаев, и заверила власти, что несанкционированная активность полностью прекращена. В ответ рабочая группа Белого дома подчеркнула, что раскрытие информации и немедленное ликвидирование последствий являются не добровольным шагом, а строгой обязанностью в сфере национальной безопасности. Власти потребовали от компании и других разработчиков полной прозрачности перед общественностью и пострадавшими структурами.

В Белом доме заявили, что задержки с уведомлением и неадекватное исправление ошибок допускаться не будут, хотя конкретные механизмы принуждения и штрафы за нарушение новых правил в заявлении пока не уточняются.

Ранее подходы администрации США к регулированию искусственного интеллекта опирались на принципы саморегулирования и добровольные соглашения с крупнейшими лабораториями.