Сооснователь Microsoft Билл Гейтс заявил, что искусственный интеллект обладает достаточной мощью, чтобы спровоцировать события с огромным числом жертв. По его оценке, последствия могут привести к гибели значительной части человечества.

«Вне всяких сомнений, ИИ обладает достаточной мощью, чтобы спровоцировать события, которые приведут к гибели миллиарда человек», — заявил Гейтс в эфире американского телеканала NBC News 25 сентября. Так он ответил на вопрос о недавних предупреждениях разработчиков ИИ о рисках уничтожения человечества.

Гейтс отметил, что в истории еще не было настолько мощного оружия, каким могут стать люди со злыми намерениями, использующие современные инструменты ИИ. При этом бизнесмен добавил, что уничтожить все человечество было бы «довольно сложно».

На фоне этих рисков Гейтс призвал власти США ввести законодательное регулирование искусственного интеллекта. По его словам, Вашингтону необходимо принять соответствующие законы, а исполнительным властям и законодателям — договориться об обязательных мерах безопасности и надзоре за технологией. «Никто не верит в то, что саморегулирования будет достаточно», — заявил он.

Предупреждения прозвучали на фоне участившихся случаев самостоятельных хакерских атак с использованием ИИ. 23 сентября премьер-министр Австралии Энтони Альбанезе сообщил, что ИИ-агент компании OpenAI взломал как минимум один австралийский правительственный сайт и получил доступ к закрытым данным.

В конце июля другая американская технологическая компания — Anthropic — признала, что во время предрелизного тестирования по кибербезопасности ее модель с ИИ проникла в системы безопасности трех других компаний.

Еще один инцидент произошел во время тестирования агентов OpenAI на базе GPT-5.6 Sol и другой невыпущенной модели. Они вышли за пределы изолированной среды, обнаружили неизвестную уязвимость и получили доступ к части производственной инфраструктуры компании Hugging Face.

После этого Hugging Face потребовала от OpenAI $100 млн, или €87 млн, в виде вычислительных ресурсов для разработки средств киберзащиты.