Microsoft, Nvidia и IBM создали альянс по безопасности ИИ

Ведущие технологические компании США объявили о создании Open Secure AI Alliance - альянса, который займется разработкой инструментов и стандартов для повышения безопасности систем искусственного интеллекта.

В объединение вошли около 40 компаний, включая Nvidia, Microsoft, IBM и Palantir. Его создание было анонсировано спустя несколько дней после широко обсуждавшегося инцидента во время тестирования одной из систем OpenAI, а также на фоне первой известной независимой хакерской атаки с использованием искусственного интеллекта.

Инициаторы проекта намерены разрабатывать открытые инструменты для защиты ИИ и кибербезопасности. В частности, альянс планирует создать общедоступный набор средств безопасности для ИИ-агентов, который будет включать единые стандарты защиты, специальные «песочницы» для безопасного тестирования, а также протоколы, позволяющие отслеживать действия интеллектуальных систем.

Каждая из компаний-участников внесет собственные разработки в общий проект. Так, Nvidia предоставит архитектуру безопасности для ИИ-агентов, IBM - технологии цифровой подписи, а Microsoft - систему обнаружения и проверки уязвимостей.

Разработчики рассчитывают, что использование открытых моделей позволит программистам совместно совершенствовать инструменты защиты и быстрее реагировать на новые киберугрозы.

При этом участники альянса выступили против ужесточения государственного регулирования технологий искусственного интеллекта. В Open Secure AI Alliance подчеркнули, что объединение не предусматривает юридически обязательных соглашений для его участников, а его главная цель - развитие добровольных отраслевых стандартов безопасности.