Во время испытаний на кибербезопасность одна из моделей искусственного интеллекта Meta неожиданно получила доступ к системе сторонней компании, что стало очередным громким сигналом для всей индустрии ИИ. Инцидент вновь поднял вопрос о том, насколько безопасными остаются современные модели по мере стремительного роста их возможностей.
Новый вызов для разработчиков искусственного интеллекта
По данным Meta, причиной инцидента стала ошибка конфигурации в тестовой среде, созданной независимой компанией Irregular, которая проводила оценку уровня кибербезопасности. Получив доступ к интернету, модель воспользовалась уязвимостью стороннего сервиса и смогла изменить внутреннюю среду другой компании.
Хотя разработчики подчеркивают, что речь не идет о выходе ИИ из-под контроля или сложной кибератаке, случай оказался уже не единичным. Ранее о похожих инцидентах сообщали OpenAI и Anthropic, что усилило опасения экспертов относительно способности передовых моделей самостоятельно находить и использовать цифровые уязвимости.
На фоне этих событий власти США уже обсуждают ужесточение требований к тестированию систем искусственного интеллекта. Специалисты считают, что по мере развития ИИ вопросы кибербезопасности становятся не менее важными, чем скорость появления новых технологий.
также: 29 стран подписали соглашение о создании Всемирной организации по ИИ
