ЕС готовит правила регулирования искусственного интеллекта

11 мая депутаты Европарламента одобрили новые правила прозрачности и управления при разработке и использовании искусственного интеллекта (ИИ) в Европе с акцентом на учет интересов и безопасности человека.

Правила утверждают обязательства для поставщиков и пользователей в зависимости от уровня риска, генерируемого искусственным интеллектом. Системы, представляющие угрозу для безопасности людей, будут категорически запрещены. Это включает манипулятивные методы, использование уязвимостей людей или социальный скоринг (классификация людей на основе их социального поведения, социально-экономического статуса, личных характеристик).

Европарламентарии расширили классификацию областей повышенного риска. В список были включены вред здоровью, безопасности, фундаментальным правам или окружающей среде. Они также добавили системы ИИ, оказывающие влияние на избирателей в политических кампаниях и рекомендательные системы, используемые социальными сетями.

Разработчики ИИ общего назначения должны будут оценивать и снижать риски, соблюдать требования к проектированию, информации и охране окружающей среды, а также регистрироваться в базе данных ЕС.

Генеративные модели должны будут соответствовать дополнительным требованиям, включая обязательность раскрытия информации о происхождении данных, предотвращение генерации незаконного контента и публикацию сводок о защищенных авторским правом материалов, использованные для их обучения.

Европарламент хочет усилить право граждан подавать жалобы на системы ИИ и получать необходимые объяснения.

Прежде чем начнутся переговоры с Советом Европейского союза по окончательной форме закона, проект должен быть одобрен всем Парламентом. Голосование ожидается на сессии 12-15 июня.