В Казахстане предлагают запретить ИИ-системы, работающие без вмешательства человека

В Казахстане планируют ввести классификацию искусственного интеллекта (ИИ) по уровням риска. Соответствующие нормы включены в проект закона «Об искусственном интеллекте» и поправки к нему, которые были презентованы в мажилисе. Об этом пишет Vlast.kz.

Депутат мажилиса Екатерина Смышляева пояснила, что системы низкого риска не будут подлежать строгому регулированию и смогут развиваться на рынке самостоятельно. Однако системы среднего и высокого риска, связанные с жизнью и здоровьем человека, государственным управлением и принятием решений, будут регулироваться законопроектом.

Согласно документу, в Казахстане запретят создание и внедрение ИИ-систем, которые принимают решения без возможности вмешательства человека. Это направлено на снижение вероятности неконтролируемых последствий.

Закон также определяет статус национальной платформы ИИ, куда планируется привлекать государственные инвестиции.

Разработчики и владельцы ИИ-систем будут обязаны уведомлять пользователей о взаимодействии с ИИ, а также разъяснять принципы его работы.

Отдельный блок поправок направлен на усиленную защиту персональных данных и предотвращение манипуляций. В частности, вводятся строгие ограничения на использование ИИ для оценки людей по социальным, биометрическим и поведенческим характеристикам. Также предлагается запретить создание ИИ, который способен манипулировать поведением человека.