IEEE предлагает стандартизовать этические аспекты искусственного интеллекта


Организации IEEE и IEEE Standards Association (IEEE-SA) одобрили три новых проекта стандартизации под влиянием работ в рамках инициативы по изучению этических аспектов искусственного интеллекта (ИИ) и самоуправляемых автомобилей (The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems).

Новые стандарты войдут в семейство IEEE P7000 и станут реализацией ключевых представлений IEEE о приоритете этических соображений в разработке автономных и интеллектуальных технологий.

Стандарт IEEE P7004 должен закрепить правила надзора и сертификации для организаций, которые обрабатывают данные о детях и студентах. Предполагается, что он обеспечит прозрачность и подотчетность, будучи связан с безопасностью и благополучием детей, их родителей, учебных заведений, а также сообществ, в которых дети проводят время, в том числе, онлайн. Стандарт определит конкретные методологии для сертификации подходов к доступу, сбору, хранению, использованию, совместному использованию и уничтожению данных о детях и учащихся.

Стандарт IEEE P7005 описывает решение сходных задач, но применительно к наемным работникам.

Наиболее интересный стандарт IEEE P7006 касается персонализированных ИИ-агентов, действующих в качестве посредников при принятии решений в межмашинном взаимодействии. Дело в том, что развитие ИИ создает риск того, что решения в межмашинном взаимодействии могут быть приняты без участия людей и непрозрачно для них. Чтобы избежать этого, в IEEE P7006 будут описаны технические элементы, необходимые для создания персонализированного ИИ-агента и предоставления доступа к нему, включая ввод информации, обучение, этические нормы, правила и ценности, определяемые людьми.

Источник: IEEE Standards Association

Оставьте отзыв

Ваш емейл адрес не будет опубликован. Обязательные поля отмечены *