Разработчики искусственного интеллекта обязались не создавать смертельное автономное оружие.
Осознавая опасность, связанную с возможным использованием военными искусственного интеллекта (ИИ), компании и исследователи, работающие в этой области, предприняли первый конкретный шаг, направленный против появления смертоносного автономного оружия. Они подписали обязательство «не участвовать и не поддерживать разработку, производство, продажу и использование летального автономного оружия».
На сегодняшний день обязательство подписано более чем 160 компаниями и организациями из 36 стран, и 2400 отдельными людьми из 90 стран. Конечно, все они связаны с ИИ. В списке подписавших документ значатся Google DeepMind, университетский колледж Лондона, фонд XPRIZE, ClearPath Robotics / OTTO Motors, Европейская ассоциация ИИ (EurAI), Шведское общество ИИ (SAIS), британский исследователь Демис Хассабис (Demis Hassabis), британский депутат Алекс Собель (Alex Sobel), предприниматель Илон Маск (Elon Musk), видные специалисты в области ИИ Стюарт Рассел (Stuart Russell), Йошуа Бенджио (Yoshua Bengio), Анка Драган (Anca Dragan) и Тоби Уолш (Toby Walsh).
В обязательстве фигурирует понятие «систем смертоносного автономного оружия» (Lethal autonomous weapons systems, LAWS) — оружия, которое может идентифицировать человека, наводиться на него и убивать его без участия другого человека в этом процессе. Другими словами, в LAWS никто из людей не принимает окончательное решение об убийстве — это делает система.
На август намечено заседание ООН по LAWS. Подписавшие обязательство надеются, что их шаг побудит законодателей выработать подобное международное соглашение между странами.
Источник: Future of Life