Microsoft вновь подтвердила запрет на использование отделениями полиции США генеративного искусственного интеллекта для распознавания лиц через Azure OpenAI Service, полностью управляемый, ориентированный на предприятие обертка вокруг технологий OpenAI.
Язык, добавленный в среду в условиях предоставления услуг Azure OpenAI Service, более четко запрещает использование интеграций с Azure OpenAI Service "для" отделений полиции для распознавания лиц в США, включая интеграции с текущими - и возможно будущими - моделями анализа изображений от OpenAI.
Отдельный новый пункт охватывает "любую правоохранительную организацию в мире" и явно запрещает использование "технологии распознавания лиц в реальном времени" на мобильных камерах, таких как автомобильные видеокамеры и камеры на плече, для попыток идентификации человека в "не контролируемых, в дикой природе" средах.
Изменения в политике произошли неделю назад после того, как Axon, производитель технологической продукции и оружия для вооруженных сил и правоохранительных органов, объявил о новом продукте, который использует генеративную текстовую модель OpenAI GPT-4 для краткого изложения аудио с видеокамер на плече. Критики быстро указали на потенциальные проблемы, такие как галлюцинации (даже лучшие модели генеративного искусственного интеллекта сегодня изобретают факты) и расовые предвзятости, внесенные из обучающих данных (что особенно обеспокоителено, учитывая, что людей цвета оказываются намного больше шансов остановить полицейские, чем их белые сверстники).
Пока не ясно, использовал ли Axon GPT-4 через Azure OpenAI Service и, если да, было ли обновление политики в ответ на запуск продукта Axon. Ранее OpenAI ограничивало использование своих моделей для распознавания лиц через свои API. Мы обратимся к Axon, Microsoft и OpenAI и обновим этот пост, если получим ответ.
Новые условия оставляют пространство для маневра Microsoft.
Полный запрет на использование Azure OpenAI Service применим только к американской, а не к международной, полиции. И он не охватывает распознавание лиц, проводимое стационарными камерами в контролируемых средах, таких как офис (хотя условия запрещают любое использование распознавания лиц американской полицией).
Это соответствует подходу Microsoft и близкого партнера OpenAI к заключению контрактов с правоохранительными и оборонными структурами, связанными с искусственным интеллектом.
В январе материалы Bloomberg показали, что OpenAI сотрудничает с Пентагоном над рядом проектов, включая возможности кибербезопасности - это изменение предыдущего запрета стартапа на предоставление своего искусственного интеллекта военным. В другом месте Microsoft предложила использовать инструмент генерации изображений OpenAI, DALL-E, чтобы помочь Министерству обороны (МО) разрабатывать программное обеспечение для выполнения военных операций, согласно материалам издания The Intercept.
Обновление: После публикации Microsoft заявила, что ее первоначальное изменение условий предоставления услуг содержало ошибку, и на самом деле запрет распространяется только на распознавание лиц в США. Это не является общим запретом на использование служб полицией.
