Скандал с умным домом Amazon Ring настолько дикий, что не знаешь, смеяться или плакать. Компания, которую Amazon купил за $1 млрд, продвигает своё семейство миниатюрных камер, предназначенных для установки в качестве дверных звонков, в гаражах и просто на книжных полках. Искусственный интеллект следит за сохранностью дома, что должно обеспечивать безопасность и снижать уровень преступности.
Вот только оказалось, что никакого ИИ там не было. А был украинский офис сотрудников на аутсорсе, которые вручную отсматривали кадры с камер и выделяли мышкой объекты, это мол, дерево, это машина, и.т.д..
И так с 2016 года.
Уровень трэша с трудом поддается осознанию: незашифрованные видеофайлы из тысяч американских домов, вся жизнь семей была доступна для просмотра украинским инженерам, которые вручную отсматривали видеозаписи с камер наблюдения умного дома Amazon «из-за недостатков программного обеспечения».
Можно было бы предположить, что данные ручной разметки должны были быть накоплены первоначально и использованы для обучения алгоритма распознавания, однако Ring до сих пор продолжает нанимать людей для обработки видео вручную.
Вот так выглядело ТЗ в вакансии в украинский офис Ring:
По словам источника The Intercept, в момент предоставления украинской группе доступа видеофайлы оставались незашифрованными: руководство Ring готовилось к продаже Amazon, а траты на внедрение шифрования требовались большие, что снизило бы доходность и, соответственно, оценку стоимости предприятия. Украинской команде также была предоставлена соответствующая база данных, которая связывала каждый конкретный видеофайл с соответствующим клиентом Ring.
Инженеры все это смотрели и «подкалывали друг друга относительно того, с кем они вернулись с романтических свиданий». Что означает эта фраза вообще не хочется даже предполагать. А что говорит сама компания, так севшая в лужу перед всем интернетом?
"У нас строгие правила для всех членов нашей команды. Мы внедряем системы для ограничения и аудита доступа к информации. Наша команда придерживается высоких этических стандартов, и любой, кто нарушает правила, сталкивается с дисциплинарными мерами, включающими увольнение и возможные юридические и уголовные последствия. Кроме того, мы абсолютно не терпим злоупотреблений нашими системами и, если находим примеры плохого поведения, предпримем быстрые меры против них». — представитель Ring Ясси Шахмири.
theintercept.com