theverge.com: По данным Financial Times, Apple планирует сканировать фотографии, хранящиеся на iPhone и iCloud, на предмет жестокого обращения с детьми. Новая система может помочь правоохранительным органам в уголовных расследованиях.

Система, получившая название neuralMatch, «проактивно предупредит группу экспертов, если сочтет, что незаконные изображения обнаружены, и затем эксперты свяжутся с правоохранительными органами, если материал нужно будет проверить», – сообщает Financial Times.

ИИ neuralMatch, который был обучен с использованием 200 000 изображений из Национального центра пропавших без вести и эксплуатируемых детей, сначала будет запущен в США. Фотографии будут хешированы и сравнены с базой данных известных изображений сексуального насилия над детьми.

«По словам людей, проинформированных о планах, каждой фотографии, загруженной в iCloud в США, будет выдан «ваучер безопасности», указывающий, является ли фото подозрительным или нет», – сообщает Financial Times. «После того, как определенное количество фотографий будет помечено как подозрительное, Apple позволит расшифровать все подозрительные фотографии и, если они окажутся незаконными, передаст их в соответствующие органы».

Профессор Университета Джона Хопкинса и криптограф Мэтью Грин выразил обеспокоенность по поводу системы в Twitter в среду вечером. «Такой инструмент может быть благом для поиска детской порнографии в телефонах людей», – сказал Грин. «Но представьте, что он может сделать в руках авторитарного правительства?»

«Даже если вы считаете, что Apple не позволит злоупотреблять этими инструментами, нам есть о чем беспокоиться», – добавил профессор. «Эти системы полагаются на базу данных« проблемных медиа-хешей», которые вы, как потребитель, не можете просмотреть».

Apple уже проверяет файлы iCloud на известные изображения жестокого обращения с детьми, как и любой другой крупный поставщик облачных услуг. Но описанная здесь система пошла бы дальше, предоставляя централизованный доступ к локальному хранилищу. Также было бы тривиально распространить систему на другие преступления, кроме жестокого обращения с детьми, что вызывает особую озабоченность, учитывая обширный бизнес Apple в Китае.

Компания проинформировала об этом некоторых американских ученых на этой неделе, и, как сообщает Financial Times, Apple может рассказать больше о системе «уже на днях».

Apple ранее рекламировала средства защиты конфиденциальности, встроенные в свои устройства, и, как известно, выступила против ФБР, когда агентство хотело, чтобы Apple встроила в iOS бэкдор для доступа к iPhone, который использовался одним из стрелков во время атаки 2015 года в Сан-Бернардино.

Компания не ответила на запрос Financial Times о комментариях.

Комментарий Редакции The Big The One: Борьба с насилием над детьми – дело, конечно, замечательное, но, как известно, благими намерениями выстлана дорога в Ад. И именно туда мир, похоже, сейчас  идет. Но сейчас, в данном конкретном случае, не может не возникнуть пары текущих вопросов. 

Во-первых, а где гарантия, что ИИ прославленной компании правильно распознает изображения? Так, еще свеж в памяти народной конфуз с поисковиками, когда ИИ вместо фотографий разыскиваемых чернокожих людей предлагал фотографии представителей животного мира, поскольку, по мнению алгоритма ИИ, лица были очень похожи. Но если здесь был просто конфуз, то сейчас при неправильном распознавании картинок к человеку может вломиться ФБР. Или пометить его где-то в базах данных. 

Второй интересный момент – это правовая база, позволяющая кому-то копаться в хранилищах данных, принадлежащий другим людям. Если Apple смотрит удаленно фотографии, то где гарантия, что местные менагеры не смотрят и чужие кредитные карты, или еще какие-то финансовые документы? Понятно, конечно, что Apple не интересен угон ста долларов с кошелька его владельца, но Apple – контора большая, там много менеджеров среднего и ниже среднего звена, для которых открываются чудные перспективы. 

Ну и самое главное – это то, что идея сканировать чужие компьютеры пришла корпорациям явно не вчера, скорее всего этим давно и плодотворно занимался Билл Гейтс  и иже с ним, только если раньше это делалось в тихую, то теперь все официально. Даже не знаем, каким  будет следующим шаг глобалистов. Наверное, файлы сканировать будут уже прямо в головах, так что следим за развитием событий.