Стартап Clearview AI тестирует ИИ-инструмент для автоматического поиска информации о человеке после его идентификации по лицу. Прототип под названием InquiryIQ способен связывать данные из открытого интернета, включая аккаунты в соцсетях, адреса, работодателей и предполагаемые связи, пишет WIRED.
Журналисты обнаружили инструмент в файлах, которые страница авторизации Clearview AI отправляла в браузер еще до входа пользователя в систему. В них содержались код интерфейса, инструкции, предупреждения и описания функций. WIRED не получил доступ к серверной части InquiryIQ, поэтому не смог независимо проверить, насколько полно реализованы заявленные возможности.
От распознавания лица к цифровому профилю
Clearview AI традиционно позиционировала распознавание лиц как способ получить возможную зацепку для дальнейшего расследования. Если совпадение находилось, сотрудник должен был самостоятельно проверять связанные с человеком сведения.
InquiryIQ автоматизирует часть следующего этапа: после передачи исходных данных система должна самостоятельно искать по интернету и изображениям, открывать страницы и анализировать найденные фотографии.
На основе результатов прототип формирует Candidate Graph с возможными личностями и связями между ними. В профиль могут попадать предполагаемые адреса, номера телефонов, работодатели, псевдонимы, страницы в соцсетях, сведения об арестах и связанные с человеком лица.
В интерфейсе также предусмотрено указание возраста, пола и расы. Согласно изученному WIRED коду, эти параметры должны помогать ИИ принимать «более обоснованные решения» во время поиска. Как именно демографические характеристики влияют на результаты, неизвестно.
Компания утверждает, что правоохранительные органы никогда не использовали InquiryIQ. Прототип не предлагали клиентам и в нынешнем виде выпускать не планируют.
Стартап предупредил в интерфейсе, что автоматически найденные демографические сведения, аккаунты в соцсетях и данные об арестах могут быть неверными. Пользователю необходимо принять или отклонить каждую находку и подтвердить, что проверил ее независимо. Однако профессор права Бостонского университета Вудро Харцог усомнился, что этого достаточно:
«Человеческий контроль — слабое утешение», — отметил он.
По его мнению, со временем сотрудник, проверяющий выводы автоматизированной системы, рискует превратиться в формального подтверждающего ее решения.
Разные ИИ-модели и автоматизация
В интерфейсе InquiryIQ можно было выбирать систему для анализа. Среди вариантов WIRED обнаружил модель от SpaceXAI и Amazon Bedrock — платформу для доступа к инструментам сторонних разработчиков. Представители Amazon в комментарии изданию заявили, что AWS не участвует в разработке инструмента.
Опрошенные WIRED эксперты указали, что подобные системы способны сократить ручную работу, которая раньше занимала у следователей часы или дни.
Харцог обратил внимание на обратную сторону автоматизации. Трудоемкость сбора разрозненных сведений сама по себе ограничивала масштабы наблюдения: проверять таким способом большое количество людей было дорого и сложно. InquiryIQ потенциально снижает этот барьер, поскольку может автоматически связывать сведения, которые раньше приходилось искать в разных источниках вручную.
Профессор Университета Джорджа Вашингтона Эндрю Гатри Фергюсон отметил и возможное преимущество таких систем. Если они сохраняют промпты, поисковые запросы, выбор моделей и последовательность действий, ход расследования может стать проще для последующего аудита.
«Это светлая сторона потенциально проблемного и разрушительного изменения», — отметил Фергюсон.
Clearview AI заявляет, что ее база сейчас содержит более 70 млрд изображений из общедоступных интернет-источников. По данным компании, технологией пользуются более 2000 правоохранительных ведомств США.
https://forklog.com/exclusive/ai/ne-smotri-na-menya
Напомним, в 2023 году появилась информация, что американские полицейские задействовали систему распознавания лиц Clearview AI почти 1 млн раз. Глава компании Хоан Тон-Тэт тогда заявил, что сотни правоохранителей используют технологию стартапа по всей стране, и оценил объем базы примерно в 30 млрд изображений.
Ранее власти Франции оштрафовали Clearview AI на 20 млн евро за незаконную обработку персональных данных и потребовали прекратить сбор информации о гражданах страны.
