Бесплатный инструмент Microsoft будет выявлять жестоких детей онлайн

0
35

Microsoft и партнеры работали в течение 14 месяцев, чтобы изобрести метод обнаружения «сексуальных хищников», которые были направлены против несовершеннолетних.

Кампания под названием Project Artemis началась в ноябре 2018 года во время межотраслевого хакатона Microsoft 360 . Как главные спонсоры, за ней стояли не только гигант Редмонда, но и Глобальный альянс WePROTECT и Альянс за достоинство детей . Платформы и службы, где дети потенциально могут стать целями атаки, предложили: Meet Group, Roblox , Kik и Thorn. Вместе была разработана технология, которая анализирует тексты проведенных бесед, а затем определяет, не является ли одно из лиц, участвующих в разговоре, беспокоящим. Проект Artemis использует механизмы искусственного интеллекта для эффективной работы. При обнаружении подозрительного поведения администратору сайта автоматически отправляется предупреждение. Если приложение действительно имеет смысл — администратор должен сообщить об этом в соответствующие отделы.

Как объясняет Microsoft в записи в блоге компании, каждый разговор оценивается по шкале из нескольких пунктов. Несколько запатентованных решений Microsoft были использованы для создания технологии, в том числе в экосистеме Xbox или Skype . Однако производитель не намерен хранить его только для себя. Созданные инструменты будут доступны через Thorn всем компаниям и разработчикам программного обеспечения, которые предлагают своим пользователям функцию чата. Их внедрение в существующие решения должно быть очень простым.