Твиттер без порно

Социальная сеть Твиттер разработала обучаемых роботов, которые займутся распознаванием и уничтожением порнографии в постах пользователей.

Роботы созданы по технологии, придуманной участниками стартапа MadBits, который Твиттер купил в прошлом году. По словам сооснователя MadBits Клемента Фарабе, которые приводит The Wired, если систему настроить на распознавание 99% порнографических изображений и другого запрещенного контента, она ошибается лишь в 7% случаев. Обучение роботов происходит очень просто: инженеры загружают в систему всевозможные порнокартинки, машина анализирует их, а потом выявляет аналоги сообщениях пользователей.

Пока в Твиттере, и в других соцсетях идентификация запрещенных изображений и последующая блокировка аккаунтов нарушителей, производится вручную: работники соответствующих отделов реагируют на сообщения пользователей о нежелательном контенте. Это, с одной стороны, дорого, с другой – малоэффективно: прохладное отношение рекламодателей к Твиттеру сохраняется до сих пор во многом из-за их опасений, что продвигаемые ими продукты будут соседствовать с порнографией. К тому же работа губительно сказывается на психологическом состоянии занимающихся ею сотрудников.

Надо заметить, что распознавание запрещенного контента – лишь часть задач разрабатываемой Твиттером технологии Twitter Cortex. Основной ее функцией будет анализ постов пользователей для улучшения таргетирования рекламы.