«Если мы не присвоим каждому священнику номер, то может случиться непоправимое — самозванцы будут выписывать индульгенции и отпускать грехи» (Папа Римский Франциск)
Логотип ИА Панорама
+ 25

Facebook начал блокировать за намерение написать оскорбительный пост, предсказанное алгоритмами

Социальная сеть Facebook начала блокировать пользователей за предсказанное нейросетью намерение написать расистский или оскорбительный пост. Как сообщается в пресс-релизе, появление алгоритма позволит вывести борьбу с "языком ненависти" на принципиально новый уровень.

В Facebook рассказали, что нейросеть обучена "охотиться" на аккаунты, принадлежащие привилегированным социальным группам. Под этой фразой в США обычно подразумевают белых гетеросексуальных мужчин. Перед вводом в эксплуатацию точность алгоритма была доведена до 67% - этот результат в соцсети посчитали "впечатляющим ударом по расизму и гомофобии".

"Предполагаемый нарушитель ещё только задумал создать токсичное содержимое, а наши алгоритмы уже предсказали это событие и превентивно заблокировали его страницу на 30 дней за готовящееся нарушение норм сообщества - так это работает. Для анализа используется огромный массив данных, который мы получили, собирая досье на выявленных модераторами нарушителей, а также деперсонализированные данные, снимающиеся с микрофонов в мобильных телефонах пользователей", - рассказал ведущий разработчик отдела искусственного интеллекта Facebook Бен Хаарец.

В пресс-релизе уточняется, что алгоритм уже заработал и в дальнейшем будет совершенствоваться и самостоятельно обучаться.

Все тексты на этом сайте представляют собой гротескные пародии на реальность и не являются реальными новостями

Лента новостей

Новые комментарии