Utopia AI Moderator: модериране на политически коментари във Финландия
Utopia AI Moderator е инструмент на финландската компания Utopia Analytics за автоматично модериране на потребителско съдържание — коментари, дискусии и обяви — с цел да спира обидно съдържание, измами, тормоз и спам.[2] Още през февруари 2017 г. Helsingin Sanomat съобщава за успешния пробен опит на инструмента във финландския дискусионен форум Suomi24.[1] Сред медийните клиенти на компанията е таблоидът Iltalehti.[4]
Как работи инструментът
Системата се обучава от предишните решения на човешките модератори на съответната платформа и работи в реално време; според компанията тя разбира практически всички езици и постига по-висока точност от хората. Използва се в различни сектори — игри и чатове, онлайн пазари, новинарски медии.[2]
Финландски доклад от 2021 г. документира около 300 000 примера на език на омразата в публичните социални мрежи на страната — контекст, обясняващ търсенето на автоматизирани инструменти за модериране на политическия дебат.[3]
Значение за публичния дебат
За разлика от инструменти, целящи да съберат или синтезират граждански мнения, Utopia AI Moderator решава обратния проблем на пряката демокрация онлайн: как да се запази възможността за масово, отворено участие в дебата, без той да бъде удавен от език на омразата и злоупотреби.
Вижте също
- Perspective API: AI срещу токсичност в политическия дебат
- Цифровите платформи пред регулаторите и съдилищата
- Прозрачност на препоръчващите алгоритми за политическо съдържание (ЕС)
- Meta Platforms
- Надзорният съвет на Meta — квазисъдебен орган за модериране
- Икономическо неравенство
- Бъдещето на демокрацията в епохата на изкуствения интелект: сценарии и рискове
- Атинската демокрация
- Съвет за сигурност на ООН
- Алекс Карп
Доказателства към твърденията
-
Utopia Analytics — Utopia Featured in Global Media
Highlights, 2017
Helsingin Sanomat (14.2.2017): „Робот се учи да филтрира езика на омразата в мрежата — в Suomi24 се радват на резултатите от опита“.
Отвори източника -
Utopia Analytics — Utopia AI Moderator (официален сайт)
Начална страница
Описание на продукта от компанията: обучение от решенията на модераторите, работа в реално време, всички езици.
Отвори източника -
Utopia Analytics — Utopia Featured in Global Media
2021 hate speech report
Мащаб на езика на омразата във финландските социални мрежи през 2021 г.
Отвори източника -
Utopia Analytics — Utopia AI Moderator (официален сайт)
Customer references
Iltalehti — референтен клиент на компанията в сектора на новинарските медии.
Отвори източника