Perspective API: AI срещу токсичност в политическия дебат
Perspective API е безплатен инструмент с отворен код на Jigsaw (звено на Google), който с машинно обучение разпознава токсичен език в онлайн коментари — към момента обработва 500 милиона заявки дневно на шест езика и се използва от водещи медии, включително The New York Times, за модериране на коментари по политически теми.[1]
#изкуствен интелект #модериране на съдържание #медии #публичен дебат
Употреба от медии
The New York Times изгражда собствен инструмент „Moderator“ върху Perspective API, за да приоритизира кои коментари да получат човешки преглед и автоматично да одобрява тези, отговарящи на стандартите на общността, докато платформата Coral на Vox Media дава обратна връзка за тона в реално време на самите коментиращи.[2]
Ефективност
Проучване на OpenWeb върху 400 000 коментара установява, че 34% от потребителите редактират съдържанието си след предупреждение за тон, а 44,7% заменят обидния език — данни, показващи частичен, но измерим ефект върху качеството на публичния дебат.[3]
Вижте също
- Надзорният съвет на Meta — квазисъдебен орган за модериране
- Utopia AI Moderator: модериране на политически коментари във Финландия
- „Blueprint for an AI Bill of Rights“: необвързващата рамка на Белия дом
- „Nexus“ на Юval Ноа Харари: AI и бъдещето на демокрацията
- Принципите на ОИСР за изкуствен интелект
- ОАЕ: първият в света министър на изкуствения интелект
- Рамковата конвенция на Съвета на Европа за изкуствен интелект
- Community Notes: краудсорсинг проверка на факти в X
- ООН: доклад за глобалното управление на изкуствения интелект
- Сингапур: AI Verify — тестова рамка за управление на AI
Доказателства към твърденията
-
AI Business — Jigsaw says its AI-based comment moderation service now processes 500m requests a day
Scale of operations
Мащаб на обработка и брой поддържани езици.
Отвори източника -
AI Business — Jigsaw says its AI-based comment moderation service now processes 500m requests a day
Major adopters
Употреба от The New York Times и Vox Media.
Отвори източника -
AI Business — Jigsaw says its AI-based comment moderation service now processes 500m requests a day
Effectiveness study
Резултати от изследване на OpenWeb за ефективността на инструмента.
Отвори източника