Perspective API: AI срещу токсичност в политическия дебат
Perspective API е безплатен инструмент с отворен код на Jigsaw (звено на Google), който с машинно обучение разпознава токсичен език в онлайн коментари — пуснат през 2017 г., към февруари 2021 г. той обработва 500 милиона заявки дневно, поддържа шест езика (английски, испански, френски, немски, италиански и португалски) и е възприет от редица големи медийни компании.[1]
Употреба от медии
The New York Times изгражда собствен инструмент „Moderator“ върху Perspective API, за да приоритизира кои коментари да получат човешки преглед и да одобрява онези, които най-вероятно ще преминат проверката, докато платформата за коментари Coral на Vox Media използва Perspective Commenter Feedback — система, която в реално време съобщава на автора колко токсичен изглежда коментарът му.[2]
Ефективност
Контролирано проучване с McClatchy установява, че 40% от коментиращите променят съобщенията си, за да намалят токсичността, 20% се отказват да коментират, а 40% пренебрегват предупреждението и все пак публикуват потенциално обидния коментар. Проучване на OpenWeb върху 400 000 коментара от 50 000 потребители установява, че 34% от потребителите променят коментарите си след подкана от системата, макар че само 54% от редактирания текст отговаря на стандартите на общността; от редактиралите 44,7% заменят или премахват обидните думи — данни, показващи частичен, но измерим ефект.[3]
Вижте също
- Машинно обучение
- Meta Platforms
- Utopia AI Moderator: модериране на политически коментари във Финландия
- Надзорният съвет на Meta — квазисъдебен орган за модериране
- Цифровите платформи пред регулаторите и съдилищата
- Прозрачност на препоръчващите алгоритми за политическо съдържание (ЕС)
- Икономическо неравенство
- Бъдещето на демокрацията в епохата на изкуствения интелект: сценарии и рискове
- Атинската демокрация
- Съвет за сигурност на ООН
Доказателства към твърденията
-
AI Business — Jigsaw says its AI-based comment moderation service now processes 500m requests a day
Scale of operations
Мащаб на обработка и брой поддържани езици.
Отвори източника -
AI Business — Jigsaw says its AI-based comment moderation service now processes 500m requests a day
Major adopters
Употреба от The New York Times и Vox Media.
Отвори източника -
AI Business — Jigsaw says its AI-based comment moderation service now processes 500m requests a day
Effectiveness study
Резултати от изследване на OpenWeb за ефективността на инструмента.
Отвори източника