W WikiBсвободна енциклопедия
Общество · Избори

Политиката на OpenAI за изборите през 2024 г.

Политиката на OpenAI за изборите през 2024 г. е наборът от правила и мерки, с които компанията обявява на 15 януари 2024 г., че ще предотвратява злоупотреби, ще осигурява прозрачност за генерираното от ИИ съдържание и ще насочва към надеждна информация за гласуването.[1] Медиите я представят най-вече като забрана политици и лобисти да използват ChatGPT за официална кампанийна дейност.[2] Спирането на бота Dean.Bot, имитиращ кандидата за президент Дийн Филипс, е първият известен случай, в който OpenAI ограничава употребата на ИИ в политическа кампания.[3]

#изкуствен интелект#избори#саморегулиране#OpenAI
Machine-readable версии: Markdown · Text · JSON · JSON alias

Съдържание на правилата

Според OpenAI правилата трябва да предотвратят злоупотреби като подвеждащи дийпфейкове, мащабни операции за влияние и чатботове, които се представят за кандидати.[4] Докато компанията не разбере доколко инструментите ѝ са ефективни за персонализирано убеждаване, тя не позволява създаването на приложения за политически кампании и лобиране.[5]

Не се допускат и чатботове, които се представят за реални хора (например кандидати) или за институции (например местна власт).[6] Забранени са приложенията, които отказват хората от участие в демократичните процеси, например като представят невярно кога, къде и кой може да гласува или внушават, че гласът е безсмислен.[7]

Генераторът на изображения DALL·E има ограничения, които отклоняват заявки за изображения на реални хора, включително кандидати.[8]

Прилагане: случаят Dean.Bot

Ботът Dean.Bot, който разговаря с хора в реално време от името на Дийн Филипс, е поръчан от подкрепящия кандидата супер PAC „We Deserve Better“ на стартъпа Delphi.[9] Малко преди първичните избори в Ню Хемпшир OpenAI спира акаунта на Delphi, след което ботът е свален.[10]

Според компанията акаунтът съзнателно е нарушавал правилата за API, които забраняват политическите кампании и представянето за друг човек без негово съгласие.[11] Ботът е имал предупреждение, че е инструмент с изкуствен интелект, а не истинският Филипс.[12] Delphi заявява, че погрешно е смятала такова използване за допустимо според условията на OpenAI.[13]

Прозрачност и информация за гласуването

За изображенията от DALL·E 3 OpenAI въвежда цифровите удостоверения на Коалицията за произход и автентичност на съдържанието, които кодират данни за произхода с криптография.[14] Компанията изпробва и „класификатор на произхода“ — инструмент за разпознаване на изображения, създадени с DALL·E.[15]

В САЩ ChatGPT насочва въпросите за процедурата, например къде да се гласува, към сайта CanIVote.org в сътрудничество с Националната асоциация на държавните секретари (NASS).[16] През май 2024 г. OpenAI влиза в управителния комитет на C2PA и въвежда подобно насочване към официалния сайт elections.europa.eu за изборите за Европейски парламент.[17]

Компанията подкрепя и двупартийния законопроект Protect Elections from Deceptive AI Act, който би забранил разпространението на подвеждащо генерирано от ИИ аудио, изображения или видео за федерални кандидати в политическата реклама.[18]

Операция за влияние Storm-2035

През август 2024 г. OpenAI блокира група акаунти в ChatGPT, свързани с иранска операция за влияние, която генерира съдържание за президентските избори в САЩ.[19] Операцията, наречена от Microsoft Storm-2035, използва ChatGPT за дълги статии на пет сайта, представящи се за прогресивни и консервативни медии, и за коментари в дузина профила в X и един в Instagram.[20]

Според OpenAI статиите не са споделяни широко, а повечето публикации в социалните мрежи почти не получават реакции.[21] Още през май същата година компанията прекъсва пет кампании, използвали ChatGPT за манипулиране на общественото мнение.[22]

Данните на OpenAI след изборите в САЩ

В месеца преди изборите около 1 милион отговора на ChatGPT насочват потребителите към CanIVote.org.[23] В деня на изборите и на следващия ден около 2 милиона отговора препращат за резултатите към новинарски източници като Associated Press и Reuters.[24]

По оценка на компанията в месеца преди изборите ChatGPT отказва над 250 000 заявки за изображения с DALL·E на Тръмп, Харис, Ванс, Байдън и Уолз.[25] OpenAI заявява, че не е видяла доказателства операции за влияние, свързани с изборите в САЩ, да постигат широко разпространение или трайна аудитория чрез нейните модели.[26]

Критики и ограничения

Още при обявяването на правилата кореспондентката на NPR по киберсигурност Джена Маклафлин отбелязва, че е трудно да се докаже кой използва чатбот, затова прилагането може да е трудно, особено на местно ниво.[27] TechCrunch сравнява подхода с този на социалните мрежи — блокиране на акаунти едно по едно, когато бъдат открити.[28]

Вижте също

Доказателства към твърденията

  1. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Заглавие и подзаглавие, 15.01.2024
    Отвори източника
  2. NPR — Politicians, lobbyists are banned from using ChatGPT for official campaign business
    Policy introduction
    Отвори източника
  3. Spectrum News NY1 — OpenAI suspends company over Dean Phillips voice bot
    What You Need To Know
    Отвори източника
  4. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Preventing abuse
    Отвори източника
  5. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Preventing abuse — Usage Policies
    Отвори източника
  6. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Preventing abuse — Usage Policies
    Отвори източника
  7. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Preventing abuse — Usage Policies
    Отвори източника
  8. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Preventing abuse
    Отвори източника
  9. Spectrum News NY1 — OpenAI suspends company over Dean Phillips voice bot
    Основен текст
    Отвори източника
  10. Reuters (в Malay Mail) — OpenAI suspends bot developer for mimicking US presidential candidate
    Основен текст
    Отвори източника
  11. Spectrum News NY1 — OpenAI suspends company over Dean Phillips voice bot
    Изявление на OpenAI
    Отвори източника
  12. Spectrum News NY1 — OpenAI suspends company over Dean Phillips voice bot
    What You Need To Know
    Отвори източника
  13. Spectrum News NY1 — OpenAI suspends company over Dean Phillips voice bot
    What You Need To Know
    Отвори източника
  14. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Transparency around AI-generated content
    Отвори източника
  15. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Transparency around AI-generated content
    Отвори източника
  16. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Improving access to authoritative voting information
    Отвори източника
  17. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Update on May 14, 2024
    Отвори източника
  18. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Update on May 14, 2024
    Отвори източника
  19. TechCrunch — OpenAI shuts down election influence operation that used ChatGPT
    Influence operation shutdown, August 2024
    Отвори източника
  20. TechCrunch — OpenAI shuts down election influence operation that used ChatGPT
    Storm-2035
    Отвори източника
  21. TechCrunch — OpenAI shuts down election influence operation that used ChatGPT
    Обхват
    Отвори източника
  22. TechCrunch — OpenAI shuts down election influence operation that used ChatGPT
    Предишни случаи
    Отвори източника
  23. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Update on November 8, 2024
    Отвори източника
  24. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Update on November 8, 2024
    Отвори източника
  25. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Update on November 8, 2024
    Отвори източника
  26. OpenAI — How OpenAI is approaching 2024 worldwide elections (15.01.2024, с допълнения от май, октомври и ноември 2024 г.)
    Update on November 8, 2024
    Отвори източника
  27. NPR — Politicians, lobbyists are banned from using ChatGPT for official campaign business
    Transcript
    Отвори източника
  28. TechCrunch — OpenAI shuts down election influence operation that used ChatGPT
    Анализ
    Отвори източника
Човешки преглед

Предложи промяна

Предложението влиза в опашка за преглед. Нищо не се публикува автоматично.

Не се притеснявайте за формата: можете да поставите обикновен текст, текст от Word или от друг сайт. Шлюзът за формат ще подреди заглавията, списъците и източниците, а рецензент ще провери резултата. Източниците изброете в края под „Източници:“ — по един на ред, със заглавие и адрес.
Модерация

Докладвай проблем

Сигналът отива при човешки модератор. Подаването му не скрива и не променя съдържанието.