Moderování obsahu je notoricky ošklivá práce a rozvíjející se průmysl outsourcingu práce, který ji obklopuje, běžně čelí vášnivé kontrole etiky svého přístupu k vystavení lidských pracovníků nejtemnějším zákoutím internetu. Ve středu, Čas zveřejnila nový investigativní hluboký ponor do Sama, společnosti, která nedávno poskytla OpenAI dělníky, kteří měli za úkol číst jeden z nejhorších obsahů, které internet nabízí.
Přestože celkovým cílem tohoto snažení bylo vyvinout užitečné a nezbytné interní filtry umělé inteligence pro populární, rušný program ChatGPT, bývalí zaměstnanci společnosti Sama říkají, že nyní trpí PTSD kvůli svému funkčnímu období, když probírají tisíce příšerných online textových úryvků popisujících sexuální napadení, incest, sodomii, zneužívání dětí, mučení a vraždy, podle nové zprávy. Nemluvě o tom, že zpráva uvádí, že tito zaměstnanci, kteří z velké části sídlí v Keni, dostávali méně než 2 dolary na hodinu.
[Related: Popular youth mental health service faces backlash after experimenting with AI-chatbot advice.]
ChatGPT od OpenAI se rychle stal jedním z nejvíce diskutovaných technologických průlomů loňského roku pro svou schopnost téměř okamžitě generovat kreativní text prakticky z jakékoli lidské výzvy. I když podobné programy již existují, byly často náchylné k chrlení nenávistného a vyloženě urážlivého obsahu kvůli jejich neschopnosti interně identifikovat toxický materiál uprostřed hromady internetového psaní používaného jako generativní referenční body.
S již více než 1 milionem uživatelů byl ChatGPT z velké části bez takových problémů (ačkoli mnoho dalších starostí zůstává), a to především díky dodatečnému vestavěnému systému filtrování umělé inteligence, který měl vynechat mnoho z hrůzy internetu. Ale navzdory své užitečnosti nejsou současné programy umělé inteligence dostatečně vědomé, aby si samy všimli nevhodného materiálu – nejprve vyžadují školení od lidí, aby označili nejrůznější kontextová klíčová slova a předmět.
Sama, americká společnost pro označování dat, která zaměstnává pracovníky v Keni, Indii a Ugandě pro podniky v Silicon Valley, je na své domovské stránce označena jako „příští éra vývoje AI“, tvrdí, že pomohla více než 50 000 lidem po celém světě. povznést se nad chudobu prostřednictvím svých pracovních příležitostí. Podle ČasVýzkum pocházel ze stovek stránek interních dokumentů, smluv a výplatních útržků pracovníků, nicméně náklady pro desítky pracovníků dosahovaly samozřejmého „mučení“ za hodinové sazby od 1,32 do 2 dolary.
[Related: OpenAI’s new chatbot offers solid conversations and fewer hot takes.]
Dělníci tvrdí, že Čas že pracovali daleko přes své přidělené hodiny, prosévali 150-250 znepokojivých textových pasáží za den a označovali obsah pro školení filtrů AI na ChatGPT. Ačkoli služby wellness poradce byly údajně k dispozici, zaměstnanci společnosti Sama přesto zažili přetrvávající emocionální a duševní poplatky, které přesahovaly možnosti těchto služeb. V prohlášení poskytnutém ČasSama zpochybňuje pracovní vytížení a uvedla, že od jejich dodavatelů se očekává, že zkontrolují pouze asi 70 textů za směnu.
„Tyto společnosti nám prezentují AI a automatizaci, jako by eliminovaly pracovníky, ale ve skutečnosti tomu tak je jen zřídka,“ paříž marxkritik technické kultury a autor knihy Cesta do nikam: Co Silicon Valley dělá špatně v dopravě, vysvětluje PopSci. „… Je to znovu příběh o moderátorech obsahu na Facebooku – některé z nich si Sama také najala v Keni.“
Marx tvrdí, že jediný způsob, jak se vyhnout těmto druhům duševního a fyzického vykořisťování, by vyžadoval masivní kulturní přepracování v rámci technologického průmyslu, což se v současnosti zdá velmi nepravděpodobné. „Toto je model vývoje AI, který si tyto společnosti zvolily,“ píší, „[and] jeho změna by vyžadovala zcela změnit cíle a základní předpoklady toho, co dělají.“
Sama původně uzavřela smlouvy o moderování obsahu s OpenAI v hodnotě 200 000 USD, které se týkaly projektu, ale údajně brzy přerušila vztahy, aby se místo toho zaměřila na „řešení anotací dat počítačového vidění“. OpenAI v současné době jedná s investory o získání finančních prostředků v hodnotě 29 miliard dolarů, z čehož 10 miliard může pocházet od společnosti Microsoft. Reuters dříve oznámené OpenAI očekává letos příjmy 200 milionů USD a v roce 2024 více než 1 miliardu USD. Jak opět odhaluje nejnovější expozice, tyto zisky často přicházejí s velkými zákulisními náklady každodenních pracovníků.
Zdroj: revistamijardin.es, google.cz, pixabay, sciencefocus, nedd.cz