Gevallestudie: Inhoudmoderering
30K+ dokumente web geskrap en geannoteer vir inhoudmoderering
wat daarna streef om die aanlyn ruimte waar ons verbind en kommunikeer te beveilig.
Soos die gebruik van sosiale media aanhou groei, word die
probleem van kuberafknouery het opgeduik as 'n
beduidende hindernis vir platforms wat daarna streef
verseker 'n veilige aanlyn spasie. 'n Verstommende
38% van individue kom dit teë
daaglikse nadelige gedrag,
beklemtoon die dringende vraag na vindingryke
inhoud moderering benaderings.
Organisasies maak vandag staat op die gebruik van
kunsmatige intelligensie om die blywende aan te spreek
probleem van kuberafknouery proaktief.
Kuber sekuriteit:
Facebook se verslag oor die toepassing van gemeenskapstandaarde in die vierde kwartaal het aan die lig gebring – optrede teen 4 miljoen stukke boelie- en teistering-inhoud, met 'n proaktiewe opsporingsyfer van 6.3%
Onderrig:
A 2021 studie het bevind dat 36.5%% van die studente in die Verenigde State tussen die ouderdomme van 12 & 17 jare tydens hul skoolopleiding kuberafknouery ervaar het.
Volgens 'n 2020-verslag is die wêreldwye mark vir oplossings vir inhoudmoderering in 4.07 gewaardeer teen USD 2019 miljard en daar word verwag om teen 11.94 USD 2027 miljard te bereik, met 'n CAGR van 14.7%.
Regte wêreld oplossing
Data wat globale gesprekke modereer
Die kliënt was besig om 'n robuuste outomatiese
inhoud moderering Masjienleer
model vir sy Wolk-aanbieding, waarvoor hulle
was op soek na domein-spesifieke verkoper wat
hulle kan bystaan met akkurate opleidingsdata.
Deur gebruik te maak van ons uitgebreide kennis in natuurlike taalverwerking (NLP), het ons die kliënt gehelp om meer as 30,000 XNUMX dokumente in beide Engels en Spaans in te samel, te kategoriseer en aan te teken om outomatiese inhoudmoderering Masjienleermodel te bou wat verdeel is in Giftige, Volwasse of Seksueel Eksplisiete inhoud kategorieë.
Probleem
- Web skraap 30,000 XNUMX dokumente in beide Spaans en Engels uit geprioritiseerde domeine
- Kategoriseer die versamelde inhoud in kort, medium en lang segmente
- Benoem die saamgestelde data as giftige, volwasse of seksueel eksplisiete inhoud
- Verseker hoë kwaliteit aantekeninge met 'n minimum van 90% akkuraatheid.
Oplossing
- Web het 30,000 XNUMX dokumente elk vir Spaans en Engels van BFSI, Gesondheidsorg, Vervaardiging, Kleinhandel geskrap. Die inhoud is verder verdeel in kort, medium en lang dokumente
- Die suksesvolle etikettering van die inhoud as giftige, volwasse of seksueel eksplisiete inhoud geklassifiseer
- Om 90% gehalte te behaal, het Shaip 'n tweevlak-gehaltebeheerproses geïmplementeer:
» Vlak 1: Gehalteversekeringskontrole: 100% van die lêers moet bekragtig word.
» Vlak 2: Kritieke Kwaliteit Analise Kontrole: Shaips se CQA-span om 15%-20% van die retrospektiewe monsters te assesseer.
Gevolg
Die opleidingsdata het gehelp met die bou van outomatiese inhoudmoderering ML-model wat verskeie uitkomste kan lewer wat voordelig is vir die handhawing van 'n veiliger aanlyn omgewing. Sommige van die sleuteluitkomste sluit in:
- Doeltreffendheid om 'n groot hoeveelheid data te verwerk
- Konsekwentheid om eenvormige toepassing van modereringsbeleide te verseker
- Skaalbaarheid om aan te pas by groeiende gebruikersbasis en inhoudvolumes
- Intydse moderering kan identifiseer en
verwyder potensieel skadelike inhoud soos dit gegenereer word - Koste-effektiwiteit deur die afhanklikheid van menslike moderators te verminder
Voorbeelde van inhoudmoderering
Vertel ons hoe ons kan help met u volgende KI-inisiatief.