Bodyguard
Bodyguard biedt een technologie op basis van verschillende lagen artificiële intelligentie, die mensen realtime bescherming tegen cyberpesten biedt.
Infrastructure
De Bodyguard-infrastructuur bestaat uit drie Public Cloud-instances:
- een voor het managen van de databases
- een andere voor de technologie en de machine-learningmodellen
- een andere voor de systemen die de mobiele applicatie draaiende houden door de commentaren te verzamelen en ze met de technologie te analyseren
En om back-ups aan te maken gebruikt Charles een andere service van de OVHcloud Public Cloud: Cloud Archive (momenteel alleen beschikbaar in Frankrijk). Hij kan het gebruiken voor langetermijngegevensopslag tegen lagere kosten, waarbij veiligheid en herstel van gegevens nog steeds gegarandeerd zijn.
Probleem & Oplossing
De Uitdaging
De technologie moest de context waarin een commentaar gegeven werd kunnen analyseren, alsmede de persoon of de mensen aan wie het gericht was.
De Bodyguard-technologie moest gemoedstoestanden kunnen begrijpen en interpreteren. Daarom was een artificiële intelligentielaag absoluut onmisbaar om fout-positieve resultaten (als haatdragend gedetecteerde commentaren die het niet zijn) te verminderen en nauwkeurigheid te verbeteren.
De oplossing:
Een gemanagede en gemakkelijk te gebruiken service die de productiefase versnellen kon.
Charles koos ervoor OVHcloud AutoML te gebruiken, een gedistribueerd en schaalbaar machine-learningplatform. Met deze Software-as-a-Service (SaaS)-oplossing kon hij niet alleen de creatie- en implementatieprocessen automatiseren, maar ook het proces om machine-learningmodellen aan te vragen. Hij kon het ook gebruiken om opensourcealgoritmen te integreren, zoals die van scikit-learn.
Het resultaat
Charles heeft het uiteindelijke machine-learningalgoritme in twee jaar ontwikkeld en in een gratis mobiele applicatie geïntegreerd, die sinds oktober 2017 beschikbaar is op Android en iOS. Op dit moment verwijdert Bodyguard haatdragende commentaren in realtime op YouTube, Instagram, Twitter, Twitch en Mixer. In juli 2019 had deze virtuele bodyguard meer dan 40.000 gebruikers met een tevredenheidsscore van 97%. Dit zijn een paar redenen waarom het zo succesvol is:
•90% van alle haatdragende commentaren worden door de app gedetecteerd
•2% foutmarge (fout-positieve resultaten)
•+2 miljoen haatdragende commentaren
verwijderd in 20 maanden